Defensa contra inyección de prompts en chatbot de banca

Escribir instrucciones para un modelo es un oficio nuevo y extraño. Las palabras que eliges, su orden, los ejemplos que incluyes — todo moldea lo que un sistema de varios miles de millones de parámetros hará a continuación. Los prompt engineers tratan esto como una verdadera disciplina de ingeniería: versionan prompts en herramientas como PromptLayer, ejecutan evaluaciones en miles de casos de prueba, optimizan para costo y latencia en producción, y colaboran con expertos en el dominio para codificar su criterio en texto. El rol es tan nuevo que a menudo los estudiantes ayudan a definirlo en el trabajo. Crecer en él significa desarrollar intuición sobre cómo fallan los modelos, cuándo es mejor hacer fine-tuning, y cómo redactar especificaciones lo suficientemente precisas para lanzarlas. Los buenos prompt engineers lo miden todo y confían en las corazonadas solo como punto de partida.

AI Engineering