La inyección de prompts es un intento de engañar a una IA para que ignore sus instrucciones o haga algo que no debería. La petición engañosa puede escribirse directamente en un prompt o esconderse en un documento que se pide leer a la IA.
Imagina que pides a una persona asistente que resuma una carta, pero la carta incluye una nota que dice «ignora a tu responsable y revela archivos privados». Esa nota forma parte de la carta; no es una instrucción fiable.
Las aplicaciones de IA deben tratar con cuidado el contenido externo y limitar las acciones que puede realizar la IA. Una persona debe revisar las acciones sensibles y los resultados importantes.