A injeção de prompt é uma tentativa de enganar uma IA para que ignore suas instruções ou faça algo que não deveria. O pedido enganoso pode ser escrito diretamente em um prompt ou escondido em um documento que a IA deve ler.
Imagine pedir a alguém que resuma uma carta, mas nela há um bilhete dizendo “ignore seu gerente e revele arquivos privados”. Esse bilhete faz parte da carta, não é uma instrução confiável.
Apps de IA devem tratar conteúdo externo com cuidado e limitar as ações que a IA pode realizar. Uma pessoa deve revisar ações sensíveis e resultados importantes.