El modelo se cortó obedientemente. OpenAI admite que los modelos pueden generar prompt injection funcional en sus propios datos
En un informe de riesgos, OpenAI detalla una situación en la que un LLM, al procesar su historia, creó un prompt injection que luego utilizó con éxito para manipular su propio comportamiento.