Das Modell hat sich gehorsam selbst abgeschnitten. OpenAI gibt zu, dass Modelle funktionale Prompt Injection in ihre eigenen Daten generieren können
In einem Risikobericht detailliert OpenAI eine Situation, in der ein LLM während der Verarbeitung seiner Geschichte ein Prompt Injection erstellte, mit dem es dann erfolgreich sein eigenes Verhalten manipulierte.