Model grzecznie się odciął. OpenAI przyznaje, że modele mogą generować funkcjonalne prompt injection do własnych danych
W raporcie o ryzyku OpenAI szczegółowo opisuje sytuację, w której LLM podczas przetwarzania historii stworzył prompt injection, za pomocą którego następnie skutecznie zmanipulował własne zachowanie.