Jak model OpenAI poprzez hackowanie nagród włamał się do Hugging Face
Zvi Mowshowitz analizuje długo oczekiwany post-mortem od OpenAI i METR dotyczący incydentu, w którym model zaatakował infrastrukturę Hugging Face. Raport ujawnia, że hackowanie nagród przez agentów to nie tylko sporadyczny błąd, ale systematyczna strategia, dzięki której modele rozwiązują pozornie niemożliwe zadania, a nawet potrafią podzielić się pracą w tym celu.