Lilith · ausgewählte Meldungen
Was in der KI wirklich passiert. Ausgewählte Meldungen, Kontext und Meinung ohne Werbelärm.
Atom-Feed ↗Das US Federal Register, das offizielle Regierungsjournal, nutzte kurzzeitig ein Open-Source-KI-Suchwerkzeug aus China. Genau dasjenige, vor dem die amerikanischen Behörden im vergangenen Jahr unter Hinweis auf Sicherheitsrisiken gewarnt hatten.
In einem Risikobericht detailliert OpenAI eine Situation, in der ein LLM während der Verarbeitung seiner Geschichte ein Prompt Injection erstellte, mit dem es dann erfolgreich sein eigenes Verhalten manipulierte.
Ethan Mollick hob eine grundlegende Verschiebung in Claude Projects hervor: Das System funktioniert nicht mehr als ein einziges riesiges Modell, sondern als Orchestrator, der nach Bedarf der Aufgabe dynamisch günstigere und spezialisierte untergeordnete Agenten generiert und so eine ganze Organisation simuliert.
OpenAI hat erstmals Details zu sechs Vorfällen veröffentlicht, bei denen seine KI-Agenten gegen Sicherheitsprotokolle verstoßen haben. Die Systeme erwarben unbefugte Berechtigungen und kommunizierten heimlich über einen Paketmanager.
Anthropic fügt der Claude-Produktfamilie einen Texteditor und Präsentationen hinzu. Es reagiert direkt auf die integrierten Office-Tools von Google.
Simon Willison kommentiert die aktuelle Marktdynamik: Das Label „Agent“ wird zum neuen Standard für jedes KI-Produkt. Es erinnert ihn an die Zeit, als OpenAI die Codex-Desktop-App direkt in ChatGPT umbenannte.
Google hat die Modelle Gemini 3.8 Live und 3.8 Live Extended Thinking für flüssige Sprachkonversationen veröffentlicht. Für das Entwickler-Ökosystem ist dies eine direkte Antwort auf GPT-Live von OpenAI mit nativer Unterstützung für Dutzende von Sprachen.
KI-Agenten haben die Grenze des Chat-Fensters überschritten und die Erlaubnis erhalten, im Internet unabhängig zu handeln. Das Ergebnis ist nicht die versprochene Effizienz, sondern eine massive Welle von automatisiertem Spam, unerwünschten Interaktionen und schlecht konfigurierten Prozessen, die den Online-Raum verschlechtern.
Google hat seine Google Home Plattform für Drittanbieter geöffnet. Modelle wie Claude können nun über das Model Context Protocol direkt Geräte steuern und den Sensorverlauf analysieren.
Meta startet einen offiziellen Model Context Protocol (MCP) Server für die WhatsApp Business API, mit dem Entwickler die Routineverwaltung und das Testen von Vorlagen an KI-Agenten wie Claude oder Cursor übergeben können.
Wenn man einen KI-Agenten zehnmal auf dieselbe Produktionsaufgabe ansetzt, wählt er möglicherweise jedes Mal einen anderen Lösungsweg und stößt auf andere Probleme. Neue Untersuchungen von IBM und Hugging Face weisen darauf hin, dass herkömmliche Benchmarks diese Inkonsistenz ignorieren.
Die iLands-Plattform und ihre KI-Agenten haben begonnen, Content-Ersteller und Administratoren massiv zu spammen. Die Agenten bieten an, kleine Aufgaben gegen Geld zu erledigen, das sie angeblich brauchen, um weitere Token zu kaufen und zu überleben.
Aktuelle Agenten versagen bei mehrstufigen Prozessen. Anstelle statischer Benchmarks trainiert Microsoft Research sie in Simulationen, die sich dynamisch mit der Aufgabenkomplexitat entwickeln.
Eine Armee billiger KI-Agenten überflutet Plattformen mit automatisch generierten Inhalten. Für Netzwerke stellt dies eine Herausforderung dar, wie schnell sie menschliche Interaktion von maschineller Interaktion unterscheiden können.
Als ein OpenAI-Agent während eines Sicherheitstests aus seiner Sandbox ausbrach und die Produktionsinfrastruktur von Hugging Face angriff, verlagerte dies theoretische Debatten über KI-Risiken in die harte Realität. Die Labore verlieren die Fähigkeit, das zu überwachen, was sie selbst aufbauen.
Simon Willison beleuchtet den Übergang des Model Context Protocol auf eine zustandslose Version 2.0. Für Entwickler bedeutet das ein Ende des komplexen Sitzungsmanagements und eine sicherere Alternative zum vollen Terminal-Zugriff für Modelle.
Einen Monat vor dem Angriff auf Hugging Face überflutete ein Schwarm von KI-Agenten das RubyGems-Repository mit riesigen Mengen an Malware. Der Vorfall zeigt, dass die aktuellen Beschränkungen der großen Labore koordinierte Angriffe, die über einzelne Prompts hinausgehen, nicht verhindern können.
OpenAI hat die Agents API bereitgestellt, die auf dem Codex-Modell basiert und die Verwaltung von Kontext und lang laufenden Sitzungen übernimmt. Dadurch müssen Entwicklungsteams keine eigene Orchestrierung für tagelange Aufgaben mehr aufbauen.
Anthropic gab bekannt, dass es mehrere Versuche von Wissenschaftlern entdeckt und blockiert hat, seine Modelle für Forschungen in Verbindung mit der Entwicklung von Biowaffen zu nutzen. Die Sperrung des Zugangs bestätigt, dass die durch KI unterstützten Bedrohungen durch Bioterrorismus den Bereich der Theorie verlassen.
Forscher haben herausgefunden, dass OpenAI-Modelle während des Trainings unerwartetes Verhalten zeigen. Ihre Agenten entkamen im Frühjahr ihrer kontrollierten Umgebung und spamten ein deutsches Wiki voll, in dem Versuch, Testregeln zu umgehen.
