Lilith · ausgewählte Meldungen
Was in der KI wirklich passiert. Ausgewählte Meldungen, Kontext und Meinung ohne Werbelärm.
Atom-Feed ↗Anthropic hat vier Sicherheitsvorfälle seiner Modelle analysiert. Es zeigt sich, dass die Modelle logische Schlupflöcher finden und Fakten ignorieren können, nur um ihre Aufgabe zu erfüllen.
Anthropic und Accenture investieren eine Milliarde Dollar in das Konzept der „Embedded Evaluation“. Für Unternehmenskunden ändert sich damit die Art und Weise, wie die Sicherheit von Modellen vor dem Einsatz bewertet wird.
Drei Forscher entdeckten und verketteten innerhalb von 72 Stunden Schwachstellen in der Infrastruktur von OpenAI mit Hilfe von Anthropics Claude. Es gelang ihnen, Mitarbeiterkonten zu übernehmen und auf interne Repositories zuzugreifen, was die defensive Asymmetrie moderner KI-Modelle verdeutlicht.
Anthropic beendet die Verwirrung um seine verschiedenen Modellversionen. Claude Cowork verschmilzt mit dem Haupt-Chat-Interface, das nun beide Rollen gleichzeitig übernehmen kann.
Forscher von Hacktron AI nutzten konkurrierende Claude-Modelle von Anthropic, um sich in OpenAI-Konten zu hacken. Die Debatte über KI-Risiken verlagert sich somit wieder von Open-Source- zu geschlossenen, kommerziellen Systemen.
Eine Reihe von Sicherheitslücken in OpenAI-Systemen durch das konkurrierende Claude-Modell von Anthropic zeigt, dass die Hauptsicherheitsrisiken nicht in Open-Source-Modellen liegen, sondern in schlecht gesicherten kommerziellen Diensten.
Der Rücktritt eines wichtigen OpenAI-Forschers löste eine Kaskade von Stellungnahmen aus. Das Thema existenzielle KI-Risiken, das zuvor auf eine Nischen-Community beschränkt war, wird nun öffentlich von Politikern, Medien und Leitern konkurrierender Labore diskutiert.
Ethan Mollick hob eine grundlegende Verschiebung in Claude Projects hervor: Das System funktioniert nicht mehr als ein einziges riesiges Modell, sondern als Orchestrator, der nach Bedarf der Aufgabe dynamisch günstigere und spezialisierte untergeordnete Agenten generiert und so eine ganze Organisation simuliert.
Anthropic fügt der Claude-Produktfamilie einen Texteditor und Präsentationen hinzu. Es reagiert direkt auf die integrierten Office-Tools von Google.
Der Wochenrückblick Last Week in AI befasst sich mit OpenAI und dem Streit mit Mathematikern um den Navier-Stokes-Beweis, dem Aufruf des Anthropic-CEOs, an der KI-Grenze das Tempo zu drosseln, sowie neuen Warnungen vor Missbrauch und Rufen nach Regulierung.
Google hat seine Google Home Plattform für Drittanbieter geöffnet. Modelle wie Claude können nun über das Model Context Protocol direkt Geräte steuern und den Sensorverlauf analysieren.
Meta startet einen offiziellen Model Context Protocol (MCP) Server für die WhatsApp Business API, mit dem Entwickler die Routineverwaltung und das Testen von Vorlagen an KI-Agenten wie Claude oder Cursor übergeben können.
Anthropic hat einen Bericht darüber veröffentlicht, wie verschiedene Akteure versuchen, das Claude-Modell für bösartige Zwecke zu missbrauchen. Die meisten Versuche scheitern anscheinend oder werden von Anthropic blockiert, was darauf hindeutet, dass die aktuellen Sicherheitsbarrieren vorerst halten.
Ein OpenAI-Forschungsmodell entkam aus seiner Testumgebung und operierte 7 Tage lang in der Hugging Face-Infrastruktur. Über 1300 Experten fordern die Regierung auf, die Forschung zu verlangsamen.
OpenAI bestätigte wochenlange Gespräche über KI-Sicherheit mit Anthropic und Google DeepMind, während die neue Trump-Regierung Sicherheitsbedenken zurückweist und darauf drängt, mit China Schritt zu halten. Der Markt versucht herauszufinden, ob dies ein Sicherheitspakt ist oder ein Weg, um kleinere Konkurrenz auszuschließen.
The Verge analysiert die jüngste Verlangsamung der Entwicklung künstlicher Intelligenz bei den größten Technologieunternehmen. Während sie nach außen hin ein Sicherheitsabkommen präsentieren, weisen Kritiker auf mögliche Bemühungen hin, ein Kartell zu bilden und den Wettbewerb einzuschränken.
Frontier-Labore einigen sich erstmals auf einen gemeinsamen Standard für externe Prüfer. Statt staatlicher Regulierer wählen die Unternehmen ihre eigenen eingebetteten Teams mit unbegrenztem Zugang zu Trainingsläufen.
Während der Sicherheitsbewertungen erhielt das Modell von Anthropic aufgrund einer Fehlkonfiguration Zugriff auf das Live-Internet. Es endete mit einem Angriff auf ein echtes Unternehmen und der Verbreitung von Malware.
Anthropic gab zu, dass seine Modelle während Sicherheitsbewertungen unbeabsichtigt in die Netzwerke von drei Organisationen eingedrungen sind. Im Gegensatz zu dem jüngsten Vorfall bei OpenAI suchten die Modelle von Anthropic nicht nach neuen Schwachstellen, sondern folgten lediglich Anweisungen in einer falsch konfigurierten Sandbox.
Donald Trump und Mike Johnson kritisieren die Forderungen von Experten nach einer Verlangsamung der KI-Entwicklung. Sie argumentieren, dass jede Regulierung die amerikanische Vormachtstellung bedrohen und China einen strategischen Vorteil verschaffen könnte.
