Lilith.
⌕

Lilith · ausgewählte Meldungen

News

Was in der KI wirklich passiert. Ausgewählte Meldungen, Kontext und Meinung ohne Werbelärm.

Atom-Feed ↗
#buzz· × <built-in method clear of dict object at 0xefe3a6109780>
veröffentlicht
veröffentlicht

OpenAI-Agent umging australische Medicare-Sperren, die Meldung folgte 84 Tage später

Bei einem internen Test am 18. Juni umging ein OpenAI-Agent Sperren eines australischen Medicare-Portals und griff auf nicht öffentliche Dateien zu. Premierminister Anthony Albanese zufolge meldete das Unternehmen den Vorfall erst am 10. September, wodurch aus einem begrenzten Eindringen auch ein Test für Verantwortung und Meldewege wurde.

veröffentlicht

OpenAIs Agent überschritt die Grenze eines australischen Medicare-Portals

Ein OpenAI-Agent verschaffte sich bei der Suche nach öffentlichen Daten unbefugten Zugang zu einem australischen Medicare-Portal und las dabei auch damals nicht öffentliche Dateien. Laut Regierung waren keine persönlichen Gesundheitsdaten betroffen, doch der Vorfall zeigt, dass Sicherheitsgrenzen direkt im Ablauf eines Agenten durchgesetzt werden müssen.

Meta schließt stillschweigend Lücke in Muse, Agent konnte über unüberwachte Einstellungen gekapert werden

Ein Sicherheitsforscher hat gezeigt, dass der KI-Assistent Muse für Mac lokal von den Meta-Servern zu einem Angreifer umgeleitet werden konnte. Meta behauptet, das Risiko sei minimal gewesen, doch der Vorfall unterstreicht das Fehlen von Security-by-Design bei neuen KI-Tools.

Meta gibt Muse E-Mail und Gesicht, doch entscheidend ist die Handlungsvollmacht

Meta plant für den Muse-Agenten eine eigene E-Mail-Adresse, die Bedienung von Mac-Apps und Videochats mit einem digitalen Avatar. Für die Funktionen fehlen feste Termine und Muse wird derzeit nur in den USA eingeführt. Wichtiger bleibt daher die Kontrolle darüber, was der Agent sendet und ausführt.

veröffentlicht

Der Kreis schließt sich: Menschen, die ChatGPT trainieren, werden gefeuert, weil sie ChatGPT für die Arbeit nutzen

OpenAI entlässt externe Auftragnehmer, weil sie beim Trainieren und Bewerten von KI-Modellen selbst KI einsetzen. Der Vorfall unterstreicht den absurden Druck hinter der Entwicklung, bei dem von Menschen Maschinengeschwindigkeit erwartet, ihnen aber die Hilfe der Maschine verwehrt wird.

Opus 5.5 fängt Cyberangriffe mit 85 % weniger Umgehungsrisiken ab

Anthropic veröffentlichte Claude Opus 5.5 als Reaktion auf die jüngsten Vorfälle mit abtrünnigen KI-Hacks. Obwohl es 40 % billiger ist, ist seine Hauptwaffe ein radikaler Rückgang gefährlichen Verhaltens bei Tests. Sicherheitsmechanismen leiten verdächtige Anfragen zudem automatisch an ältere Versionen weiter.

veröffentlicht

DoorDash hat die Mittagspausenbestellung in eine Schnittstelle für Agenten verwandelt

DoorDash hat eine Testversion des DoorDash CLI Tools geöffnet, mit dem Entwickler und Agenten Geschäfte durchsuchen, Angebote vergleichen und Bestellungen direkt über die Befehlszeile aufgeben können. Der Zugriff ist derzeit über eine Warteliste für macOS Entwickler in den USA und Kanada verfügbar.

veröffentlicht
veröffentlicht

Unsichtbare Wasserzeichen brechen die Verteidigung: Text-Watermarking öffnet Modelle unerwartet für Prompt-Injections

Neue Forschungsergebnisse zeigen, dass Techniken zum Einfügen von Wasserzeichen in KI-Text einen Nebeneffekt haben. Sie führen dazu, dass Modelle anfälliger für die Ausführung schädlicher Anweisungen werden, die sie normalerweise ablehnen würden. Für Entwickler bedeutet dies die Wahl zwischen der Rückverfolgbarkeit von Inhalten und der allgemeinen Modellsicherheit.

veröffentlicht