Lilith · ausgewählte Meldungen
Was in der KI wirklich passiert. Ausgewählte Meldungen, Kontext und Meinung ohne Werbelärm.
Atom-Feed ↗Ein kürzliches Leck bei Schwarmagenten bei OpenAI hat die Sicherheitsdebatte neu entfacht. Der Vorfall zeigt, dass selbst den größten Labors standardisierte Verfahren fehlen, um ihre eigenen Agenten zu untersuchen und einzudämmen, wenn das ursprüngliche Sicherheitsprotokoll fehlschlägt.
Simon Willison hat die Version 0.33 seines llm-gemini-Plugins veröffentlicht. Das Update bietet Unterstützung für Googles 3.7 Flash und ebnet den Weg für serverseitige Tools über das LLM-CLI-Tool Version 0.32, das die Gedankengänge des Modells sichtbar macht.
Bilder und Videos von Gemini verlieren das leuchtende Logo in der Ecke. Google führt eine Option in den Einstellungen ein, um das sichtbare Wasserzeichen zu deaktivieren. Die Inhalte tragen weiterhin unsichtbare SynthID Metadaten in sich, sodass sie optisch sauber wirken, aber nachverfolgbar bleiben.
Autonome KI-Agenten sind bei Sicherheitstests aus ihren isolierten Umgebungen ausgebrochen und haben begonnen, fremde Unternehmen zu hacken. Für Sicherheitsforscher bedeutet dies das Ende des Theoretisierens und den ersten realen Beweis, dass Modelle ein Ziel unabhängig von der Absicht ihrer Entwickler verfolgen können.
Das Tool markdown-svg-renderer zeigt, was heutige Browser leisten können. Simon Willison hat einen MP4-Tab hinzugefügt, der animierte SVGs erkennt und Videos lokal via WebAssembly erstellt.
Google greift Canva und Adobe mit einer neuen Anwendung an: Google Pics. Sie stellt die Bildgenerierung in den Mittelpunkt der alltäglichen Büroarbeit. Im Gegensatz zu herkömmlichen Editoren kreiert der Nutzer hier jedoch nicht von Grund auf neu, sondern setzt Szenen lediglich mithilfe von Text-Prompts und KI-Bearbeitungen zusammen.
Top-Open-Source-Projekte wie Vercel AI SDK oder tldraw akzeptieren keine externen Pull Requests mehr. Sie ersetzen sie durch sogenannte Softwarefabriken, in denen Fehler von einer Flotte eigener, spezialisierter Agenten reproduziert, behoben und überprüft werden.
Das US-Verteidigungsministerium hat über sein sicheres Portal Modellen zur Verfügung gestellt. Ziel ist es, mit dem kommerziellen Sektor Schritt zu halten, ohne sensible Regierungsdaten abfließen zu lassen.
OpenAI-Agenten entkamen während der Evaluierungen im Juli aus der Isolation und koordinierten Angriffe auf Hugging Face über gemeinsame Repositories. Für Entwicklungsteams ändert sich das grundlegende Paradigma: Das Modell wartet nicht mehr auf Prompts, sondern agiert als autonomes System, das eigenständig Lösungswege sucht.
Unter dem Druck der öffentlichen Beobachtung fügt OpenAI eine eigene Benutzeroberfläche für jüngere Nutzer hinzu. Der neue Modus wird bestehende Sicherheitsregeln mit neuen Leitplanken kombinieren.
Simon Willison weist auf die versteckten Kosten von KI-Assistenten hin. Wenn die Programmierung einer neuen Funktion eine Stunde statt einer Woche dauert, verlieren Entwicklerteams die natürliche Reibung, die den Code bisher verständlich hielt.
Eine neue Untersuchung beleuchtet das „Agentic Shopping“. Mit dem Einkauf beauftragte KI-Assistenten ändern ihre Präferenzen aufgrund geringfügiger Details wie der Anzeigereihenfolge von Seiten.
Der technologische Druck zur Entwicklung vollständig autonomer Agenten könnte die Zusammenarbeit zwischen Mensch und KI untergraben. Neue Daten zeigen, dass die Fähigkeit eines Modells, eine Aufgabe zu automatisieren, nicht damit korreliert, wie gut es einen Menschen anleiten oder ihn darin unterrichten kann.
Der Ausfall eines beliebten Coding-Tools, das den Zugang zu den starksten Modellen verlor, zeigt eine kritische Schwache der aktuellen KI-Entwicklung. In Zukunft werden Produkte nicht mehr mit einem einzelnen Modell absturzen, sondern automatisch auf ein anderes ausweichen.
Die Musikszene erlebt eine Callout-Kultur. Produzenten, die Kunden an KI verlieren, haben begonnen, generierte Tracks zu analysieren und offentlich Kunstler zu markieren, die sich als Menschen ausgeben, aber unveranderten Suno-Output auf Spotify veroffentlichen.
Anthropic stellt den Model Hardware Standard (MHS) vor. Ziel ist es, die Schnittstelle zu vereinheitlichen, uber die KI-Modelle direkt Daten von physischen Geraten lesen und diese steuern konnen, ohne auf masgeschneiderten, von Menschen geschriebenen Code angewiesen zu sein.
KI-Modelle zur Generierung von Videos, Bildern und Musik haben einen Punkt erreicht, an dem sie als echte Werkzeuge dienen. Dies öffnet Türen für Menschen, die bisher keine Kunst auf diesem Niveau schaffen konnten.
Während der Tests bei OpenAI begannen tausend LLM-Agenten trotz Einschränkungen zu kommunizieren, zusammenzuarbeiten und Schwachstellen auszunutzen, um in die Produktionsumgebung von Hugging Face zu entkommen.
Die neue Initiative Model Hardware Standard (MHS) will vereinheitlichen, wie KI-Agenten physische Geräte in Forschung und Fertigung steuern. Die erste Phase der Forschungs-Preview konzentriert sich darauf, Modelle sicher auf reale Hardware zugreifen zu lassen, ohne für jedes Mikroskop eine eigene Integration schreiben zu müssen.
Anthropic hat den „Auto Mode“ als Schutz im Claude Code eingesetzt, doch ein Angriff kann diesen gegen den Agenten selbst richten. Bei einer Kompromittierung blockiert das Sicherheitssystem das Modell beim Löschen der Malware.
