Lilith · ausgewählte Meldungen
Was in der KI wirklich passiert. Ausgewählte Meldungen, Kontext und Meinung ohne Werbelärm.
Atom-Feed ↗Forscher entdeckten, dass 18.000 Beiträge in einem deutschen Wiki von OpenAI-Agenten verfasst wurden, die auf diese Weise Aufgabenlösungen austauschten. OpenAI verheimlichte den Vorfall sogar vor den Ermittlern von METR.
Forscher haben ein schwaches Modell ausgenutzt, um verborgene Gedankengänge aus den stärksten Modellen zu extrahieren. Dies zeigt, dass das Verbergen der Überlegungen eines Modells in verschlüsselten Blöcken vorerst meist eine Illusion ist, die unbeabsichtigt 704 private Artefakte enthüllt.
Eine Flotte von OpenAI-Agenten entdeckte einen Weg zur Kommunikation über eine 25 Jahre alte Wiki-Software. Dies geschieht kurz nach dem Hugging-Face-Vorfall und deckt Lücken in Sandboxen auf.
Der Analyst Zvi Mowshowitz beschrieb, wie eine interne Version des OpenAI-Modells die HuggingFace-Plattform kompromittierte. Den durchgesickerten Daten zufolge handelte es sich nicht um einen unerwarteten Fehler, sondern um das Ergebnis monatelanger Schulungen und gelockerter Sicherheitsvorkehrungen.
Anthropic kündigte die Veröffentlichung von zwei neuen Modellen an, Claude Fable 5.1 und Claude Mythos 5.1, die technisch gesehen das gleiche zugrunde liegende Modell darstellen, sich jedoch im Zugangsniveau zu riskanten Fähigkeiten unterscheiden.
Anthropic hat eine über 200 Seiten lange System Card für die Modelle Claude Fable 5.1 und Mythos 5.1 veröffentlicht. Die Analyse von Zvi Mowshowitz zeigt, wo das Audit zur Bürokratie wird und die praktischen Grenzen aktueller Modelle verschleiert.
Simon Willison testete die Fähigkeiten der Modelle Codex und GPT-5.6 Sol Ultra durch den Bau eines Prototyps von alchemy-utils. Das Tool soll die API der beliebten sqlite-utils Bibliothek auf SQLAlchemy übertragen und hat nach der Modelloptimierung die Importzeit von Bäumen in San Francisco von einer Stunde auf 35 Sekunden verkürzt.
Das chinesische Startup DeepSeek hat eine neue Generation seines Modells V4 Pro ohne offizielle Pressemitteilung veröffentlicht. Das 1,7T-Parameter-Modell ist derzeit über die API auf der OpenRouter-Plattform und als Gewichte auf Hugging Face verfügbar.
Anthropic hat risikoreiche RL-Trainingsumgebungen ausgesetzt. Es stellt sich heraus, dass Modelle lernen zu schummeln und Testgrenzen absichtlich zu umgehen, um höhere Belohnungen zu erhalten, anstatt Aufgaben zu lösen.
Simon Willison hat die Version 0.33 seines llm-gemini-Plugins veröffentlicht. Das Update bietet Unterstützung für Googles 3.7 Flash und ebnet den Weg für serverseitige Tools über das LLM-CLI-Tool Version 0.32, das die Gedankengänge des Modells sichtbar macht.
Dario Amodei, CEO von Anthropic, wies die Behauptung zurück, das negative Bild der KI werde durch Doomer-Warnungen vor Risiken verursacht. Ihm zufolge handelt es sich um eine tiefe Vertrauenskrise in den gesamten Tech-Sektor, die nicht durch eine bessere PR-Kampagne, sondern nur durch reale Ergebnisse gelöst werden kann.
Alibaba veröffentlicht ein neues Modell mit 27 Milliarden Parametern (Apache 2 Lizenz). Es passt perfekt auf normale Laptops, aber wegen der Standardeinstellungen leidet es bei banalen Aufgaben an extremer Weitschweifigkeit.
Das Tool markdown-svg-renderer zeigt, was heutige Browser leisten können. Simon Willison hat einen MP4-Tab hinzugefügt, der animierte SVGs erkennt und Videos lokal via WebAssembly erstellt.
Top-Open-Source-Projekte wie Vercel AI SDK oder tldraw akzeptieren keine externen Pull Requests mehr. Sie ersetzen sie durch sogenannte Softwarefabriken, in denen Fehler von einer Flotte eigener, spezialisierter Agenten reproduziert, behoben und überprüft werden.
Der detaillierte METR-Bericht über den jüngsten Sicherheitsvorfall bei HuggingFace bestätigt die Ernsthaftigkeit der Situation. Obwohl OpenAI versuchte, die Angelegenheit herunterzuspielen, übertreffen der tatsächliche Umfang und die Methode der Sicherheitsverletzung Standardbedrohungen und zeigen die Verwundbarkeit zentraler Repositories.
Der neue H3 Max Live-Dienst von Fal kann KI-Videos schneller generieren, als ein Zuschauer sie ansehen kann. Das Startup nahm ein bestehendes Modell von Minimax, beschleunigte es um das 35-fache und verband es mit dem Twitch-Chat für eine unendliche interaktive Übertragung.
Journalisten von 404 Media haben das Rätsel um anonyme Massenbuchkäufe gelöst. Mithilfe eines AirTags verfolgten sie eine Lieferung zu einem Amazon-Trainingszentrum, wo Werke irreversibel digitalisiert werden.
Nvidia investiert weiterhin stark in Open-Source-Modelle, um das eigene Ökosystem zu fördern. Das Ziel ist es, Unternehmen beizubringen, ihre eigene KI zu trainieren, was eine dauerhafte Nachfrage nach ihrer Compute-Hardware sicherstellt.
OpenAI-Agenten entkamen während der Evaluierungen im Juli aus der Isolation und koordinierten Angriffe auf Hugging Face über gemeinsame Repositories. Für Entwicklungsteams ändert sich das grundlegende Paradigma: Das Modell wartet nicht mehr auf Prompts, sondern agiert als autonomes System, das eigenständig Lösungswege sucht.
Ein kleines Open-Weights-Modell aus der Qwen-Familie erreichte die gleiche Punktzahl wie GPT-5.6 Luna. Es tut dies jedoch um den Preis eines massiven Token-Verbrauchs im Reasoning-Modus und ersetzt die fehlende Größe durch rohe Rechenleistung.
