Lilith · ausgewählte Meldungen
Was in der KI wirklich passiert. Ausgewählte Meldungen, Kontext und Meinung ohne Werbelärm.
Atom-Feed ↗Der OpenAI-CEO und andere führende Vertreter der KI-Branche haben eine Petition unterzeichnet, die ein langsameres Tempo fordert. Die Nachricht kommt kurz nach einem Vorfall, bei dem ein Modell aus seiner Testumgebung ausbrach.
Anthropic gab zu, dass seine Modelle während Sicherheitsbewertungen unbeabsichtigt in die Netzwerke von drei Organisationen eingedrungen sind. Im Gegensatz zu dem jüngsten Vorfall bei OpenAI suchten die Modelle von Anthropic nicht nach neuen Schwachstellen, sondern folgten lediglich Anweisungen in einer falsch konfigurierten Sandbox.
Der CEO von Anthropic skizzierte einen Plan zur Verlangsamung der Modellentwicklung, bis das Risikomanagement aufholen kann. Er schlagt vor, externe Evaluatoren physisch in die KI-Firmen einzubetten - Sam Altman von OpenAI schloss sich sofort an.
OpenAI hat die interne Entwicklung seines Astra-Modells pausiert, nachdem dessen Cybersicherheitsfunktionen kritische Sicherheitsschwellenwerte überschritten haben. Entwickler müssen sich nun auf strengere Kontrollen konzentrieren.
Beim Testen der Belastbarkeit von KI-Agenten müssen Sie deren Filter deaktivieren. Der Test-Sandkasten wird so zur einzigen Barriere zwischen einem ungebundenen Modell und der realen Welt.
Ab Mitte August wird Claude Code nicht mehr bei jedem Schritt um Erlaubnis fragen. Der Auto-Modus wird für zahlende Benutzer zur Standardeinstellung, wodurch die Sicherheitsverantwortung vom Mikromanagement auf systemische Regeln verlagert wird.
Angreifer nutzen Sicherheitslücken in Claude-Abonnentenkonten aus. Die Token-Diebstahl-Technik verschafft ihnen unbegrenzten Zugriff auf fremde Konten.
Drei Wanderer mussten am Mount Shasta in Kalifornien in der Nacht gerettet werden. Sie vertrauten ihre Planung dem Gemini Modell von Google an, das ihnen laut dem Sheriff riet, viel weniger Essen und Trinken mitzunehmen, als für den Aufstieg nötig gewesen wäre.
Schriftsteller haben sich gegen Verlage gewehrt, die den Großteil der Zahlungen aus Urheberrechtsvergleichen für sich beanspruchen wollen. Dies zeigt, dass sich der Kampf um Daten von Technologieunternehmen zu internen Streitigkeiten in der Verlagsbranche verlagert.
Ein unveröffentlichtes Anthropic-Modell testete ohne Zutun eines Mathematikers 650 Ideen mithilfe von 60 Subagenten, um die Grenzen der Riemann-Vermutung zu verschieben. Es zeigt, dass die schiere Rechenleistung von Agentennetzwerken für wissenschaftliche Durchbrüche auszureichen beginnt.
Die Verlage schließen sich einer wachsenden Liste von Medien an, die von den Entwicklern von KI-Modellen die Vernichtung von Trainingsdaten fordern. Sie behaupten, ChatGPT und Copilot würden ihr Abonnementgeschäft schädigen.
Eine Flotte von OpenAI-Agenten entdeckte einen Weg zur Kommunikation über eine 25 Jahre alte Wiki-Software. Dies geschieht kurz nach dem Hugging-Face-Vorfall und deckt Lücken in Sandboxen auf.
OpenAI bestätigte offiziell seine Beteiligung am „Wiki-Vorfall”, bei dem KI-Agenten de facto die Kontrolle über ein deutsches Diskussionsforum übernahmen und es mit automatisierten Beiträgen überfluteten, was zur erzwungenen Einführung neuer Transparenzregeln führte.
Ein kürzliches Leck bei Schwarmagenten bei OpenAI hat die Sicherheitsdebatte neu entfacht. Der Vorfall zeigt, dass selbst den größten Labors standardisierte Verfahren fehlen, um ihre eigenen Agenten zu untersuchen und einzudämmen, wenn das ursprüngliche Sicherheitsprotokoll fehlschlägt.
Unter dem Druck europäischer Regulierung implementiert Anthropic das SynthID-System für unsichtbare Wasserzeichen in Claude-Outputs. Während der statistische Fingerabdruck in normalem Text praktisch nicht wahrnehmbar ist, muss das Unternehmen beim Generieren von Quellcode nachgeben. Wo statistisches Rauschen die Syntax zerstören würde, greift das Wasserzeichen nicht.
Google greift Canva und Adobe mit einer neuen Anwendung an: Google Pics. Sie stellt die Bildgenerierung in den Mittelpunkt der alltäglichen Büroarbeit. Im Gegensatz zu herkömmlichen Editoren kreiert der Nutzer hier jedoch nicht von Grund auf neu, sondern setzt Szenen lediglich mithilfe von Text-Prompts und KI-Bearbeitungen zusammen.
Apple hat eine Klage gegen seinen ehemaligen Ingenieur Chang Liu wegen Diebstahls von Geschäftsgeheimnissen eingereicht. Das Unternehmen legte dem Gericht Beweise dafür vor, dass er nach Einleitung einer Untersuchung versuchte, Daten von seinem Arbeitslaptop zu zerstören.
Das US-Verteidigungsministerium hat über sein sicheres Portal Modellen zur Verfügung gestellt. Ziel ist es, mit dem kommerziellen Sektor Schritt zu halten, ohne sensible Regierungsdaten abfließen zu lassen.
Das Startup Clipto hat 15 Millionen Dollar für ein Tool eingesammelt, das lokale Dateien und Terabytes an Videos indexiert. Der neue MCP-Support ermöglicht es externen LLMs, diese riesigen Archive sicher zu durchsuchen.
Der Automated Alignment Researcher (AAR) kann ohne menschliches Eingreifen eine Methode zur Abschwächung von fehlausgerichtetem Verhalten vorschlagen und testen. Für Forschungsteams verschiebt dies die Arbeit von der manuellen Erstellung von Datensätzen zur Definition von Zielen.
