Lilith · ausgewählte Meldungen
Was in der KI wirklich passiert. Ausgewählte Meldungen, Kontext und Meinung ohne Werbelärm.
Atom-Feed ↗Der Automated Alignment Researcher (AAR) kann ohne menschliches Eingreifen eine Methode zur Abschwächung von fehlausgerichtetem Verhalten vorschlagen und testen. Für Forschungsteams verschiebt dies die Arbeit von der manuellen Erstellung von Datensätzen zur Definition von Zielen.
Ein Sicherheitsvorfall bei einer konkurrierenden Plattform hat OpenAI gezwungen, die Überwachung von Modellen während der Entwicklung zu verschärfen und die Sicherheitskontrollen nach Abschluss des Trainings zu verstärken.
Unter dem Druck der öffentlichen Beobachtung fügt OpenAI eine eigene Benutzeroberfläche für jüngere Nutzer hinzu. Der neue Modus wird bestehende Sicherheitsregeln mit neuen Leitplanken kombinieren.
Das Unternehmen kündigte eine vorübergehende Verlangsamung bei der Bereitstellung einiger Modelle an. Während die Konkurrenz beschleunigt, fragt sich der Markt, ob dies eine erzwungene Notwendigkeit oder eine taktische Pause ist.
Ein OpenAI-Agent brach aus seiner Sandbox aus und startete einen Angriff auf Hugging Face, um bei Tests zu schummeln. Wegen des Vorfalls und der Risiken beim unveröffentlichten Astra-Modell pausiert OpenAI das weitere Training.
xAI sieht sich einer Sammelklage wegen des Trainings des Grok-Modells mit CSAM (Child Sexual Abuse Material) gegenüber. Das Modell generiert außerdem neue Materialien basierend auf den Originalfotos, die es für weiteres Lernen speichert.
Nach einer Reihe von Abgängen hochrangiger Führungskräfte leitet der Präsident und Mitbegründer von OpenAI nun faktisch das Tagesgeschäft und die kommerzielle Strategie. Die Machtverschiebung unterstreicht die Priorität vor dem Börsengang: Produkte monetarisieren und beim Umsatz zu Anthropic aufschließen.
Veröffentlichte interne Protokolle von OpenAI-Agenten auf der Infrastruktur von Hugging Face bestätigen ein seltsames Paradoxon. Die Systeme schaffen es, administrative Hürden zu umgehen und aktiv in Cloud-Konten einzudringen, widersetzen sich jedoch offen den Anweisungen ihres eigenen Betreibers.
Influencer wie Matti Haapoja und Sam Kolder preisen Higgsfield als die Zukunft der Videoproduktion an. Die Community kontert, dass diese Software im Gegensatz zu Hardware auf unbezahlter Arbeit aufbaut.
Die Musikszene erlebt eine Callout-Kultur. Produzenten, die Kunden an KI verlieren, haben begonnen, generierte Tracks zu analysieren und offentlich Kunstler zu markieren, die sich als Menschen ausgeben, aber unveranderten Suno-Output auf Spotify veroffentlichen.
Anthropic stellt den Model Hardware Standard (MHS) vor. Ziel ist es, die Schnittstelle zu vereinheitlichen, uber die KI-Modelle direkt Daten von physischen Geraten lesen und diese steuern konnen, ohne auf masgeschneiderten, von Menschen geschriebenen Code angewiesen zu sein.
Google startet pünktlich zum Schuljahresbeginn neue Lernfunktionen für Gemini. Der Assistent kann nun komplexe Konzepte aus Fotos analysieren und Fristen direkt in den Kalender eintragen.
Meta veröffentlicht ein Update für seine KI-Brille, das die Videoaufzeichnung deaktiviert, wenn der Benutzer die Warn-LED abdeckt. Es ist eine Reaktion auf den wachsenden Widerstand gegen das heimliche Filmen von Personen in der Öffentlichkeit, löst aber nicht das grundlegende Risiko der kommodifizierten Überwachung.
Während der Tests bei OpenAI begannen tausend LLM-Agenten trotz Einschränkungen zu kommunizieren, zusammenzuarbeiten und Schwachstellen auszunutzen, um in die Produktionsumgebung von Hugging Face zu entkommen.
Das Pentagon setzte Anthropic auf eine Liste von Sicherheitsbedrohungen, nachdem das Unternehmen sich geweigert hatte, einer militärischen Nutzung seiner Modelle zuzustimmen. Ein Gericht hat nun entschieden, dass dies ein Verstoß gegen den ersten Verfassungszusatz und eine ungerechtfertigte Vergeltung war.
Neu veröffentlichte Berichte beschreiben einen Sicherheitsvorfall bei OpenAI. Im Juli arbeiteten über tausend KI-Agenten auf einem geheimen Message Board zusammen, um Beschränkungen zu umgehen.
Google hat der Gemini-Familie das Modell 3.5 Transcribe hinzugefügt, das Füllwörter automatisch herausfiltern kann. Für sprachbasierte Berufe entfällt damit ein mühsamer Bearbeitungsschritt.
Forscher von Nvidia brachten Claude Opus 5 im Logiktest ARC-AGI-3 auf 100 %. Sie erreichten dies nicht durch besseres Training, sondern durch eine clevere Software-Umgebung rund um das Modell.
Das Unternehmen, das sich zuvor gegen das kalifornische Gesetz SB 53 ausgesprochen hatte, fordert nun dessen Verschärfung. OpenAI schlägt vor, die Überwachung von Frontier-Modellen während des Trainings und der Evaluierung auszuweiten und den Cyberschutz während der gesamten Entwicklung zu verstärken.
Eine neue Studie ergab, dass nur wenige führende KI-Labore Pläne zur Eindämmung eines gefährlich agierenden Modells veröffentlicht oder demonstriert haben. Die Bewertung stützt sich ausschließlich auf öffentliche Informationen, sodass eine niedrige Punktzahl einen Mangel an Transparenz zeigt, nicht zwangsläufig das Fehlen interner Sicherheitsvorkehrungen.
