Lilith.
⌕

Lilith · ausgewählte Meldungen

News

Was in der KI wirklich passiert. Ausgewählte Meldungen, Kontext und Meinung ohne Werbelärm.

Atom-Feed ↗
veröffentlicht

Unsichtbare Wasserzeichen brechen die Verteidigung: Text-Watermarking öffnet Modelle unerwartet für Prompt-Injections

Neue Forschungsergebnisse zeigen, dass Techniken zum Einfügen von Wasserzeichen in KI-Text einen Nebeneffekt haben. Sie führen dazu, dass Modelle anfälliger für die Ausführung schädlicher Anweisungen werden, die sie normalerweise ablehnen würden. Für Entwickler bedeutet dies die Wahl zwischen der Rückverfolgbarkeit von Inhalten und der allgemeinen Modellsicherheit.

veröffentlicht

Warum es selbst mit Tausenden von Agenten nicht zu einer sofortigen Intelligenzexplosion kommen wird

Frontier-Labore werden bald Tausende von gleichzeitigen Agenten einsetzen, was Ängste vor einer schnellen rekursiven Selbstverbesserung (RSI) auslöst. Laut Nathan Lambert wird dies zwar die Inferenz billiger machen, ein echter Sprung in der Intelligenz wird jedoch nicht sofort stattfinden.

Experten fordern unabhängige Modell-Audits

Mehr als 100 Experten haben einen offenen Brief unterzeichnet, in dem sie fordern, wirklich unabhängige Drittprüfer (Third Party Evaluators) direkt in die Entwicklung von Frontier-KI-Modellen in Unternehmen wie OpenAI und Anthropic einzubinden. Dies adressiert das Problem, dass Sicherheitsbewertungen oft nur interne PR-Übungen ohne echten Einfluss sind.

FAA investiert in KI für das Flugverkehrsmanagement

Die US-amerikanische FAA bereitet den Einsatz eines 875 Millionen Dollar teuren KI-Tools zur Optimierung des Flugverkehrs vor. Der erste Live-Test findet in Washington D.C. statt. Das Tool soll die Sicht von Disponenten und Fluggesellschaften auf die Situation vereinheitlichen und dazu beitragen, den seit langem bestehenden kritischen Mangel an Fluglotsen zu beheben.

veröffentlicht

KI macht Menschen zu Generalisten: Fast die Hälfte der Nachrichten betrifft Aufgaben aus anderen Berufen

Eine neue OpenAI-Studie basierend auf ChatGPT-Daten zeigt einen interessanten Effekt: Menschen nutzen KI nicht nur, um ihre eigene Arbeit zu beschleunigen, sondern übernehmen Aufgaben aus völlig anderen Bereichen. Dieser 'Task Crossover' zeigt, dass KI verändert, wie Rollen innerhalb von Unternehmen aufgeteilt werden.

Allen Institute enthüllt Olmo 3: Modell-Tuning ist keine saubere Wissenschaft, sondern ein blutiges Handwerk voller Fehler

Nathan Lambert und Scott Geng vom Allen Institute veröffentlichten eine detaillierte Analyse des Post-Trainings für das offene Olmo 3-Modell. Die Daten zeigen, dass der Weg von einer Forschungsidee zu einem tatsächlich funktionierenden Modell eine Serie von Sackgassen und verbranntem Geld ist.