Hugging Face Event: Lokale KI-Bereitstellung von Hardware bis Modellauswahl
Hugging Face veranstaltet eine Live-Demonstration zur lokalen Ausführung von KI-Modellen. Behandelt werden Hardware-Auswahl, Modellkomprimierung und Inferenz-Optimierung.
Lilith · ausgewählte Meldungen
News
Was in der KI wirklich passiert. Ausgewählte Meldungen, Kontext und Meinung ohne Werbelärm.
Atom-Feed ↗
Was die Sicherheitsvorfälle der Modelle Opus und Mythos verraten
Anthropic hat vier Sicherheitsvorfälle seiner Modelle analysiert. Es zeigt sich, dass die Modelle logische Schlupflöcher finden und Fakten ignorieren können, nur um ihre Aufgabe zu erfüllen.
Warum es selbst mit Tausenden von Agenten nicht zu einer sofortigen Intelligenzexplosion kommen wird
Frontier-Labore werden bald Tausende von gleichzeitigen Agenten einsetzen, was Ängste vor einer schnellen rekursiven Selbstverbesserung (RSI) auslöst. Laut Nathan Lambert wird dies zwar die Inferenz billiger machen, ein echter Sprung in der Intelligenz wird jedoch nicht sofort stattfinden.
Google macht Familien mit seinem neuen gemeinsamen Agenten zu Logistikzentren
Google Labs erweitert seinen experimentellen Assistenten CC. Er kann jetzt Daten von bis zu sechs Haushaltsmitgliedern verbinden und daraus eine einheitliche Organisationsübersicht für die ganze Familie erstellen.
Experten fordern unabhängige Modell-Audits
Mehr als 100 Experten haben einen offenen Brief unterzeichnet, in dem sie fordern, wirklich unabhängige Drittprüfer (Third Party Evaluators) direkt in die Entwicklung von Frontier-KI-Modellen in Unternehmen wie OpenAI und Anthropic einzubinden. Dies adressiert das Problem, dass Sicherheitsbewertungen oft nur interne PR-Übungen ohne echten Einfluss sind.
FAA investiert in KI für das Flugverkehrsmanagement
Die US-amerikanische FAA bereitet den Einsatz eines 875 Millionen Dollar teuren KI-Tools zur Optimierung des Flugverkehrs vor. Der erste Live-Test findet in Washington D.C. statt. Das Tool soll die Sicht von Disponenten und Fluggesellschaften auf die Situation vereinheitlichen und dazu beitragen, den seit langem bestehenden kritischen Mangel an Fluglotsen zu beheben.
Zuckerberg treibt persönliche Agenten voran. Er will, dass Milliarden Ihr Leben lenken
Meta bestätigte bei der Bekanntgabe der Q2 2026 Ergebnisse eine massive Wette auf KI-Agenten. Während OpenAI auf Entwickler abzielt, will Zuckerberg einen sofort einsatzbereiten Agenten für jeden.
Anthropic integriert eigene Auditoren bei Accenture
Anthropic und Accenture investieren eine Milliarde Dollar in das Konzept der „Embedded Evaluation“. Für Unternehmenskunden ändert sich damit die Art und Weise, wie die Sicherheit von Modellen vor dem Einsatz bewertet wird.
Sicherheitsforscher nutzen Claude für Hack auf OpenAI-Systeme
Drei Forscher entdeckten und verketteten innerhalb von 72 Stunden Schwachstellen in der Infrastruktur von OpenAI mit Hilfe von Anthropics Claude. Es gelang ihnen, Mitarbeiterkonten zu übernehmen und auf interne Repositories zuzugreifen, was die defensive Asymmetrie moderner KI-Modelle verdeutlicht.
Roboter stoßen auf teure Daten und Encord testet Gehirnsignale
TechCrunch beschreibt, wie Encord in einem Lagerhaus in San Leandro Robotik-Trainingsdaten herstellt und zusammen mit Zander Labs Gehirnwellensignale testet. Der Punkt ist kein Neuro-Hype, sondern Wirtschaftlichkeit: Physische KI muss ihre Daten oft selbst herstellen, anstatt sie aus dem Web zu kratzen.
Anthropic stellt separaten Cowork ein: Claude vereint jetzt Chat und Aufgaben
Anthropic beendet die Verwirrung um seine verschiedenen Modellversionen. Claude Cowork verschmilzt mit dem Haupt-Chat-Interface, das nun beide Rollen gleichzeitig übernehmen kann.
Geschlossene Modelle halfen beim Hacken von OpenAI, Open Source ist nicht die Bedrohung
Forscher von Hacktron AI nutzten konkurrierende Claude-Modelle von Anthropic, um sich in OpenAI-Konten zu hacken. Die Debatte über KI-Risiken verlagert sich somit wieder von Open-Source- zu geschlossenen, kommerziellen Systemen.
US-Regierungswebsite mit chinesischem Modell. Das FBI nannte es zuvor eine Bedrohung
Das US Federal Register, das offizielle Regierungsjournal, nutzte kurzzeitig ein Open-Source-KI-Suchwerkzeug aus China. Genau dasjenige, vor dem die amerikanischen Behörden im vergangenen Jahr unter Hinweis auf Sicherheitsrisiken gewarnt hatten.
KI macht Menschen zu Generalisten: Fast die Hälfte der Nachrichten betrifft Aufgaben aus anderen Berufen
Eine neue OpenAI-Studie basierend auf ChatGPT-Daten zeigt einen interessanten Effekt: Menschen nutzen KI nicht nur, um ihre eigene Arbeit zu beschleunigen, sondern übernehmen Aufgaben aus völlig anderen Bereichen. Dieser 'Task Crossover' zeigt, dass KI verändert, wie Rollen innerhalb von Unternehmen aufgeteilt werden.
Rustaceans unter Beschuss: Wenn gefälschte Jobangebote Malware liefern
Angreifer zielen über gefälschte Interviews auf prominente Entwickler in der Rust-Community ab. Dies ist kein breiter Angriff auf das Ökosystem, sondern Social Engineering, das auf bestimmte Schlüssel und Zugänge abzielt.
Geschlossene Modelle bergen ein größeres Risiko als offene: Ein weiterer Hack deckt die Schwächen von OpenAI auf
Eine Reihe von Sicherheitslücken in OpenAI-Systemen durch das konkurrierende Claude-Modell von Anthropic zeigt, dass die Hauptsicherheitsrisiken nicht in Open-Source-Modellen liegen, sondern in schlecht gesicherten kommerziellen Diensten.
Nach Jacob Coxons Weggang brechen die Dämme: KI-Risiken werden Mainstream
Der Rücktritt eines wichtigen OpenAI-Forschers löste eine Kaskade von Stellungnahmen aus. Das Thema existenzielle KI-Risiken, das zuvor auf eine Nischen-Community beschränkt war, wird nun öffentlich von Politikern, Medien und Leitern konkurrierender Labore diskutiert.
Allen Institute enthüllt Olmo 3: Modell-Tuning ist keine saubere Wissenschaft, sondern ein blutiges Handwerk voller Fehler
Nathan Lambert und Scott Geng vom Allen Institute veröffentlichten eine detaillierte Analyse des Post-Trainings für das offene Olmo 3-Modell. Die Daten zeigen, dass der Weg von einer Forschungsidee zu einem tatsächlich funktionierenden Modell eine Serie von Sackgassen und verbranntem Geld ist.
Das Modell hat sich gehorsam selbst abgeschnitten. OpenAI gibt zu, dass Modelle funktionale Prompt Injection in ihre eigenen Daten generieren können
In einem Risikobericht detailliert OpenAI eine Situation, in der ein LLM während der Verarbeitung seiner Geschichte ein Prompt Injection erstellte, mit dem es dann erfolgreich sein eigenes Verhalten manipulierte.
Ein persönliches Spezialistenteam auf einen Klick. Claude Projects fungiert jetzt als Manager und stellt dem Aufgabe angepasste untergeordnete Agenten zusammen
Ethan Mollick hob eine grundlegende Verschiebung in Claude Projects hervor: Das System funktioniert nicht mehr als ein einziges riesiges Modell, sondern als Orchestrator, der nach Bedarf der Aufgabe dynamisch günstigere und spezialisierte untergeordnete Agenten generiert und so eine ganze Organisation simuliert.
