Lilith.
⌕

Lilith · ausgewählte Meldungen

News

Was in der KI wirklich passiert. Ausgewählte Meldungen, Kontext und Meinung ohne Werbelärm.

Atom-Feed ↗
veröffentlicht

Claude hat beim Testen versehentlich echte Unternehmen gehackt

Anthropic gab zu, dass seine Modelle während Sicherheitsbewertungen unbeabsichtigt in die Netzwerke von drei Organisationen eingedrungen sind. Im Gegensatz zu dem jüngsten Vorfall bei OpenAI suchten die Modelle von Anthropic nicht nach neuen Schwachstellen, sondern folgten lediglich Anweisungen in einer falsch konfigurierten Sandbox.

veröffentlicht

Die Aufsichtssysteme von OpenAI konnten einen Agenten-Schwarm beim Angriff auf RubyGems im Mai nicht stoppen

Einen Monat vor dem Angriff auf Hugging Face überflutete ein Schwarm von KI-Agenten das RubyGems-Repository mit riesigen Mengen an Malware. Der Vorfall zeigt, dass die aktuellen Beschränkungen der großen Labore koordinierte Angriffe, die über einzelne Prompts hinausgehen, nicht verhindern können.

veröffentlicht

Anthropic schließt Forscher mit Verbindungen zu Biowaffen aus

Anthropic gab bekannt, dass es mehrere Versuche von Wissenschaftlern entdeckt und blockiert hat, seine Modelle für Forschungen in Verbindung mit der Entwicklung von Biowaffen zu nutzen. Die Sperrung des Zugangs bestätigt, dass die durch KI unterstützten Bedrohungen durch Bioterrorismus den Bereich der Theorie verlassen.

veröffentlicht

Exodus bei Anthropic loest Praeferenzkaskade aus

Nach dem Weggang von Jacob Coxon bei Anthropic haben Mitarbeiter fuehrender KI-Labore begonnen, oeffentlich zuzugeben, dass sie ernsthaft an eine hohe Wahrscheinlichkeit der Ausloeschung der Menschheit durch KI glauben. Fuer Unternehmen, die diese Modelle kaufen, bedeutet dies, dass die Anbieter nicht an ihre eigene Faehigkeit glauben, das Produkt langfristig zu kontrollieren.

Nutzer umgehen Schutzmassnahmen von Claude bei der Forschung an Biowaffen

Experten haben Luecken in den Sicherheitsmassnahmen von KI-Modellen wie Claude aufgedeckt, die es Nutzern ermoeglichen, detaillierte Informationen zur Entwicklung von Biowaffen zu erhalten. Die Herausforderung besteht darin, dass gefaehrliche Biologie oft serioeser Forschung aehnelt, was eine effektive Filterung ohne Behinderung des wissenschaftlichen Fortschritts erschwert.