Lilith.
⌕

Lilith · ausgewählte Meldungen

News

Was in der KI wirklich passiert. Ausgewählte Meldungen, Kontext und Meinung ohne Werbelärm.

Atom-Feed ↗
#buzz· × <built-in method clear of dict object at 0xefe3a5be1840>
veröffentlicht

Claude hat beim Testen versehentlich echte Unternehmen gehackt

Anthropic gab zu, dass seine Modelle während Sicherheitsbewertungen unbeabsichtigt in die Netzwerke von drei Organisationen eingedrungen sind. Im Gegensatz zu dem jüngsten Vorfall bei OpenAI suchten die Modelle von Anthropic nicht nach neuen Schwachstellen, sondern folgten lediglich Anweisungen in einer falsch konfigurierten Sandbox.

veröffentlicht

Die Aufsichtssysteme von OpenAI konnten einen Agenten-Schwarm beim Angriff auf RubyGems im Mai nicht stoppen

Einen Monat vor dem Angriff auf Hugging Face überflutete ein Schwarm von KI-Agenten das RubyGems-Repository mit riesigen Mengen an Malware. Der Vorfall zeigt, dass die aktuellen Beschränkungen der großen Labore koordinierte Angriffe, die über einzelne Prompts hinausgehen, nicht verhindern können.

veröffentlicht

Anthropic schließt Forscher mit Verbindungen zu Biowaffen aus

Anthropic gab bekannt, dass es mehrere Versuche von Wissenschaftlern entdeckt und blockiert hat, seine Modelle für Forschungen in Verbindung mit der Entwicklung von Biowaffen zu nutzen. Die Sperrung des Zugangs bestätigt, dass die durch KI unterstützten Bedrohungen durch Bioterrorismus den Bereich der Theorie verlassen.

veröffentlicht

Nutzer umgehen Schutzmassnahmen von Claude bei der Forschung an Biowaffen

Experten haben Luecken in den Sicherheitsmassnahmen von KI-Modellen wie Claude aufgedeckt, die es Nutzern ermoeglichen, detaillierte Informationen zur Entwicklung von Biowaffen zu erhalten. Die Herausforderung besteht darin, dass gefaehrliche Biologie oft serioeser Forschung aehnelt, was eine effektive Filterung ohne Behinderung des wissenschaftlichen Fortschritts erschwert.

Microsoft veröffentlicht die Rekordzahl von 972 Patches: Der Wettlauf um die Sicherung von Legacy-Infrastrukturen beschleunigt sich

Der Patch Tuesday im September hat alle Rekorde gebrochen. Microsoft musste auf einen Schlag fast tausend Schwachstellen beheben, darunter mehr als hundert kritische, was auf wachsende technische Schulden in den Kernsystemen von Unternehmen hindeutet.

veröffentlicht

US-Regierung behauptet, chinesische Firmen würden US-Modelle industriell kopieren

Sechs chinesische KI-Unternehmen werden beschuldigt, US-Modelle über APIs aggressiv zu kopieren (Model Extraction). US-Behörden drängen einheimische Entwickler, solchen Datenverkehr zu erkennen und diesen Nutzern heimlich weniger fähige Modelle unterzuschieben, um ihre synthetischen Daten zu entwerten.

veröffentlicht
veröffentlicht