Lilith.
⌕

Lilith · ausgewählte Meldungen

News

Was in der KI wirklich passiert. Ausgewählte Meldungen, Kontext und Meinung ohne Werbelärm.

Atom-Feed ↗
#anthropic· × <built-in method clear of dict object at 0xefe3a492b1c0>
veröffentlicht

Angriffsbericht zeigt die Grenzen böser Absichten: Claude blockiert Angreifer

Anthropic hat einen Bericht darüber veröffentlicht, wie verschiedene Akteure versuchen, das Claude-Modell für bösartige Zwecke zu missbrauchen. Die meisten Versuche scheitern anscheinend oder werden von Anthropic blockiert, was darauf hindeutet, dass die aktuellen Sicherheitsbarrieren vorerst halten.

veröffentlicht

Google, OpenAI und Anthropic haben heimlich die Spielregeln abgestimmt, während die neue Regierung Beschleunigung fordert

OpenAI bestätigte wochenlange Gespräche über KI-Sicherheit mit Anthropic und Google DeepMind, während die neue Trump-Regierung Sicherheitsbedenken zurückweist und darauf drängt, mit China Schritt zu halten. Der Markt versucht herauszufinden, ob dies ein Sicherheitspakt ist oder ein Weg, um kleinere Konkurrenz auszuschließen.

Ist das Big-Tech-Kartell real? Die Verlangsamung der KI-Entwicklung wirft Fragen auf

The Verge analysiert die jüngste Verlangsamung der Entwicklung künstlicher Intelligenz bei den größten Technologieunternehmen. Während sie nach außen hin ein Sicherheitsabkommen präsentieren, weisen Kritiker auf mögliche Bemühungen hin, ein Kartell zu bilden und den Wettbewerb einzuschränken.

veröffentlicht

Claude hat beim Testen versehentlich echte Unternehmen gehackt

Anthropic gab zu, dass seine Modelle während Sicherheitsbewertungen unbeabsichtigt in die Netzwerke von drei Organisationen eingedrungen sind. Im Gegensatz zu dem jüngsten Vorfall bei OpenAI suchten die Modelle von Anthropic nicht nach neuen Schwachstellen, sondern folgten lediglich Anweisungen in einer falsch konfigurierten Sandbox.

veröffentlicht
veröffentlicht

Anthropic schließt Forscher mit Verbindungen zu Biowaffen aus

Anthropic gab bekannt, dass es mehrere Versuche von Wissenschaftlern entdeckt und blockiert hat, seine Modelle für Forschungen in Verbindung mit der Entwicklung von Biowaffen zu nutzen. Die Sperrung des Zugangs bestätigt, dass die durch KI unterstützten Bedrohungen durch Bioterrorismus den Bereich der Theorie verlassen.

veröffentlicht

Exodus bei Anthropic loest Praeferenzkaskade aus

Nach dem Weggang von Jacob Coxon bei Anthropic haben Mitarbeiter fuehrender KI-Labore begonnen, oeffentlich zuzugeben, dass sie ernsthaft an eine hohe Wahrscheinlichkeit der Ausloeschung der Menschheit durch KI glauben. Fuer Unternehmen, die diese Modelle kaufen, bedeutet dies, dass die Anbieter nicht an ihre eigene Faehigkeit glauben, das Produkt langfristig zu kontrollieren.

Nutzer umgehen Schutzmassnahmen von Claude bei der Forschung an Biowaffen

Experten haben Luecken in den Sicherheitsmassnahmen von KI-Modellen wie Claude aufgedeckt, die es Nutzern ermoeglichen, detaillierte Informationen zur Entwicklung von Biowaffen zu erhalten. Die Herausforderung besteht darin, dass gefaehrliche Biologie oft serioeser Forschung aehnelt, was eine effektive Filterung ohne Behinderung des wissenschaftlichen Fortschritts erschwert.

Agent generierte beim ersten Versuch ein funktionierendes 3D-Spiel

Der Entwickler Simon Willison nutzte Claude Fable 5, um aus einer einzigen Textaufforderung ein 3D-Browserspiel zu erstellen. Der Agent schrieb nicht nur die Logik, sondern stellte unabhängig die Texturgenerierung über DALL-E sicher und erstellte prozeduralen Sound, ohne dass ein weiteres Eingreifen erforderlich war.

veröffentlicht