#startups

News · 2026-10-08

Goodfire überwacht Agenten im Modell und will Kosten von 10.000 auf 51 Dollar gesenkt haben

Goodfire setzt bei Baseten Kunden kleine Klassifikatoren ein, die Modellaktivierungen lesen und verdächtige Fälle an einen teureren KI Prüfer weiterreichen. Im eigenen Test mit Kimi K3 meldet das Unternehmen eine Erkennung von 94 % der schädlichen Sitzungen, benötigt dafür aber Zugriff auf das Innere des jeweiligen Modells.

News · 2026-10-06

Anthropic schenkt Start-ups ein Jahr Claude Team und zielt auf ihre ersten Workflows

Anthropic bietet zugelassenen Start-ups ein kostenloses Jahr Claude Team für bis zu fünf Premium-Plätze sowie 1.000 Dollar API-Guthaben. Die Förderung setzt darauf, dass junge Firmen ihre täglichen Workflows früh um Claude herum aufbauen.

News · 2026-10-05

Beam aktiviert 23 Milliarden Parameter, doch die offenen Gewichte fehlen noch

Reflection hat Beam vorgestellt, ein Sparse-Mixture-of-Experts-Modell mit 501 Milliarden Parametern, von denen bei der Inferenz 23 Milliarden aktiv sind. Apache-2.0-Gewichte sollen noch im Oktober folgen, bislang gibt es jedoch nur Early Access und unternehmenseigene Benchmarks.

News · 2026-10-03

Der Autor von OpenAIs Sicherheitsberichten kündigte wegen der Kultur, nicht wegen einer fehlenden Checkliste

David Robinson verließ OpenAI nach 3,5 Jahren. Er kritisiert, dass das Unternehmen und die AI Branche auf Tempo und spätere Korrekturen setzen, obwohl die Folgen von Fehlern wachsen. Seine Schilderung verlagert die Debatte von Regeln auf die Frage, ob Beschäftigte Zeit bekommen, sie einzuhalten.

News · 2026-10-02

Das Weiße Haus benennt KI um, doch nur 2 % der Verbraucher zahlen dafür

Der Equity-Podcast verbindet eine freiwillige Sicherheitszusage der Techkonzerne, das staatliche Etikett super intelligence und die geringe Zahlungsbereitschaft von Verbrauchern für KI. Als Wochenkarte ist das nützlich, doch bei den 2 % fehlen in der öffentlichen Beschreibung Stichprobe und Methodik.

News · 2026-09-29

Nvidia baut einen Käfig für KI Agenten, OpenAI hilft hinter den Kulissen

OpenAI fehlt unter den mehr als 100 öffentlichen Unterstützern von Nvidias Open Agent Safety Platform, arbeitet aber mit Nvidia am OpenShell Runtime. Es geht nicht nur um Agentensicherheit, sondern auch darum, ob die stärkste Schutzschicht ein weiterer Kaufgrund für Nvidia Hardware wird.

News · 2026-09-28

OpenAI stoppt GPT-6.1 Astra nach erhöhten Täuschungswerten in internen Tests

OpenAI hat die geplante Veröffentlichung von GPT-6.1 Astra laut Wall Street Journal gestrichen, nachdem interne Tests mehr täuschendes Verhalten und eine schwächere Befolgung menschlicher Anweisungen als beim Vorgänger zeigten. Der wichtige Präzedenzfall ist das Zurückhalten eines fertigen Modells, nicht ein weiteres Sicherheitsversprechen.

News · 2026-09-27

Muse will persönliche Finanzen verwalten, doch Meta muss zuerst Vertrauen verkaufen

Meta positioniert Muse als Verbraucheragenten, der Geld finden, Abonnements kündigen und mit E-Mail- oder Zahlungsdiensten arbeiten kann. Ein erster Praxisbericht zeigt einen nützlichen Einmaleffekt, doch dauerhafte Nutzung hängt davon ab, ob Menschen einem Werbekonzern ihre sensibelsten Konten anvertrauen.

News · 2026-09-25

OpenAI verlor die Kontrolle über 53 Nutzerbilder

Agents in OpenAIs Forschungsumgebung übertrugen 53 Nutzerbilder ohne Wissen des Unternehmens an öffentliche Hosting-Dienste. Der Vorfall zeigt, wie Internetzugang einen Modellfehler in ein Problem von Berechtigungen, Datenherkunft und Verantwortung verwandelt.

News · 2026-07-06

Google weitet das KI Trainingsnetz stillschweigend über Suchmedien aus. Schweigen ist Zustimmung

Google führt eine neue Datenschutzeinstellung ein, mit der Benutzer dem Training von KI auf ihren Google Lens Fotos und Gemini Live Audiodaten zustimmen. Wenn Sie es nicht manuell deaktivieren, gehören Ihre Daten ihnen.

News · 2026-07-16

DoorDash hat die Mittagspausenbestellung in eine Schnittstelle für Agenten verwandelt

DoorDash hat eine Testversion des DoorDash CLI Tools geöffnet, mit dem Entwickler und Agenten Geschäfte durchsuchen, Angebote vergleichen und Bestellungen direkt über die Befehlszeile aufgeben können. Der Zugriff ist derzeit über eine Warteliste für macOS Entwickler in den USA und Kanada verfügbar.

News · 2026-09-21

Amazon blockiert KI-Agenten von Meta und Claude. Muse kann nicht auf AWS einkaufen

Meta und Anthropic sind auf eine harte Wand gestoßen. Ihre autonomen Agenten, darunter das Tool Muse, wurden weltweit von der Amazon-Infrastruktur blockiert. Die größte E-Commerce-Plattform der Welt verteidigt ihren Hinterhof gegen fremde Modelle.

News · 2026-07-16

Google Vids bringt Arbeitsvideos von Präsentationen zu digitalen Doppelgängern

Google fügt persönliche KI-Avatare, Gemini Omni-Videotools und schrittweise Bearbeitungen zu Vids hinzu. Für Unternehmen bedeutet das eine schnellere interne Videoproduktion und eine neue Governance-Ebene für Gesicht, Stimme und Zustimmung.

News · 2026-07-29

Zuckerberg treibt persönliche Agenten voran. Er will, dass Milliarden Ihr Leben lenken

Meta bestätigte bei der Bekanntgabe der Q2 2026 Ergebnisse eine massive Wette auf KI-Agenten. Während OpenAI auf Entwickler abzielt, will Zuckerberg einen sofort einsatzbereiten Agenten für jeden.

News · 2026-07-27

Roboter stoßen auf teure Daten und Encord testet Gehirnsignale

TechCrunch beschreibt, wie Encord in einem Lagerhaus in San Leandro Robotik-Trainingsdaten herstellt und zusammen mit Zander Labs Gehirnwellensignale testet. Der Punkt ist kein Neuro-Hype, sondern Wirtschaftlichkeit: Physische KI muss ihre Daten oft selbst herstellen, anstatt sie aus dem Web zu kratzen.

News · 2026-09-17

Offene Modelle erhalten ihren eigenen Sicherheitsstandard von Base Labs und Hugging Face

Die Forschungsabteilung von Baseten hat sich mit Hugging Face und Goodfire AI zusammengeschlossen. Gemeinsam werden sie die fehlende Infrastruktur für die Bewertung und Überwachung der Sicherheit von Open-Weight-Modellen aufbauen.

News · 2026-09-16

Google lässt fremde Agenten Smart Homes steuern

Google hat seine Google Home Plattform für Drittanbieter geöffnet. Modelle wie Claude können nun über das Model Context Protocol direkt Geräte steuern und den Sensorverlauf analysieren.

News · 2026-09-15

Meta überlässt KI-Agenten das Setup für WhatsApp Business

Meta startet einen offiziellen Model Context Protocol (MCP) Server für die WhatsApp Business API, mit dem Entwickler die Routineverwaltung und das Testen von Vorlagen an KI-Agenten wie Claude oder Cursor übergeben können.

News · 2026-09-15

Google, OpenAI und Anthropic haben heimlich die Spielregeln abgestimmt, während die neue Regierung Beschleunigung fordert

OpenAI bestätigte wochenlange Gespräche über KI-Sicherheit mit Anthropic und Google DeepMind, während die neue Trump-Regierung Sicherheitsbedenken zurückweist und darauf drängt, mit China Schritt zu halten. Der Markt versucht herauszufinden, ob dies ein Sicherheitspakt ist oder ein Weg, um kleinere Konkurrenz auszuschließen.

News · 2026-09-15

Salesforce baut auf Nvidia für ein KI-Modell, das Enterprise-Kunden abwerben soll

Das neue Koa-Modell, das auf der Open-Weight-Architektur von Nvidia basiert, zeigt die Abkehr der Unternehmen von den großen KI-Laboren. Für routinemäßige Geschäftsaufgaben wollen Firmen keine sensiblen Daten mehr für Millionen an geschlossene Modelle senden.

News · 2026-09-14

Was tun, wenn OpenAI über Nacht Ihre Roadmap veröffentlicht?

Für Startup-Gründer, die auf dem Fundament großer Modelle aufbauen, kommt der Tag der Abrechnung. Der Wert eines Unternehmens misst sich nicht mehr daran, was es generieren kann, sondern daran, wie tief es in reale Unternehmensprozesse eingebettet ist.

News · 2026-07-31

Sam Altman gibt zu, dass es an der Zeit ist, langsamer zu werden

Der OpenAI-CEO und andere führende Vertreter der KI-Branche haben eine Petition unterzeichnet, die ein langsameres Tempo fordert. Die Nachricht kommt kurz nach einem Vorfall, bei dem ein Modell aus seiner Testumgebung ausbrach.

News · 2026-09-12

Dario Amodei (Anthropic) fordert KI-Bremse und externe Prufer in den Laboren

Der CEO von Anthropic skizzierte einen Plan zur Verlangsamung der Modellentwicklung, bis das Risikomanagement aufholen kann. Er schlagt vor, externe Evaluatoren physisch in die KI-Firmen einzubetten - Sam Altman von OpenAI schloss sich sofort an.

News · 2026-08-07

Astra ist zu leistungsstark für den Markt. OpenAI tritt vorübergehend auf die Bremse

OpenAI hat die interne Entwicklung seines Astra-Modells pausiert, nachdem dessen Cybersicherheitsfunktionen kritische Sicherheitsschwellenwerte überschritten haben. Entwickler müssen sich nun auf strengere Kontrollen konzentrieren.

News · 2026-08-09

Der KI-Sicherheitstest wird zu einem Sicherheitsrisiko

Beim Testen der Belastbarkeit von KI-Agenten müssen Sie deren Filter deaktivieren. Der Test-Sandkasten wird so zur einzigen Barriere zwischen einem ungebundenen Modell und der realen Welt.

News · 2026-08-09

Anthropic dreht die Genehmigungslogik um: Der Auto-Modus von Claude Code wird Standard

Ab Mitte August wird Claude Code nicht mehr bei jedem Schritt um Erlaubnis fragen. Der Auto-Modus wird für zahlende Benutzer zur Standardeinstellung, wodurch die Sicherheitsverantwortung vom Mikromanagement auf systemische Regeln verlagert wird.

News · 2026-09-08

Hacker stehlen Token von Premium-Claude-Konten

Angreifer nutzen Sicherheitslücken in Claude-Abonnentenkonten aus. Die Token-Diebstahl-Technik verschafft ihnen unbegrenzten Zugriff auf fremde Konten.

News · 2026-09-05

Gemini unterschätzte die Vorräte: KI als Bergführer hätte fast drei Menschen getötet

Drei Wanderer mussten am Mount Shasta in Kalifornien in der Nacht gerettet werden. Sie vertrauten ihre Planung dem Gemini Modell von Google an, das ihnen laut dem Sheriff riet, viel weniger Essen und Trinken mitzunehmen, als für den Aufstieg nötig gewesen wäre.

News · 2026-09-06

Autoren fordern größeren Anteil an außergerichtlicher Einigung mit Anthropic

Schriftsteller haben sich gegen Verlage gewehrt, die den Großteil der Zahlungen aus Urheberrechtsvergleichen für sich beanspruchen wollen. Dies zeigt, dass sich der Kampf um Daten von Technologieunternehmen zu internen Streitigkeiten in der Verlagsbranche verlagert.

News · 2026-08-11

Unveröffentlichtes Anthropic-Modell treibt Forschung zur Riemann-Vermutung voran

Ein unveröffentlichtes Anthropic-Modell testete ohne Zutun eines Mathematikers 650 Ideen mithilfe von 60 Subagenten, um die Grenzen der Riemann-Vermutung zu verschieben. Es zeigt, dass die schiere Rechenleistung von Agentennetzwerken für wissenschaftliche Durchbrüche auszureichen beginnt.