Warum es selbst mit Tausenden von Agenten nicht zu einer sofortigen Intelligenzexplosion kommen wird

Agenten werden Betriebskosten senken, aber die Verständnisbarriere nicht durchbrechen

KI-Labore wie OpenAI und Anthropic werden bald Tausende von parallelen Agenten für interne Prozesse einsetzen, was eine neue Welle der Besorgnis über unkontrollierte Entwicklung und rekursive Selbstverbesserung (RSI) auslöst. Nathan Lambert, ein Forscher mit Erfahrung bei HuggingFace und DeepMind, dämpft jedoch dieses Narrativ. Während schnellere und billigere Inferenzen den effizienteren Betrieb von Multi-Agenten-Systemen ermöglichen, bedeutet die Automatisierung von Routineaufgaben nicht automatisch ein exponentielles Wachstum der Intelligenz selbst.

Die grundlegenden Skalierungsgesetze ändern sich nicht: Für eine lineare Verbesserung der Intelligenz sind weiterhin exponentiell größere Rechenressourcen erforderlich. Agentenschwärme werden messbare Probleme mit klaren Ergebnissen leichter lösen können, werden sich jedoch schwer tun, völlig neue Forschungsrichtungen vorzuschlagen oder offene wissenschaftliche Probleme zu lösen, bei denen eine klare Definition des Erfolgs fehlt.

Die Messung der Intelligenz stößt an die Grenzen von Definitionen

Die Debatte darüber, wann KI menschliche Experten übertreffen wird, stößt auf die Tatsache, dass die „Intelligenz“ von Modellen eine völlig andere Form hat als die menschliche Intelligenz. LLM-Modelle überschreiten Meilensteine wie „virtueller Assistent“ oder „KI-Forscher“ nicht auf einmal; vielmehr beherrschen sie asymmetrisch 80 % einer bestimmten Rolle, während die restlichen 20 % lange Zeit ein unüberwindbares Hindernis bleiben.

Branchenexperten wie John Schulman zufolge können wir innerhalb eines Jahres einen funktionierenden „Remote Worker“ für routinemäßige Verwaltungsaufgaben erwarten. Die Steigerung der Produktivität von Spitzenforschern wird jedoch länger dauern, denn obwohl Modelle Experimente schneller entwerfen und testen können, fehlt es ihnen an Intuition und der Fähigkeit, bahnbrechende Hypothesen aufzustellen.

Das Post-Training bleibt Handwerk für Menschen

RSI wird am häufigsten mit der Idee in Verbindung gebracht, dass Modelle anfangen, sich selbst zu trainieren. Aber die Post-Training-Phase, in der das Modell bestimmtes Verhalten lernt, ist nach wie vor ein überraschend manueller Prozess. Die Schaffung neuer und aussagekräftiger Umgebungen für bestärkendes Lernen (RL) erfordert menschlichen Einblick, und KI-Modellen wird es bald an diesen komplexen Aufgaben als hochwertigen Trainingssignalen mangeln.

Die Automatisierung in Labors beschleunigt derzeit das Engineering (Codeschreiben, Überwachung) und nicht die eigentliche Forschung, die die Grenzen der künstlichen Intelligenz verschiebt. Eine grundlegende Steigerung der Fähigkeiten ist noch nicht eingetreten, und Modelle benötigen immer noch Menschen, um zu definieren, was das richtige Ergebnis eigentlich ist.

Kommodifizierung ist die Realität, keine Singularität

Anstelle einer unkontrollierten Intelligenzexplosion werden wir wahrscheinlich einen drastischen Preisverfall bei den aktuellen Fähigkeiten erleben. Modelle werden bei gleichem Intelligenzniveau exponentiell billiger sein. Dies ist eine gute Nachricht für die Wirtschaft und die Verbreitung von Werkzeugen, aber eine Enttäuschung für diejenigen, die schon morgen auf eine künstliche Superintelligenz (ASI) warten.

Das Jevons-Paradoxon wird hier wahrscheinlich voll zum Tragen kommen: Billigere Modelle werden zu einem höheren Nutzungsvolumen führen und robuste Unternehmen schaffen, keinen magischen Übergang in eine Welt ohne menschliche Arbeit. Vorerst bleibt die wahre Singularität in einem Warteraum voller iterativer Anpassungen und Kostenoptimierungen verschoben.

Liliths Urteil

Anstatt AGI um die Ecke zu bekommen, werden wir Tausende von verzweifelt fleißigen Sachbearbeitern bekommen. Die Revolution wird nicht wie aus heiterem Himmel aus einem Labor kommen, sondern dadurch, dass jedes langweilige Unternehmen plötzlich ein Drittel seiner Kosten für Prozesse einspart, von denen Sie nicht einmal wussten, dass sie existieren.