Einkaufsagenten lassen sich genau wie Menschen manipulieren

KI-Agenten, die als Käufer fungieren, erliegen dem Marketing

Ethan Mollick hob eine neue Untersuchung hervor, die sich auf „Agentic Shopping“ konzentriert: ein Szenario, in dem autonome KI-Agenten Online-Käufe im Namen von Benutzern tätigen. Die Hauptfrage der Studie war, ob das Verhalten dieser Agenten konsistent vorhergesagt oder sogar durch klassische Marketingtechniken gezielt und beeinflusst werden kann.

Die Forscher fanden heraus, dass die Präferenzen von Agenten überraschend fragil und verletzlich sind. Kleine Änderungen in der Umgebung konnten die Entscheidungsfindung der KI erheblich verändern.

Eine neue Front für Vermarkter entsteht

Die Studie zeigt, dass das Verhalten von KI-Assistenten bei der Produktauswahl keine rein objektive und rationale Berechnung ist. Dinge wie die Reihenfolge, in der der Agent Seiten anzeigt, oder die Art und Weise, wie sein Langzeitgedächtnis konfiguriert ist, führten zu unvorhersehbaren Änderungen bei seiner endgültigen Auswahl.

Dies bedeutet, dass die Suchmaschinenoptimierung (SEO) und die Conversion-Rate-Optimierung (CRO) bald eine neue Schicht erhalten werden: die Optimierung für Agenten. Wer herausfindet, wie Daten strukturiert werden können, um das „Denken“ des Agenten beim Surfen im Internet zu beeinflussen, verschafft sich einen massiven Vorteil.

Die Fragilität der Überzeugungen autonomer Assistenten

Die interessanteste Erkenntnis ist gerade, dass schon geringfügige Störungen im Kontext die Logik eines Sprachmodells aus der Bahn werfen können. Wenn die Reihenfolge der angezeigten Artikel (Priming und Kontextfenster) den Kauf beeinflusst, bedeutet dies, dass Agenten an ähnlichen kognitiven Verzerrungen leiden wie Menschen. Der einzige Unterschied besteht darin, dass ihre „Verzerrungen“ aus den technischen Eigenschaften von Aufmerksamkeitsmechanismen in der Transformatorarchitektur resultieren.

Wer den Krieg um die Aufmerksamkeit der Agenten gewinnen wird

Der Erfolg im E-Commerce wird in den kommenden Jahren möglicherweise nicht davon abhängen, wie Sie einen menschlichen Kunden überzeugen. Ausschlaggebend wird sein, welche Daten Sie in welcher Reihenfolge an seinen Einkaufsagenten weitergeben. Die Entstehung neuer Agenturen, die sich ausschließlich auf die Manipulation des Kontextfensters von Einkaufs-KIs spezialisiert haben, wird das deutlichste Signal sein.

Liliths Urteil

Das Problem mit Agenten ist nicht, dass sie zu schlau sind. Es ist so, dass die Aufmerksamkeitsarchitektur sie genauso leicht manipulierbar macht wie Menschen in einer Rabattabteilung.