Dieser Tage konnte ich das Buch “If Anyone Builds It, Everyone Dies: The Case Against Superintelligent AI” von Eliezer Yudkowsky zu Ende lesen. Die Quintessenz des Buches: Yudkowsky hält superintelligente KI-Swarms für unkontrollierbar, weil wir Systeme bauen, deren innere Logik wir nicht verstehen, deren Ziele wir nur ungenau festlegen können und die uns bei ausreichender Intelligenz strukturell überlegen wären. Kleine Zielabweichungen würden enorme Folgen haben, Kontrolle würde versagen, sobald die KI schneller lernt und handelt als wir. Das Buch ist aus philosophischer Sicht extrem lesenswert, hat aber auch seine praktischen Konsequenzen. Eine davon erfasst das Thema Marketing.

In den letzten Tagen taucht immer wieder der Name DoubleSpeed auf. Ein KI-Startup, das koordiniert tausende Social-Media-Accounts steuert, um Reichweite und Engagement zu erzeugen. Investoren sind u. a. Andreessen Horowitz, also kein Randphänomen, sondern ein ernstzunehmendes Signal aus dem Tech-Ökosystem.

Darauf aufmerksam geworden bin ich durch einen Artikel von Gary Marcus (der eigentlich auf seinem Blog unerträglich geworden ist), in dem beschrieben wird, wie öffentliche Diskurse durch KI-Bots untergraben werden können. Viele Argumente passen zumindest auf abstrakter Ebene wunderbar zu Journalismus und Marketing.

Marketing ging lange von einer einfachen Annahme aus: Aufmerksamkeit entsteht dort, wo Menschen auf Menschen reagieren. Wo echte Meinungen aufeinandertreffen, wo Zustimmung, Reibung oder Neugier entstehen. Reichweite war ein Nebenprodukt von Mensch-zu-Mensch-Interaktion. AI-Bot-Swarms untergraben dieses Prinzip. 

Aufmerksamkeit wird nicht mehr verstärkt, sondern durch agentisch handelnde Bots erzeugt. Engagement ist kein Ausdruck von Interesse mehr, sondern ein simuliertes Signal. Social Proof kann künstlich hergestellt werden, Trends können entstehen, ohne dass dahinter reale Gespräche, reale Erfahrungen oder reale Bedürfnisse stehen.

Das eigentliche Problem ist dabei weniger die Manipulation einzelner Plattformen. Kritischer ist der zweite, oft übersehene Effekt: 

Diese synthetischen Signale fließen zurück in unsere Systeme. 

In Dashboards. In Reports. In KI-Modelle, die wiederum Marketingentscheidungen vorbereiten. Ein Feedback-Loop, in dem Maschinen auf eine von Maschinen erzeugte Wirklichkeit reagieren, während echte Mensch-zu-Mensch-Interaktion im Datenrauschen verschwindet. Bei Yudkowsky ist das Thema AI-Alignment relevant. Wie können wir Menschen die Zielkoordinaten von KI-Systemen beeinflussen, um sie untertan zu halten? In Sachen Marketing werden wir zunehmend ein “Ad-Alignment”-Problem bekommen.

Damit verlieren klassische Marketing-Kennzahlen schleichend ihre Bedeutung. Likes, Kommentare, Reichweiten, all das kann künftig existieren, ohne dass irgendwo echte Aufmerksamkeit entstanden ist. Wenn alles Reichweite hat, wird Mensch-zu-Mensch-Interaktion zur knappsten Ressource im System.

Das ist kein moralischer Appell und auch kein Technik-Bashing. Solche Technologien werden kommen, weil sie ökonomisch "effizient" sind. Die eigentliche Frage ist eine strategische:

Wie definieren wir in Zukunft „Erfolg“ im Marketing und auch Journalismus?

Wie erkennen wir echte Resonanz zwischen Menschen, jenseits von simuliertem Engagement?

Für Publisher ist die Diskussion existenziell. Zum einen, weil immer noch sehr viele Medienunternehmen von (digitalen) Werbe-Euros abhängig sind. Zum anderen, weil auch eigene Targeting-Themen dadurch komplexer werden. Wie erreiche ich künftig meine dringend benötigten KundInnen in neuen Produktklassen. Der Weg aus der Falle: Publisher müssten sich ihrer Rolle als Vermittler menschlicher Verbindungen bewusst werden. Und sie müssten konzertiert handeln. Die ganze Zunft müsste sich neu positionieren, unabhängig von den oben genannten Szenarien und Risiken.

Marketing steht an einem ähnlichen Punkt wie der Journalismus vor Jahren. Man kann kurzfristig Reichweite maximieren. Oder langfristig Glaubwürdigkeit aufbauen. Beides gleichzeitig wird immer schwieriger.

Vielleicht liegt der eigentliche Wettbewerbsvorteil der nächsten Jahre genau hier: Nicht in noch mehr Automatisierung, sondern in echter Mensch-zu-Mensch-Interaktion.

[Meanwhile in AI-Town…]

Siri ✞: Wie der Mobile Traffic neue Wege suchte

Noch dieses Jahr ist es soweit. Das Ende von Siri naht. Was für uns Publisher allerdings deutlich spannender ist als der Jubel um den Exitus des be****** Features des iPhones, ist die künftige KI-Ausrichtung bei Apple.

Google und Apple haben in der vergangenen Woche ein gemeinsames Statement abgegeben. Googles Gemini soll die Engine hinter Apples AI-Bemühungen werden. Für uns iPhone-Nutzer wird die erste Konsequenz sein, dass das Produkt “Voice” auf dem iPhone endlich besser werden wird. Für uns als Branche ist das wahrscheinlich aber die größte Disruption für unsere digitalen Geschäftsmodelle seit Jahren. Bei nativer Einbindung von Gemini wird die mobile Suche nach Inhalten nicht mehr im Web und damit bei Publishern enden, sondern auf Google verbleiben. Je nach Statistik-Verteilung des Traffics wird der Impact auf die Geschäftsmodelle enorm sein. Der Anteil am globalen Gesamt-Traffic durch Mobile Search ist schwer zu kalkulieren, er ist in jedem Falle erheblich.

Das System soll intern Campos AI genannt werden. Für Publisher ist das das neue Reizwort bis zum Roll-Out. Der soll im Herbst kommen.

Gemini: “Echo chamber of one” rückt immer näher

Google ist derzeit der KI-Hauptakteur. Gerade frisch angekündigt: Google Personal Intelligence, welche die Ergebnisse in Gemini noch weiter auf uns zuschneiden soll. In den vergangenen Monaten habe ich immer wieder von der “Echochamber of one” gesprochen. Mit hyper-customized Antworten aus Gemini bewegen wir uns weiter auf diese Utopie/Dystopie zu. Wer möchte noch generische Antworten von Informationsplattformen, wenn die Nachrichten zu politischen oder gesellschaftlichen Ereignissen in perfekten Einklang mit den persönlichen Belangen gebracht werden können? You tell me…

Was hat DeepMind gesehen?

Google DeepMind (beste Akquise ever, period.) ist an sich nicht für Übertreibungen bekannt. Auch Shane Legg nicht, Co-CEO von DeepMind. Das hier liest sich schon etwas anders. Ich lasse das einfach mal so stehen… Happy Weekend.