Die KI-Content-Welle rollt schon längst durchs Netz – das sind ihre kuriosesten Auswüchse

KI-generierte Inhalte fluten das Web: Was vor Kurzem noch lediglich eine Mutmaßung war, scheint schneller Wirklichkeit zu werden als gedacht. Dabei treibt die Entwicklung teilweise kuriose Blüten. OMR zeigt sowohl das Ausmaß der Spam-Welle als auch ihre groteskesten Ausprägungen.

Ende Dezember 2023 ereilte Freunde von Beth Mazur und Brian Vastag furchtbare Neuigkeiten: Das Paar sei plötzlich verstorben, wie in mehreren im Netz veröffentlichten Nachrufen zu lesen war. Die Texte erschienen auf Seiten mit Namen wie Eternalhonoring.com (hier eine archivierte Version) und Inlovingmemoriesnews.com (Archiv-Version). Die Websites weisen mehrere Merkmale auf, die darauf schließen lassen, dass sie mit Hilfe künstlicher Intelligenz (KI) erstellt wurden. Am auffälligsten sind schwulstige und ungelenke Formulierungen, bei denen es schwer vorstellbar ist, dass menschliche Autor*innen dahinter stecken.

Ein Nacruf auf Beth Mazur und Brian Vastag auf Eternalhonoring.com

Nachruf auf einen Lebenden

Das Erschütternde: Brian Vastag lebt. Beth Mazur, mit der Vastag für einige Zeit verheiratet gewesen war, hatte sich am 21. Dezember das Leben genommen – nachdem sie zuvor jahrelang an einer chronischen Krankheit litt. Was genau dazu geführt hat, dass mehrere Websites fälschlicherweise auch Vastags Ableben vermeldeten, lässt sich von außen nicht verlässlich rekonstruieren.

Vielleicht war es ein Artikel für die Washington Post, in dem Vastag und Mazur gemeinsam über mögliche Langzeiterkrankungen nach viralen Infekten geschrieben hatten – weil beide unter solchen litten. Möglicherweise haben so genannte "Obituary Pirates", die massenhaft Nachrufe im Internet veröffentlichen, diese Informationen automatisiert ausgelesen und von einer KI daraus einen Artikel generieren lassen, die dann Vastags Tod wegen der Informationen über seine Erkrankung "herbei-halluziniert" hat.

KI eröffnet den "Obituary Pirates" ganz neue Möglichkeiten

Das Phänomen der "Obituary Pirates" gibt es schon seit mehreren Jahren. Die "Nachruf-Piraten" suchen im Netz systematisch nach Informationen über jüngst Verstorbene und veröffentlichen zu deren Ableben eigene Artikel, um so Klicks über Google von Personen zu generieren, die nach den Verstorbenen suchen. Das Suchvolumen auf die jeweiligen Namen mag häufig nicht besonders hoch sein, dafür ist die Konkurrenz in den Suchergebnissen gering. Und wenn man Massen von Nachrufen auf einer Seite bündelt, lassen sich mit dieser über Google viele Besucher*innen einsammeln.

Nun scheint das Phänomen durch die allgemeine Verfügbarkeit von generativer KI eine bisher nicht gekannte Größe anzunehmen. Das Statistik-Tool Similarweb schätzt beispielsweise die Zahl der Visits von Eternalhonoring.com im Januar auf knapp eine halbe Million. Pflastert man dann eine Nachruf-Website mit einer solchen Reichweite mit Werbung zu, dürfte sich damit mutmaßlich durchaus Geld verdienen lassen.

Millionen von Besucher*innen mit Trash-Content

Die Praktiken der "Obituary Pirates" sorgen bei Hinterbliebenen immer wieder für Ärger, weil ihre Berichte nicht selten Falschinformationen enthalten. "Ich weiß von mindestens vier Freunden, die gemeinsame Freunde von uns angerufen und gedacht haben, dass ich mit ihr gestorben sei, so als ob wir einen Selbstmordpakt vereinbart gehabt hätten", so Brian Vastag gegenüber The Verge. "Das hat einigen meiner Freunde zusätzlichen Kummer bereitet, und das hat mich wirklich wütend gemacht."

Andere Websites veröffentlichen nicht nur Nachrufe, sondern bündeln diese mit Massen von anderem mutmaßlich KI-generiertem Content: Promi-Gerüchte, Zusammenfassungen von Tiktok-Videos, Rätsel, Sportberichte. TheThaiger.com soll auf diese Weise im Januar 4,9 Millionen Visits generiert haben. Fresherslive.com, wo unter der gnadenlos suchmaschinenoptimierten Headline "Ist Beth Mazur tot? Was ist mit Beth Mazur passiert?" (Archiv-Version) ebenfalls ein Nachruf erschienen war, soll gar auf 9,1 Millionen Visits gekommen sein.

713 Seiten verbreiten ungeprüfte KI-generierte News

Die Zahl solcher "AI Content Farms", also KI-generierter Nachrichtenseiten, die häufig ohne Qualitätskontrolle betrieben werden und bei denen Falschmeldungen keine Seltenheit sind, steigt rasant. Das US-Unternehmen Newsguard, das ein Tool anbietet, mit dem Werbetreibende überwachen können sollen, ob ihre Werbung auf fragwürdigen Seiten eingebunden wird, hat ein "AI Tracking Center" aufgesetzt, mit dem es nachverfolgt, wie viele solcher KI-generierter Nachrichtenseiten es im Netz gibt. Im Juni 2023 waren es 217, seitdem ist die Zahl auf 713 angestiegen. Einige davon veröffentlichen mehrere Tausend Texte pro Woche.

Screenshot von der Website des "AI Spinner Tools" Spin Rewriter

Häufig sind die Inhalte der KI-Nachrichtenseiten von etablierten Nachrichtenmedien geklaut und einfach mittels Software umformuliert worden. So genannte "AI Spinner"-Tools werben damit, auf Knopfdruck bis zu 1.000 Varianten eines Textes erstellen zu können.

"Wir sind die Zukunft der Nachrichten"

Einige der Websites generieren aber nicht nur über die reguläre Google-Suche Traffic, sondern auch über die Google-Bildersuche. Die Website "Motion Picture Magazine" beispielsweise hat es laut einem Bericht von Vice in den USA u.a. mit offensichtlich KI-generierten Fotos von den Schauspielern Pedro Pascal, Bill Skarsgård und John David Washington in die Suchergebnisse geschafft. Nach Schätzungen von Similarweb hat MotionPictureMagazine.com im Januar 123.000 Besuche verzeichnet.

Ein KI-generiertes Bild von John David Washington von der Website MotionPictureMagazine.com in den Ergebnissen der Google-Bildersuche (Quelle: Vice.com)

Nachdem Vice reißerisch titelte "Ein KI-generiertes Content-Imperium verbreitet gefälschte Promi-Bilder auf Google", verteidigt die Betreiberfirma Loaded Media ihr Vorgehen in einer Entgegnung (archivierte Version) unbescheiden als "Zukunft der Nachrichten": "Bei Loaded Media nutzen wir KI nicht nur als Werkzeug, sondern auch als Künstler. Unsere KI-generierten Bilder sind nicht einfach nur Bilder, sie sind Kunstwerke, die fesseln und begeistern."

Virale KI-Content-Welle auf Facebook

Aber nicht nur über Google versuchen skrupellose Glücksritter mit KI-generierten Inhalten Reichweite zu generieren. Auf Plattformen wie Facebook, Instagram, Tiktok und Pinterest sammeln KI-generierte Bilder und Videos ebenfalls mutmaßlich bereits Millionen von Klicks ein – sehr häufig ohne dass es für das Publikum erkennbar ist, dass die Motive nicht real existieren.

Auf Facebook rollt beispielsweise gerade eine Welle von Viralseiten durch den Feed, die angefacht vom Empfehlungs-Algorithmus der Plattform fünf- bis sechsstellige Interaktionen und mutmaßlich sechs- bis siebenstellige Abrufzahlen verzeichnen. Süße Tiere und Babies, schöne Urlaubsziele und imposante Häuser – genommen wird alles, was gut klicken könnte. Zum Teil generieren die Bilder ein hohes Engagement, obwohl darauf Menschen mit typischen "AI Glitches" zu sehen sind – wie bei diesem vermeintlichen Foto der griechischen Insel Santorini.

Beispiele von Posts mit KI-generierten Bildern auf Facebook

KI-generierte "Interior Inspiration"-Inhalte fluten die Plattformen

Besonders im Themenbereich Architektur und Inneneinrichtung scheint die Zahl der Accounts zuzunehmen, die KI-generierte Inhalte posten. Wenig verwunderlich, da hier auf den Bildern keine Menschen zu sehen sein müssen, mit deren Generierung sich die bislang verfügbaren Tools immer noch schwer tun.

KI-generierte Inhalte auf Pinterest (links) und auf Tiktok

Wer auf Pinterest nach "interior design" sucht, stößt unter den ersten zehn Ergebnissen beispielsweise auf den Account "Home Stratosphere", der 369.000 Follower angesammelt hat und dessen Pins laut Pinterest mehr als zehn Millionen monatliche Abrufe verzeichnen. Viele der Posts weisen die typische Anmutung KI-generierter Bilder auf. Hinter dem Account steht laut Website der kanadische Innenarchitekt Jon Dykstra, der im Internet auch von ihm entworfene Grundrißpläne sowie Planungs-Software verkauft.

Auch auf Tiktok lassen sich Beiträge mit Millionen von Views finden, die "inspirierende Häuser" zeigen – zum Teil als einfach zu erstellende Slideshow, zum Teil aber auch als animiertes Video.

Der Instagram Account "tinyhouseperfect"

Mit KI-generierten Tiny Homes echte Häuschen verkaufen

Ein besonders kurioses Beispiel, über das vor Kurzem auch die New York Times berichtet hat, ist der Instagram-Account "tinyhouseperfect". Der postet dem Namen entsprechend KI-generierte Bilder von "Tiny Homes", also kleinen, ansprechend designten Häusern und hat damit mehr als eine Million Abonnent*innen angesammelt. Betrieben wird der Account von dem Unternehmen "U-Build Tiny Homes", das auf diese Weise Aufmerksamkeit für seine Dienstleistung generiert: den Bau von Kleinhäusern – in der ganz realen Welt.