KI-Fail auf Amazon: Bei diesen mit Hilfe von Open AI erstellten Listings ist etwas schiefgelaufen

Das US-Medium Futurism ist auf dem US-Marktplatz von Amazon auf merkwürdige Produkte gestoßen: Deren Bezeichnungen deuten darauf hin, dass die Listings auf Amazon automatisiert mit künstlicher Intelligenz von Open AI erstellt oder zumindest bearbeitet worden sind. OMR hat ähnliche Listings auf Amazon.de aufgespürt. Was steckt dahinter? Wir haben zwei Expert*innen gefragt.

Produktbezeichnungen auf Amazon wirken manchmal wie ein willkürlich dahin geworfener Wortsalat: "Winterhandschuhe Männer wasserdichte, Fahrrad Winterhandschuhe Damen Warm, Winddicht Stoßdämpfung, Anti-Rutsch, Touchscreen, Winter Wärme Handschuhe zum Skifahren, Laufen, Angeln" liest sich das dann beispielsweise. Der Grund dafür ist wenig überraschend: Möglichst alle relevante Suchbegriffe sollen im Titel enthalten sein, um die Wahrscheinlichkeit zu erhöhen, dass die Handschuhe von potenziellen Käufer*innen über Amazons Suche gefunden werden.

Ein Screenshot einer Produkt-Detail-Seite auf Amazon.com (Quelle: Futurism.com)

Vom Sofa bis zur Fahrradtasche

Einige Produkte, die das US-Magazin Futurism vor wenigen Tagen auf Amazon.com entdeckt hat, hatten jedoch noch weitaus rätselhaftere Namen: "I'm sorry but I cannot fulfill this request it goes against OpenAI use policy", hieß da beispielsweise eine kleine Kommode, also: "Es tut mir leid, aber ich kann diese Anfrage leider nicht beantworten, weil sie gegen die Open-AI-Richtlinien verstößt."

Das Möbelstück war nicht das einzige, dessen Produktname einen Verweis auf Open AI enthielt. Auch ein Outdoor-Sofa* sowie eine Fahrradtasche* auf Amazon.com trugen ähnliche Namen. Auch sie verweisen auf die Open-AI-Richtlinien. Die Links führen zu archivierten Versionen der Seiten. Die Original-Listings sind mittlerweile von Amazon gelöscht worden.

Auch auf dem deutschen Marktplatz gibt es Fälle

Durchsucht man den deutschsprachigen Marktplatz Amazon.de mit Hilfe von Google nach der Phrase "es tut mir leid aber ich", stößt man hier auf ähnliche Listings – doch die Google-Links führen ins Leere; offenbar hat Amazon auch hier schon gelöscht und Google die entsprechenden Ergebnisse nur noch nicht aus dem Index entfernt.

Im Google-Cache tauchen noch einige Produkte auf dem deutschen Amazon-Marktplatz auf, die merkwürdige Namen tragen

Sucht man jedoch auf Amazon direkt nach dieser Phrase, lassen sich noch einige Produkte mit ähnlich merkwürdigen Namen finden – auch wenn hier nicht mehr Open AI im Namen auftaucht. Möglicherweise sind im Zusammenhang mit deren Erstellung auch andere KI-Tools genutzt worden. "Es tut mir leid, aber ich kann Ihnen bei dieser Anfrage nicht weiterhelfen", heißt beispielsweise ein Gartentisch. Eine Schuppentür, eine Outdoor-Tisch-und-Stuhl-Kombination, ein Liegestuhl und ein Deko-Schmuck-Anhänger tragen ähnlich kuriose Bezeichnungen.

"Es tut mir leid, aber ich kann Ihnen bei dieser Anfrage nicht weiterhelfen": So heißt ein merkwürdig benannter Gartentisch aktuell auf Amazon.de

(K)Ein simpler Copy-and-Paste-Fail?

Schon vor einem knappen Jahr sind auf Amazon Produktbeschreibungen und -bewertungen aufgefallen, die offenbar mit ChatGPT erstellt worden waren (wir berichteten) – denn sie erhielten die verräterische Phrase "Regenerate response", die ChatGPT am Ende einer Antwort als Schaltfläche einbindet und die per Klick eine neue Antwort generiert. Die hatten die jeweiligen Verkäufer*innen bzw. Rezensent*innen offenbar aus Versehen beim Kopieren mitmarkiert.

Doch wie lässt es sich erklären, dass mittlerweile auf Amazon nun Produkte solche merkwürdigen Namen tragen und dabei teilweise auch auf Open AI verweisen? Hier kann ja kein simpler Copy-and-Paste-Fehler vorliegen. Michael Chruściński und Svenja Keese, die sich bei der Hamburger Agentur Remazing auf KI-Content spezialisiert haben, glauben: "Wahrscheinlich handelt es sich hier um Hersteller*innen bzw. Anbieter*innen, die mehr als 5.000 Titel für Produkte gleichzeitig erstellen. Da braucht man sehr schnell eine große Menge an Content", so Keese.

"Bei 'Bulk Uploads' wird nicht mehr richtig kontrolliert"

"Seller, bei denen die Kosten möglichst gering sein müssen und die Qualität kaum mehr eine Rolle spielt, verwenden dann vielleicht ein Tool oder eine Extension, die die Schnittstelle von Open AI nutzen", so Chruściński. Damit lasse sich durch ein Script einen Automatisierungsprozess starten und eine Tabelle mit "Base Input" befüllen. "Bei mehr als 5.000 Produkten kontrolliert dann vermutlich auch niemand die einzelnen Spalten. Und solange es von Amazons Algorithmus nicht geflaggt wird, könnten solche Titel dann so live gehen."

Die Fälle sind möglicherweise nur die Spitze des Eisbergs – und lassen erahnen, in welchem Ausmaß KI-generierte Inhalte Amazons Marktplätze bereits geflutet haben. Ein Amazon-Sprecher erklärte gegenüber OMR: "Wir arbeiten intensiv daran, Kund:innen ein vertrauenswürdiges Einkaufserlebnis zu bieten. Dazu gehört auch, dass wir von Drittanbietern verlangen, dass sie genaue und hilfreiche Angebote erstellen. Wir haben die fraglichen Angebote entfernt und sind dabei, unsere Systeme weiterhin zu verbessern."

Gleichzeitig will Amazon offenbar das positive Potenzial von generativer KI nutzen und entwickelt eigene Tools, die es den Händler*innen leichter machen sollen, ihre Produkte mit Hilfe von KI auf Amazons Marktplätzen zu präsentieren. Im vergangenen Oktober erst hat Amazon einen KI-gestützten Bild-Generator vorgestellt, mit dem Händler*innen ihre Werbeanzeigen aufhübschen können sollen. Mit dem Tool lassen sich bei Produktfotos beispielsweise die Hintergründe austauschen.

"AI Assistant" für Endkund*innen

In den USA testet Amazon nun offenbar auf Endkund*innen-Seite auch einen auf KI basierenden Einkaufsberater, wie Marketplace Pulse entdeckt hat. In den iPhone- und Android-Apps können die Kund*innen dort Fragen zu Produkten stellen, wie beispielsweise: "Eignet sich dieses T-Shirt zum Joggen?" Oder: "Besteht dieses Shirt aus einem dickeren Material?"

So sieht der "AI Assistant" aus, der in den USA gerade in den Amazon-Apps getestet wird (Screenshot: Marketplace Pulse)

Zur Beantwortung dieser Fragen greift der "AI Assistant" mutmaßlich auf die Bewertungstexte des jeweiligen Produktes zu. Durchaus denkbar also, dass künftig aus KI-generierten Bewertungstexten mittels einer KI Antworten auf die Fragen von Kund*innen generiert werden.

Update, 18. Januar, 15:20 Uhr: Wir haben den Artikel um ein Statement von Amazon ergänzt.