Neue Pflicht bei Amazon: Kindle-Autoren müssen KI-Inhalte bei Büchern offenlegen

Amazon schraubt offenbar am hauseigenen Buchsegment – der Änderung gehen einige Probleme voraus.

In Amazons Buchsegment gibt es offenbar eine wichtige Neuerung: Weil der Einsatz künstlicher Intelligenz in diesem Sektor immer beliebter wird, aber zugleich auch regelmäßig für Ärger sorgt, soll der Konzern an dieser Stelle eine neue Richtlinie für die hauseigene Self-Publishing-Plattform KDP (Kindle Direct Publishing) und entsprechende Autorinnen und Autoren einführen.

Es geht um KI-generierte Texte, Bilder und Übersetzungen

Laut der US-amerikanischen Autorenvereinigung Authors Guild will Amazon die Nutzerinnen und Nutzer künftig zwingen, den Einsatz von KI offenzulegen: Egal, ob künstliche Intelligenz beim Schreiben der Texte, bei der Erstellung von Bildern oder bei Übersetzungen zum Einsatz kam – sämtliche KI-Inhalte sollen im Rahmen der neuen Richtlinie angegeben werden.

Wichtig hierbei ist die Unterscheidung zwischen Elementen, bei denen die künstliche Intelligenz unterstützend geholfen hat („KI-unterstützt“ / „AI-assisted“), und jenen Elementen, die durch die Systeme selbst geschaffen wurden („KI-generiert“ / „AI-generated“). Laut Geek Wire werden die beiden Kategorien folgendermaßen definiert:

KI-generiert: „Wir definieren KI-generierte Inhalte als Texte, Bilder oder Übersetzungen, die von einem KI-basierten Tool erstellt wurden. Wenn Sie zum Erstellen des eigentlichen Inhalts (Text, Bilder oder Übersetzungen) ein KI-basiertes Tool verwendet haben, gilt dieser als ,KI-generiert‘, auch wenn Sie im Nachhinein erhebliche Änderungen vorgenommen haben.“

KI-unterstützt: „Wenn Sie den Inhalt selbst erstellt und KI-basierte Tools verwendet haben, um diesen Inhalt (ob Text oder Bilder) zu bearbeiten, zu verfeinern, auf Fehler zu überprüfen oder anderweitig zu verbessern, dann gilt er als ,KI-unterstützt‘ und nicht als ,KI-generiert‘. Wenn Sie zum Brainstorming und Generieren von Ideen ein KI-basiertes Tool verwendet haben, den Text oder die Bilder aber letztendlich selbst erstellt haben, gilt dies ebenfalls als ,KI-unterstützt‘ und nicht als ,KI-generiert‘. Es ist nicht erforderlich, uns über den Einsatz solcher Tools oder Prozesse zu informieren.“

Unkontrollierter KI-Einsatz als Bedrohung

Laut der Authors Guild führt Amazon die neue Richtlinie nach monatelangen Diskussionen ein. Die Regelung sei eine notwendige Schutzmaßnahme „gegen die Überflutung der Plattform mit KI-generierten Büchern und die Verdrängung menschlicher Autoren sowie zum Schutz der Verbraucher vor dem unwissentlichen Kauf von KI-generierten Texten“, heißt es auf der Website der Vereinigung.

Die Autorenvertretung sprach Amazon zugleich auch ihren Dank aus, weil der Konzern nun auf die Bedenken rund um den KI-Einsatz im Buchsegment reagiere. Dies sei ein wichtiger Schritt „zur Gewährleistung von Transparenz und Verantwortlichkeit für KI-generierte Inhalte“. Komme generative KI-Technologie unkontrolliert zum Einsatz, so sei dies eine „ernsthafte Bedrohung“.

Tödliche Tipps von der KI

In den vergangenen Monaten habe es bereits einige eindrückliche Beispiele gegeben, wie sich künstliche Intelligenz schon jetzt auf die Buchbranche im Gesamten, aber auch auf Autorinnen und Autoren oder Leserinnen und Leser im Speziellen auswirkt: So seien Bücher, die von künstlichen Systemen geschrieben beziehungsweise zusammengestückelt wurden, bereits in Bestsellerlisten aufgestiegen. 

Auf diesem Weg geraten die KI-Bücher in direkte Konkurrenz zu Werken echter Künstlerinnen und Künstler. Auch hätten sich entsprechende Systeme Stile und Inhalte namhafter Creatoren angeeignet und somit deren einzigartiges Talent kopiert. Darüber hinaus gab es etwa auch Titel mit höchst gefährlichen Inhalten: In einem Pilzratgeber, der durch eine KI erstellt wurde, wurden beispielsweise potenziell tödliche Tipps gegeben.

Autorenverbund bestätigt positive Potenziale von künstlicher Intelligenz 

Trotz solcher Gefahren, die durch den unkontrollierten Einsatz künstlicher Intelligenz drohen, verweist die Authors Guild auch auf große Potenziale für die Branche: Mit Blick auf die Unterscheidung zwischen KI-generierten und KI-unterstützten Inhalten, bestätigte die Vereinigung, dass lizenzierte KI-Systeme den Autorinnen und Autoren bei der Überarbeitung und Verfeinerung ihrer Werke unterstützend zur Seite stehen können. Auch in puncto Ideenfindung seien solche Programme durchaus hilfreich – wie bereits aus der Unterscheidung von Amazon deutlich wird.

Die Änderungen bei Amazon beziehen sich nach aktuellem Stand ausschließlich auf die Self-Publishing-Plattform rund um Kindle. Der Konzern habe derweil „nicht zugestimmt, alle Bucheinträge für KI-generierte Bücher auf seinen anderen Kanälen außerhalb von KDP offenzulegen“, heißt es weiter. – So hatte es die Authors Guild allerdings gefordert. Man sei jedoch guter Dinge, dass die Änderung eine Bereitschaft für eine neue Firmenpolitik signalisiere und Amazon in seinen Buchsegmenten künftig transparenter werde.