KI-Verleger packt aus: So entstehen meine Bücher
Stephan Wünsche, Referent im Bereich „Open Science“ und Fachreferent für Musik an der Universitätsbibliothek Leipzig, hat erneut von Künstlicher Intelligenz (KI) generierte Bücher entdeckt. Im Mai berichteten wir, wie er KI-Schrott bei einem Selfpublisher fand. Sogar in wissenschaftliche Bibliotheken hatten es solche Bücher von „Tredition“ geschafft. Die Self-Publishing-Plattform steuerte um und implementierte Mechanismen gegen KI. Kunden durften gekaufte Bücher zurückgeben.
Nun berichtet Wünsche im Blog seiner Bibliothek dies: „Im August 2026 haben wir ‚Tredition‘ auf die Sachbücher einer gewissen ‚Artemis Saage‘ aufmerksam gemacht. ‚Tredition‘ hat daraufhin die ohnehin laufende interne Prüfung beschleunigt und im Ergebnis sämtliche Saage-Bücher aus dem Programm genommen.“ Die Saage Media GmbH macht kein Geheimnis aus dem Einsatz von KI, man erkennt das bereits an Autorennamen wie „Inuus A.I. Saage“ oder „Klio A.I. Saage“, die ein „A.I.“ für „Artificial Intelligence“ enthalten. Seit Gründung des Leipziger Unternehmens im Mai 2024 hat Saage über 1500 Titel veröffentlicht, als E-Book- und Print-on-Demand-Varianten, teilweise in bis zu sieben Sprachen. Saage veröffentlicht zu immens vielen Themen; hier eine zufällige Auswahl: „Immobilien als Kapitalanlage“, „Camping mit Hund“, „Wut bei Kindern bewältigen“, „Abitur Biologie“, „Bauchfett loswerden: Der effektive Ernährungs- und Bewegungsguide zum Fett verbrennen am Bauch“, „Eltern werden: Der umfassende Ratgeber für werdende Mütter und Väter“ oder „ADHS bei Erwachsenen. Diagnose, Therapie und Alltagsbewältigung“.
F.A.Z.-Artikel häufiger in Ihren Suchergebnissen sehen
F.A.Z. bei Google bevorzugen
Sind solche KI-Bücher erlaubt?
Auf dem Cover steht „mit KI erstellt“ oder „mit Unterstützung von KI erstellt“, ebenso auf der Rückseite des gedruckten Buches, im rechtlichen Hinweis und im Vorwort. „Unser explizites Ziel ist es, ein Maß an Klarheit und Transparenz zu erreichen, welches jedem Leser eine informierte Kaufentscheidung ermöglicht“, sagt Geschäftsführer und Gesellschafter Rico Saage. Ein Test zeigt indes: Ob man die Bücher als KI-Werke erkennen kann, hängt vom Online-Shop ab. Manche Shops übernehmen die von Saage zur Verfügung gestellten Klappentexte anscheinend nicht. Teilweise sieht man auch das Cover nicht, eine Leseprobe fehlt. Als indirekter Hinweis zu KI verbleibt die Autorenangabe: „Von: Iris A. I. Saage. Illustriert von: Ai“. Immerhin das zeigt: KI schreibt und illustriert.
Ist ein solch großflächiger KI-Einsatz überhaupt erlaubt? Die Berliner Rechtsanwältin Anna Bernzen (Raue) erklärt, es sei nicht verboten, Bücher mit KI zu schreiben. „Wer KI nutzt, muss das aber unter bestimmten Umständen offenlegen.“ Entscheidend sei die europäische KI-Verordnung von 2024. Eine Transparenzpflicht bestehe für mit KI erzeugte oder bearbeitete Texte, wenn diese über Angelegenheiten von öffentlichem Interesse informieren. Gemeint sind politische, gesellschaftliche, wirtschaftliche oder kulturelle Themen. „Darunter fallen etwa die Artikel einer Tageszeitung“, so Bernzen. „Bei Ratgeberliteratur liegt eine Angelegenheit von öffentlichem Interesse eher fern. Hier werden wir aber abwarten müssen, wie Aufsichtsbehörden und Gerichte die Formulierung ‚Angelegenheit von öffentlichem Interesse‘ verstehen.“
Kunde darf online bestellte Bücher zurücksenden
Erlaubt sind KI-Ratgeber also, aber sind sie auch erwünscht? Anruf bei Christian Sprang, Justiziar des Börsenvereins des Deutschen Buchhandels. Sprang kennt die Unzufriedenheit von Kunden, die versehentlich ein KI-Buch erworben haben. Er berichtet, dass der Börsenverein schon gebeten wurde, ein Siegel „menschengemacht“ oder „human written“ zu vergeben. „Doch wie soll das gehen?“, fragt er: „KI-Detektoren, die jedes Buch prüfen, sind nicht verlässlich genug. Ihre Ergebnisse liefern lediglich Wahrscheinlichkeiten und erlauben deshalb keine belastbare Prüfkontrolle. Zudem können sie die vielfältigen Formen des Einsatzes generativer KI im Entstehungsprozess eines Buches nicht abbilden.“
Er rät enttäuschten Onlinekäufern gedruckter KI-Bücher, einen Widerruf nach Fernabsatzrecht zu erklären. Begründet werden muss ein solcher Widerruf nicht. Zu beachten sei die Frist von 14 Kalendertagen nach Erhalt des Buches. Nach Rückgabe beim Versandhändler wird der Kaufpreis erstattet. Dieses Recht gibt es nicht bei E-Books. Allerdings nehmen manche Versandhändler E-Books aus Kulanz zurück. Was aber tut man, wenn 14 Kalendertage verstrichen sind? Dann gilt Kaufrecht. Es müsste ein Sachmangel vorliegen, um vom Vertrag zurücktreten zu können. Sprang sagt: Dass ein Buch mit KI erstellt wurde, ist kein Sachmangel. Bernzen sagt: Es kann ein Sachmangel vorliegen, wenn die KI-Nutzung verschwiegen wird.
KI-Bücher entstehen heutzutage in kleinen Unternehmen. Man darf sich keine klassischen Verlage vorstellen mit Programmlinie und Fachexperten. Saage veröffentlichte seine 1500 Bücher mit drei festangestellten Mitarbeitern; der Geschäftsführer ist für Produktion, Entwicklung und Lektorat verantwortlich; ein Mitarbeiter für Kundensupport und Lektorat; dazu gibt es einen Softwareentwickler. Als Autor agiert KI.
Den Entstehungsprozess beschreibt Saage so: „Für Ratgeber mit Quellenverzeichnis wird für jeden Abschnitt in wissenschaftlichen Datenbanken recherchiert, ausschließlich in einer von uns festgelegten Liste zugelassener Quellen wie PubMed, Europe PMC oder PLOS. Die gefundenen Quellen werden geladen, ihre Eignung wird geprüft, die Fakten werden aus dem Originaltext extrahiert, gefiltert und mit dem bereits geschriebenen Text abgeglichen. Erst dann wird ein Text geschrieben; mit Quellenmarkern, die im Anhang mit vollständigem Nachweis und DOI aufgelöst werden. Auf jeder dieser Stufen greifen von uns entwickelte Prüfungen.“
Als Beispiele für Prüfungen nennt Saage, dass jede Quellenmarke im Text auf eine tatsächliche Quelle verweisen muss. Andernfalls greife die Software ein. Ein „Wiederholungsschutz“ gleiche jeden neuen Abschnitt mit dem ab, was bereits geschrieben steht. Hinzu kämen manuelle Schritte: Themenfreigabe, redaktionelle Übernahme des Titels, Prüfung von PDF, EPUB und Cover, sowie das manuelle Beheben von Fehlern. „Bei jeder neuen Version unserer Software prüfen wir ganze Bücher von Hand: ob die Fakten mit den Quellen übereinstimmen, ob die Aussagen über das Buch hinweg konsistent sind und ob der Text als Ratgeber funktioniert.“ Saage berichtet, man wähle für diese Prüfungen jene Bücher aus, „in denen wir uns selbst fachlich auskennen.“ All seine Bücher erstellt Saage laut eigenen Worten in einem „iterativen Prozess aus Recherche, Texterzeugung, automatischer Prüfung und wiederholter Prüfung durch Menschen“.
Haftung so, als hätte ein Mensch geschrieben
Was gilt bei solchen Ratgebern in Sachen Haftung? Rechtsanwältin Bernzen verdeutlicht: „Wer einen Ratgeber mithilfe von KI schreibt, kann sich nicht mit dem bloßen Hinweis auf den KI-Einsatz der Haftung für die KI-generierten Inhalte entziehen. Gerichte haben in anderen Fällen von KI-Texten bereits entschieden, dass derjenige, der die Texte veröffentlicht, hierfür trotz des Hinweises einstehen muss.“ Der Text wird also so behandelt, als wäre er von einem Menschen verfasst worden.
Saage sagt, der KI-Hinweis diene der Transparenz gegenüber den Lesern, nicht der Enthaftung. „Wir tragen für unsere Bücher dieselbe verlegerische Verantwortung wie jeder andere Verlag.“ Saage hat auch folgenden Ratgeber veröffentlicht: „ADHS bei Frauen. Besonderheiten, Diagnostik und Bewältigungsstrategien: Weibliche ADHS verstehen und erfolgreich managen. Ein Praxisratgeber für Frauen und Mädchen mit ADHS im Alltag, Beruf und Beziehungen“. Geschrieben hat KI.
Nachfrage der F.A.Z.: Wurde dieser Ratgeber von einem Experten geprüft und freigegeben? Die Antwort: Nein. Nach der F.A.Z.-Anfrage ließ Saage das Buch von einer Diplom-Psychologin prüfen. „Es wurden bei der fachlichen Prüfung keine Aussagen gefunden, die für die Leserinnen, Zielgruppe ‚Frauen mit ADHS‘, als potentiell schädlich oder thematisch unpassend bewertet wurden.“ Bei Gesundheitsthemen veröffentliche man keine Dosierungsangaben, keine Anleitungen zu Diagnose oder Medikation, und man wiederhole den Hinweis, dass Buchinhalte kein Ersatz für Fachärzte und fachliche Experten sind.
Was hält Sprang von diesen Büchern? Die Welle an KI-generierten Büchern, die sich gerade abzeichnet, stelle ein großes Problem für Leser und die Buchbranche dar. Bei Saage werde, so Sprang, zumindest gekennzeichnet, dass KI im Einsatz war. Was und wie viel mit KI erstellt wurde, bleibe allerdings unklar. In den USA könne man aktuell, so Sprang, einen sprunghaften Anstieg bei den Neuerscheinungen beobachten. Im Jahr 2025 wurden dort 32 Prozent mehr Bücher mit ISBN-Nummer veröffentlicht als im Vorjahr. Eine ISBN-Nummer benötigt man unter anderem zum Vertrieb. Nicht alle beantragten ISBN sind in Benutzung, oft werden sie von Verlagen in Zehntausenderblöcken reserviert. Auch in Deutschland steigt die Zahl der beantragten ISBN merklich. Gegenüber der F.A.Z. bekräftigt Saage, dass die Zahl der von ihm reservierten ISBN keine Ankündigung künftiger Veröffentlichungen sei: „Wir erwerben ISBN in größeren Kontingenten, weil das deutlich günstiger ist als der Einzelkauf.“
Die Sprache ist langweilig, der Stil glatt
Saage argumentiert, er veröffentliche Sachbücher zu Themen, die klassische Verlage häufig nicht abdeckten, weil die Zielgruppe klein sei. Wer einen Blick ins Saage-Angebot wirft, wird widersprechen. Zu vielen Themen gibt es menschengemachte Literatur. Und diese scheint oft ansprechender. Nach Lektüre einiger KI-generierter Bücher lässt sich feststellen, dass die Sprache langweilig und der Stil glatt ist. Der KI fehlen persönliche Erfahrungen, wie sie etwa Psychologen oder Ärzte haben.
Dazu ein Blick in das 2025 erschienene Buch „Erziehung in der Pubertät: Der ultimative Elternratgeber für Jugendliche“ („Autor“: Eos A.I. Saage). Schon der Titel erscheint unklar. Es handelt sich nicht um einen Ratgeber für Jugendliche über Eltern, sondern einen Ratgeber für Eltern mit einem Kind in der Pubertät. Aber das ist eine Nebensache.
Merkwürdig wirken, neben eingestreuten Zitaten von Geistesgrößen wie Goethe, und teilweise unpassenden Fotos (der Wikipedia entnommen), die zahlreichen Grafiken. Eine Grafik behandelt das Thema „Geschätzte durchschnittliche Häufigkeit wichtiger Emotionen, die Jugendliche pro Woche erleben.“ Die in einem Balkendiagramm zusammengefassten Aussagen sind unter anderem: Angst/Sorge viermal, Ärger dreimal, Aufregung dreimal. Dazu heißt es: „Diese Grafik veranschaulicht die dynamische emotionale Landschaft von Jugendlichen während der Pubertät.“
Man mag gar nicht konstatieren, dass die Grafik unterkomplex ist, weil dies ein Mindestmaß an Komplexität voraussetzen würde. Unklar bleibt, welche Jugendlichen gemeint sind, welchen Alters, aus welchen Weltregionen, wer die Werte überhaupt geschätzt hat. Immerhin wird gar nicht so getan, als seien die Werte in irgendeiner Weise validiert. Stattdessen gibt es diese sinnfreie Erläuterung: „[Die Grafik] legt nahe, dass Emotionen wie ‚Frustration‘ und ‚Angst‘ wöchentlich häufiger auftreten könnten als intensive Zustände wie ‚reine Freude‘ oder ‚tiefe Traurigkeit‘, obwohl alle Teil des Erlebens sind. Auch ‚Langeweile‘ scheint verbreitet zu sein.“
Wohlgemerkt: Die KI hatte zuvor geschätzt, was sie nun kommentiert. Formulierungen wie „dynamische emotionale Landschaft“ sind KI-Geschwätz. Eine andere Grafik zeigt den „Vergleich der größten elterlichen Sorgen“. Unklar ist, was das genau heißt: Machen sich so viele Eltern Sorgen über, beispielweise, Drogenkonsum der Kinder? (Hier: 55 Prozent; was die Frage aufwirft: Die anderen nicht?) Unklar auch, von wem diese „Daten“ geschätzt wurden, wann, auf welche Eltern in welchen Ländern bezogen. Unter der Grafik ist zu lesen, was aus der Analyse folgen soll: „Dies unterstreicht die Bedeutung elterlicher Anleitung und Unterstützungsstrukturen.“
Ein nicht nur naturalistischer Fehlschluss: Aus elterlicher Sorge folgt, dass elterliche Anleitung bedeutend sein soll. Solche Sinnlosigkeiten finden sich an vielen Stellen, auch in einer Grafik, die zeigen soll, wie Teenager ihre tägliche Bildschirmzeit „typischerweise“ auf verschiedene digitale Aktivitäten aufteilen: „Diese Zahlen sind illustrative Schätzungen, die typische Muster darstellen und nicht auf einer spezifischen Studie basieren.“ Welchen Nutzwert haben diese in Millisekunden herausgeschüttelten Zahlen? Forschungsgruppen benötigen für seriöse Studien zu solchen Themen viele Jahre.
Für den KI-Verleger ist Technologiekritik wichtig
Darauf angesprochen, meldet sich Saage mit diesen Hinweisen zum benutzten KI-Modell: „Das Modell erhält als inhaltlichen Rahmen jeweils einen Buchabschnitt, inklusive der Kontexteinordnung von Kapitelüberschrift, Buchtitel und dem Buchthema. Das Erstellen der illustrativen Diagramme ist einer der letzten Arbeitsschritte in der Produktion unserer Bücher und erfolgt, nachdem die Produktion der Buchtexte abgeschlossen ist.“ Die zentrale Arbeitsanweisung sei das Generieren von einfachen Datenmatrizen, die geeignet sind, die Inhalte des Textabschnittes in Form eines Diagramms zu illustrieren. Diagramminhalten orientierten sich an den referenzierten Quellen, allerdings indirekt, vermittelt über Buchtexte.
„Nachdem die Schätzwerte für die Diagramme erzeugt wurden, werden diese in einem zweiten Arbeitsschritt durch ein zweites unabhängiges KI-Modell auf Plausibilität geprüft. Wurden beispielsweise Daten zur geschätzten Verteilung des Größenwachstums bei Jungen ermittelt, so wird an dieser Stelle geprüft, ob ein Wachstumsschub mit dem Höhepunkt bei 13 Jahren plausibel ist.“ Falle diese Prüfung negativ aus, werden die generierten Daten nicht weiterverarbeitet. Schließlich heißt es zur F.A.Z.: „Konstruktive Rückmeldungen, wie Ihre Kritik an der Möglichkeit zu Zirkelschlussaussagen in den Diagrammbeschreibungen nehmen wir dankend an. Die kritische Auseinandersetzung mit unseren Büchern ermöglicht es uns, Schwachstellen zu erkennen und unsere Software und Produktionsschritte weiter zu verbessern. Technologiekritik ist wichtig.“
Trotz aller Unzulänglichkeiten haben es Saages Bücher in wissenschaftliche und öffentliche Bibliotheken geschafft. Wünsche schaute im Karlsruher Virtuellen Katalog nach. Er fand rund 100 Treffer in Deutschland. Hinter einem Treffer können sich mitunter mehrere Exemplare in verschiedenen Bibliotheken verbergen. Der Ratgeber „ADHS bei Frauen“ beispielsweise findet sich in Berlin, Bremen, Hildesheim und Osnabrück. Kleine Büchereien, die nicht an den Karlsruher Virtuellen Katalog angeschlossen sind, könnten noch hinzukommen.
Saage meint: „Unsere Bücher sind Einführungen, die einen Einstieg und Überblick geben sollen, sie ersetzen keine fachliche Beratung, und das steht auch so in jedem Buch.“ Vor allem aber ersetzen die Saage-Bücher keine von Menschen geschriebenen Bücher. Alles, was anerkannte Autoren ausmacht, fehlt der KI: Geschickte Sprache, anregender Stil, bestechende Logik, die Teilhabe des Lesers an der persönlichen Gedankenwelt eines erfahrenen Autors. Die Universitätsbibliothek Leipzig besaß ein Saage-Buch und hat es nun ausgesondert. Zudem scheint das Geschäftsmodell des KI-Verlegers schon bedroht. Wer soll Geld für ein KI-Buch bezahlen, wenn er dessen Inhalt durch einen Prompt selbst generieren kann? Auf die den Text noch schmückenden Prominentenzitate, Fotos und Diagramme kann der Leser getrost verzichten.