Wenn KI schreibt und Menschen lesen müssen

Ich lese aktuell viele Dokumente.

Ausschreibungen. Begründungen. Konzepte. Anforderungen. Teilweise ziemlich umfangreiche PDFs und Word-Dokumente.

Und bei erstaunlich vielen davon habe ich nach wenigen Seiten denselben Gedanken:

Das wurde mit KI geschrieben.

Manchmal muss ich dafür nicht einmal den Text lesen.

Der erste Blick geht in die Metadaten

Wenn ich ein PDF oder Word-Dokument bekomme, schaue ich inzwischen gerne zuerst in die Metadaten.

Dort finden sich dann Hinweise wie:

generated by python-docx

oder

html-to-docx

Das beweist natürlich noch nicht, dass der Inhalt von einer KI geschrieben wurde. Solche Tools können genauso gut für ganz normale automatisierte Dokumentenerstellung verwendet werden.

Interessant wird es, wenn man danach den Text liest.

Denn dann wiederholt sich ein bestimmtes Muster.

Viel Text. Wenig Information.

Die Dokumente sind lang.

Sehr lang.

Ein Gedanke wird erklärt. Danach noch einmal anders formuliert. Dann zusammengefasst. Anschließend in fünf Bulletpoints zerlegt und im nächsten Kapitel erneut aufgegriffen.

Jeder einzelne Absatz klingt plausibel.

Das ist vielleicht sogar das Gefährliche daran.

Die Argumentation wirkt logisch. Die Sätze sind sauber. Die Struktur sieht professionell aus.

Aber wenn man genauer hinschaut, stellt sich eine andere Frage:

Was wurde hier eigentlich gesagt?

Und noch wichtiger:

Was davon hat mit der Realität zu tun?

Ein Sprachmodell kann eine Argumentation erzeugen, die sprachlich schlüssig erscheint.

Das bedeutet aber nicht automatisch, dass die zugrunde liegenden Annahmen stimmen.

Plausibilität ist nicht dasselbe wie Wahrheit.

Und ein gut formulierter Absatz ist noch lange keine gute Entscheidung.

Das eigentliche Problem beginnt auf der anderen Seite

KI kann heute in wenigen Sekunden Text produzieren, für den ein Mensch früher Stunden gebraucht hätte.

Das ist erst einmal großartig.

Doch damit entsteht ein interessantes Ungleichgewicht.

Auf der einen Seite sitzt jemand und erzeugt mit wenigen Prompts ein 40-seitiges Dokument.

Auf der anderen Seite sitzt ein Mensch und soll diese 40 Seiten lesen, verstehen, prüfen und bewerten.

Die Produktionskosten von Text gehen gegen null.

Die Kosten des Verstehens aber nicht.

Vielleicht steigen sie sogar.

Denn je mehr Text wir produzieren können, desto mehr Text müssen andere Menschen verarbeiten.

Das ist für mich eine der unterschätzten Nebenwirkungen generativer KI.

Human in the Loop reicht nicht

Wir sprechen im Zusammenhang mit KI gerne von „Human in the Loop“.

Der Mensch soll kontrollieren.

Der Mensch soll entscheiden.

Der Mensch soll Verantwortung übernehmen.

Klingt vernünftig.

Aber was passiert, wenn dieser Mensch jeden Tag Dutzende Seiten KI-generierten Text überprüfen muss?

Wenn Argumentationen plausibel klingen?

Wenn jedes Kapitel sauber strukturiert ist?

Wenn man nach Seite 27 eigentlich nur noch fertig werden möchte?

Dann haben wir zwar formal noch einen Menschen im Prozess.

Aber die entscheidende Frage lautet:

Wie aufmerksam ist dieser Mensch noch?

Das Problem verschiebt sich von der künstlichen Intelligenz zur menschlichen Aufmerksamkeit.

Wir automatisieren gerade die falsche Seite

Das finde ich besonders paradox.

Wir investieren enorme Energie darin, Informationen schneller zu erzeugen.

Vielleicht sollten wir stärker darüber nachdenken, wie wir Informationen reduzieren.

Nicht:

„Wie kann KI daraus ein 30-seitiges Dokument machen?“

Sondern:

„Welche fünf Aussagen braucht der Empfänger wirklich, um eine Entscheidung treffen zu können?“

Nicht:

„Kann KI die Begründung ausführlicher formulieren?“

Sondern:

„Welche Annahmen liegen dieser Begründung zugrunde – und können wir sie überprüfen?“

Nicht mehr Text.

Mehr Klarheit.

KI sollte Denken nicht simulieren, sondern Denken unterstützen

Ich nutze KI selbst täglich.

Zum Programmieren. Recherchieren. Strukturieren. Schreiben. Hinterfragen.

Aber genau deshalb halte ich die Unterscheidung für wichtig:

KI kann uns Arbeit abnehmen. Sie sollte uns nicht das Denken abnehmen.

Wenn wir aus drei Stichpunkten 20 Seiten erzeugen, die anschließend ein anderer Mensch durcharbeiten muss, haben wir vielleicht nichts effizienter gemacht.

Wir haben nur die Arbeit verschoben.

Und möglicherweise sogar neue Arbeit erzeugt.

Die spannendere Anwendung von KI wäre deshalb für mich häufig genau das Gegenteil:

20 Seiten auf fünf relevante Aussagen reduzieren.

Annahmen sichtbar machen.

Widersprüche finden.

Behauptungen überprüfen.

Unklarheiten markieren.

Und dem Menschen helfen, eine bessere Entscheidung zu treffen.

Denn am Ende ist nicht entscheidend, wie viel Text wir mit KI produzieren können.

Sondern wie viel davon ein Mensch noch sinnvoll verarbeiten kann.

Vielleicht brauchen wir deshalb weniger „Human in the Loop“.

Und mehr „Human actually thinking in the Loop“.