Je besser die KI wird, desto schlechter wird unsere Kontrolle.
- Fachvortrag
- Künstliche Intelligenz (KI) in der Technischen Kommunikation
- 10. November
- 10:00 AM (MEZ) - 10:45 AM (MEZ)
- Plenum 1
-
Professsorin Dr. Britta Görs
- Hochschule Hannover
Inhalt
KI-Systeme schreiben heute schneller und fehlerärmer als je zuvor. Doch ihr Erfolg erzeugt ein neues Risiko: Je zuverlässiger die KI arbeitet, desto schwächer wird die menschliche Kontrolle – nicht aus Nachlässigkeit, sondern als unvermeidliche Folge menschlicher Kognition.
Die EU KI-Verordnung fordert unmissverständlich: KI-Outputs müssen von Menschen überwacht und verantwortet werden. Wie soll das funktionieren, wenn Redakteur*innen täglich hunderte KI-generierter Sätze prüfen und dabei zwangsläufig in einen Zustand gleiten, den die Kognitionsforschung seit 75 Jahren als Vigilanzverfall beschreibt? Das Kernproblem liegt tiefer als Nachlässigkeit oder mangelnde Sorgfalt: Passive Kontrolle scheitert strukturell. Wer einen gut funktionierenden automatisierten Prozess nur beobachtet, verliert nach wenigen Minuten messbar an Aufmerksamkeit, das ist keine individuelle Schwäche, sondern ein psychologisch gut belegtes Grundprinzip menschlicher Aufmerksamkeit. Es ist zu diskutieren: Ist das Lesen und Freigeben eines KI-Texts wirklich menschliche Kontrolle – oder ist es die Illusion davon?
Das lernen Sie
Die Teilnehmenden erfahren etwas über die kognitiven Risiken einer KI-gestützten Technischen Redaktion und erhalten Ideen für konkrete Maßnahmen der aktiven Prüfmethodik.