
Ein flüssig formulierter Text wirkt überzeugend. Trotzdem können Angaben falsch, Quellen erfunden oder wichtige Einschränkungen ausgelassen sein. Deshalb gehören fachliche Prüfung und bewußte Datenauswahl zum betrieblichen Einsatz generativer KI.
Der Umfang der Prüfung sollte sich an den möglichen Folgen orientieren. Bei einem internen Ideenentwurf reichen andere Kontrollen als bei einer Kundeninformation über technische Eigenschaften. Zahlen werden nachgerechnet, Quellen tatsächlich geöffnet und Aussagen mit verläßlichen Unterlagen verglichen.
Der NIST-Leitfaden zu generativer KI beschreibt sowohl überzeugend vorgetragene Falschangaben als auch Risiken für personenbezogene und vertrauliche Daten. Daraus folgt eine praktische Aufgabe: Das Unternehmen muß für seine Anwendungen passende Kontrollen festlegen.
Ein Assistent formuliert aus Stichpunkten einen Angebotsentwurf. Der zuständige Mitarbeiter prüft Leistungsumfang, Mengen und Zusagen gegen die freigegebenen Angaben. Ein vom System ergänztes Leistungsversprechen wird entfernt. Vertrauliche Kundendaten werden nur eingegeben, wenn ihre Verwendung für dieses Werkzeug geprüft und erlaubt ist.
Auch scheinbar entfernte Namen machen einen Vorgang nicht automatisch anonym. Projektdetails können weiterhin Rückschlüsse auf Personen oder Kunden ermöglichen.
Für eine häufige Aufgabe wird eine kurze Prüfliste erstellt: Welche Angaben müssen stimmen? Welche Quelle ist maßgeblich? Welche Daten dürfen in das Werkzeug? Wer entscheidet bei Zweifeln? Mit fiktiven Beispieldaten läßt sich der Ablauf zunächst erproben. Auffällige Ergebnisse werden gesammelt, damit Schulung und Arbeitsanweisung an tatsächlichen Fehlern ansetzen.
Stand: 16. Oktober 2026.