Zum Inhalt
CTG GmbH

KI-Ergebnisse prüfen und Daten bewußt verwenden

KI-generiertes Symbolbild zum KI-Management

Ein flüssig formulierter Text wirkt überzeugend. Trotzdem können Angaben falsch, Quellen erfunden oder wichtige Einschränkungen ausgelassen sein. Deshalb gehören fachliche Prüfung und bewußte Datenauswahl zum betrieblichen Einsatz generativer KI.

Prüfen, was eine Entscheidung verändert

Der Umfang der Prüfung sollte sich an den möglichen Folgen orientieren. Bei einem internen Ideenentwurf reichen andere Kontrollen als bei einer Kundeninformation über technische Eigenschaften. Zahlen werden nachgerechnet, Quellen tatsächlich geöffnet und Aussagen mit verläßlichen Unterlagen verglichen.

Der NIST-Leitfaden zu generativer KI beschreibt sowohl überzeugend vorgetragene Falschangaben als auch Risiken für personenbezogene und vertrauliche Daten. Daraus folgt eine praktische Aufgabe: Das Unternehmen muß für seine Anwendungen passende Kontrollen festlegen.

Ein Beispiel aus der Angebotsbearbeitung

Ein Assistent formuliert aus Stichpunkten einen Angebotsentwurf. Der zuständige Mitarbeiter prüft Leistungsumfang, Mengen und Zusagen gegen die freigegebenen Angaben. Ein vom System ergänztes Leistungsversprechen wird entfernt. Vertrauliche Kundendaten werden nur eingegeben, wenn ihre Verwendung für dieses Werkzeug geprüft und erlaubt ist.

Auch scheinbar entfernte Namen machen einen Vorgang nicht automatisch anonym. Projektdetails können weiterhin Rückschlüsse auf Personen oder Kunden ermöglichen.

Ein brauchbarer erster Schritt

Für eine häufige Aufgabe wird eine kurze Prüfliste erstellt: Welche Angaben müssen stimmen? Welche Quelle ist maßgeblich? Welche Daten dürfen in das Werkzeug? Wer entscheidet bei Zweifeln? Mit fiktiven Beispieldaten läßt sich der Ablauf zunächst erproben. Auffällige Ergebnisse werden gesammelt, damit Schulung und Arbeitsanweisung an tatsächlichen Fehlern ansetzen.

Quellen

Stand: 16. Oktober 2026.

Zur Übersicht KI-Management