KI-Inhalte vor dem Versand prüfen: Eine Checkliste zur Verifizierung

Sie können eine von einer KI entworfene Kunden-E-Mail überprüfen, indem Sie vor dem Absenden sechs feste Felder abgleichen – Daten, Namen, Zahlen, Preise, sachliche Behauptungen und Tonalität. Der Prozess stoppt, sobald jedes anwendbare Feld eine Quelle hat, oder Sie korrigieren beziehungsweise verwerfen den Entwurf, wenn ein Feld nicht verifiziert werden kann. Gleichen Sie jedes Feld mit einem konkreten internen Datensatz ab, anstatt sich darauf zu verlassen, ob sich der Entwurf „richtig anfühlt“. Wenn die Nachricht Ihr Unternehmen auf ein Datum, einen Preis oder eine Aktion festlegt, muss sie eine menschliche Freigabestufe durchlaufen, die niemals übersprungen wird.

Diese Freigabestufe ist keine bloße Vorsichtsmaßnahme. Sie ist die manuelle Version der Regel, die wir bei Niro Digital auf jede Automatisierung anwenden: „Wir vertrauen Modellausgaben niemals blind. Jede Automatisierung wird mit deterministischen Verifizierungsprüfungen, Budgetobergrenzen und menschlichen Freigabestufen für unumkehrbare Aktionen ausgeliefert. Wir bauen Systeme, in denen KI-Ausgaben als Behauptung behandelt werden, die erst Prüfungen bestehen muss, bevor sie als erledigt gilt.“

Keine Checkliste macht KI-Ausgaben zu 100 % fehlerfrei. Die Verantwortung liegt letztlich immer bei dem Menschen, der auf „Senden“ klickt.

Gehen Sie von einer Annahme aus: Jeder KI-Entwurf ist so lange eine bloße Behauptung, bis er eine Prüfung bestanden hat. Die Plattform-Dokumentation von Anthropic bringt den Grund dafür unmissverständlich auf den Punkt: „Selbst die fortschrittlichsten Sprachmodelle wie Claude können manchmal Texte generieren, die sachlich falsch sind oder nicht mit dem vorgegebenen Kontext übereinstimmen.“

Eine Verifizierungsstufe ist ein Punkt, an dem eine Ausgabe eine Prüfung bestehen muss, bevor sie als erledigt gilt. Eine deterministische Prüfung ist ein fester Bestanden/Nicht-bestanden-Test, wie zum Beispiel: „Taucht dieses Lieferdatum im Auftragsdatensatz auf?“, und keine Ermessensentscheidung beim erneuten Durchlesen des Satzes. Sie benötigen kein technisches Fachwissen, um die folgenden Prüfungen durchzuführen.

Gehen Sie die sechs Felder der Reihe nach durch. Jedes Feld hat genau eine Quelle.

Wie viel von der Checkliste Anwendung findet, hängt vom Zweck des Entwurfs ab. Drei Szenarien decken dies ab:

• Verbindlichkeiten gegenüber Kunden – Angebote, Preise, Termine, also alles, was eine Verpflichtung begründet oder den Namen Ihres Unternehmens nach außen trägt – durchlaufen die vollständige Prüfung aller sechs Felder sowie eine menschliche Freigabe vor dem Versand.
• Interne Zusammenfassungen oder umkehrbare Notizen (monatliche Betriebsberichte, erste Entwürfe, interne E-Mails, also alles, was ohnehin noch einmal geprüft wird) erhalten eine gezielte Stichprobenprüfung der Felder, die ein betriebliches Risiko bergen: Daten, Zahlen, Preise und Kundennamen. Sie müssen nicht jeden Satz eines Entwurfs mit geringem Risiko verifizieren.
• Jeder Entwurf mit einer betrieblichen Behauptung, die nicht verifiziert werden kann, wird erst dann gesendet, wenn die Behauptung durch einen internen Datensatz belegt oder entfernt wurde.

Wählen Sie am Ende eine Option: Freigeben – Versand erst nach menschlicher Freigabe, wenn die Nachricht das Unternehmen auf ein Datum, einen Preis oder eine Aktion festlegt. Überarbeiten – Fehler beheben und die betroffenen Felder erneut prüfen. Verwerfen – neu beginnen oder manuell schreiben.

Sie sind fertig, wenn jedes anwendbare Feld anhand einer Quelle erfolgreich geprüft wurde und die Nachricht keine Verpflichtungen eingeht, oder wenn Sie auf ein „nicht verifizierbar“ stoßen und sich für eine Überarbeitung oder das Verwerfen entscheiden. Die Prüfung ist nicht abgeschlossen, wenn sich der Entwurf „gut liest“; sie ist abgeschlossen, wenn kein relevantes Feld ungeprüft bleibt.

Die Sorge, dass die Überprüfung die Zeitersparnis wieder zunichte macht, ist berechtigt. Wir haben darauf eine konkrete Antwort. In unserer Lektobot-Fallstudie durchliefen 400 Vorschläge zu einer echten Masterarbeit mit 31.204 Wörtern einen Verifizierungstrichter. Das Ergebnis: 250 verifizierte Kommentare in 1 Stunde und 24 Minuten, nachdem sie 11 unabhängige Prüfungen bestanden hatten. Systematisches Prüfen ist eine Routine, keine Fleißarbeit.

Bei dieser Checkliste ziehen wir die Grenze bei der Umkehrbarkeit. Umkehrbare Entwürfe können ohne die vollständige Freigabestufe weitergegeben werden: interne Notizen, frühe Entwürfe, lautes Nachdenken – alles, was ohnehin noch einmal überprüft wird. Unumkehrbare Nachrichten gehen niemals mit einem ungeprüften Feld heraus: Angebote, Preise, Termine, Zusagen – alles, was eine Verpflichtung begründet oder den Namen Ihres Unternehmens gegenüber einem Kunden repräsentiert.

Wir schlagen eine Regel vor, die über allen anderen steht: Jede Nachricht, die das Unternehmen auf ein Datum, einen Preis oder eine Aktion festlegt, muss mit dem internen Datensatz abgeglichen und vor dem Absenden ausdrücklich von einem Menschen freigegeben werden. Diese Freigabestufe wird niemals übersprungen.

Der Ablauf sieht wie folgt aus: KI-Entwurf → die sechs Feldprüfungen durchführen → Fehler gefunden? Überarbeiten oder verwerfen → Legt die Nachricht ein Datum, einen Preis oder eine Aktion fest? Wenn nein: senden. Wenn ja: menschliche Freigabe anhand des internen Datensatzes vor dem Senden. Dieser letzte Schritt wird niemals übersprungen.

Dies ist die manuelle Form dessen, was unser Service für KI-Automatisierung für Teams entwickelt, die bereit für die Automatisierung sind: überwachte Systeme, in denen die KI Vorschläge macht und feste Prüfungen sowie eine menschliche Freigabe entscheiden.

Hier ist ein Beispiel für die Art von Fehlern, die ein Betriebsleiter abfängt; es handelt sich dabei nicht um eine Kunden-Fallstudie von Niro Digital.

Ein KI-Entwurf für einen langjährigen Kunden lautet: „Wir können die Paletten am 18. September liefern.“ Der Auftragsdatensatz enthält jedoch kein Lieferdatum, da der Kunde noch keines bestätigt hat. Feld 1 (Daten), abgeglichen mit dem Auftragsdatensatz, schlägt fehl. Das Datum ist konkret, plausibel – und falsch.

Es lohnt sich zu verstehen, warum das passiert. Der Kurs von Anthropic leitet das Kapitel über Halluzinationen mit folgendem Satz ein: „Eine schlechte Nachricht: Claude ‚halluziniert‘ manchmal.“ Eine Halluzination sind Informationen, die „sachlich falsch oder erfunden sind oder durch die verfügbaren Daten nicht belegt werden können“. Das Modell „versucht, hilfreich zu sein und eine Antwort zu geben, selbst wenn es ihm an ausreichenden Informationen mangelt“ – genau der Mechanismus hinter einem erfundenen Lieferdatum.

Der Kurs von Anthropic listet vier häufige Szenarien für Halluzinationen auf: Fragen zu spezifischen Fakten, die nicht im Training des Modells enthalten sind, Fragen zu Ereignissen nach dem Wissensstand des Modells (Knowledge Cutoff), detaillierte Fragen zu obskuren Themen mit begrenzten verfügbaren Informationen sowie Fragen zu nicht existierenden Einheiten oder Konzepten. Ein Lieferdatum für eine bestimmte Bestellung ist im Training des Modells naturgemäß nicht verfügbar und betrifft ein Ereignis nach seinem Wissensstand – weshalb es zwingend mit dem Auftragsdatensatz abgeglichen werden muss.

Die Entscheidungsregel bleibt einfach. Das Datum ist das einzige fehlerhafte Feld, während der Rest der Nachricht stimmt. Also überarbeiten: Korrigieren Sie das Datum anhand des Auftragsdatensatzes oder schreiben Sie „Datum noch zu bestätigen“, und prüfen Sie das betroffene Feld erneut. Wenn der Entwurf zudem einen nicht verifizierbaren Preis und einen falschen Kontaktnamen enthielte, würden Sie ihn verwerfen und manuell schreiben. Geben Sie ihn erst frei, wenn jedes Feld anhand einer Quelle erfolgreich geprüft wurde und die menschliche Freigabestufe durchlaufen ist.

Die folgenden Prompts stammen aus den veröffentlichten Leitfäden von Anthropic. Sie sorgen dafür, dass ein Entwurf bereits mehr Belege enthält, bevor Sie ihn prüfen; sie ersetzen die Checkliste jedoch nicht.

Nach Unsicherheit fragen. In der Plattform-Dokumentation von Anthropic heißt es: „Geben Sie Claude ausdrücklich die Erlaubnis, Unsicherheit zuzugeben. Diese einfache Technik kann Falschinformationen drastisch reduzieren.“ In der Praxis: „Wenn du ein Datum oder eine Zahl nicht weißt, sag, dass du es nicht weißt.“

Nach Quellen als Zitate fragen. Für lange Quelldokumente empfiehlt Anthropic: „Bitten Sie Claude bei Aufgaben mit langen Dokumenten (>20k Token) zunächst darum, wortwörtliche Zitate zu extrahieren, bevor die eigentliche Aufgabe ausgeführt wird. Dies verankert die Antworten im tatsächlichen Text und reduziert Halluzinationen.“ In der Praxis: „Zitiere vor dem Entwerfen die Sätze aus dem Auftragsdatensatz, die du verwendest.“

Dem Modell einen Ausweg bieten. Der Kurs von Anthropic dokumentiert eine technik namens „Claude einen Ausweg geben“: Dem Modell wird explizit mitgeteilt, dass es akzeptabel ist, die Antwort zu verweigern, wenn es an ausreichenden Informationen mangelt, um Erfindungen vorzubeugen. In der Praxis: „Wenn in den Unterlagen kein Lieferdatum zu finden ist, schreibe ‚Datum nicht in den Unterlagen‘ und brich ab.“

Diese Prompts reduzieren Fehler an der Quelle. Die Checkliste mit sechs Feldern bleibt dennoch die letzte Absicherung, da auch ein überzeugend formulierter Entwurf ein Datum enthalten kann, das nicht im Datensatz existiert.

Die Zahlen zeigen, dass die Überprüfung die Geschwindigkeit der KI nicht zunichte machen muss. Unsere Fallstudie zur Content-Agent-Plattform berichtet von einer 14-stufigen Pipeline mit 15 deterministischen Validatoren, die Zitate, Quellen, Verweise, Links und unzulässige Behauptungen abdecken. Ein Durchlauf erstellte einen quellenbasierten Artikel mit 3.046 Wörtern für 0,37 $ bei 24 Modellaufrufen. Der entscheidende Punkt ist nicht der Preis. Es ist die Struktur: 15 feste Prüfungen, die bei jeder Ausgabe ablaufen, bevor sie freigegeben wird – statt eines mühsamen Durchlesens durch einen ohnehin schon ausgelasteten Mitarbeiter.

Diese Struktur hat einen Namen. Ein überwachtes Agentensystem ist ein System, bei dem das Modell Vorschläge macht und feste Prüfungen sowie eine menschliche Freigabe entscheiden. Die Checkliste in diesem Artikel ist die manuelle Variante; die produktive Version entsteht, indem man zunächst die Arbeitsabläufe eines Unternehmens abbildet.

Zum Kontext: Die vier Hauptdienstleistungen von Niro Digital sind KI-Automatisierung, maßgeschneiderte Softwareentwicklung, Recruiting-Kampagnen und Lead-Generierung. Der Service für KI-Automatisierung analysiert die Arbeitsabläufe eines Unternehmens und baut überwachte KI-Systeme mit integrierter Verifizierung und menschlicher Freigabe auf. Diese Checkliste ist eine Anpassung der von Niro Digital veröffentlichten Verifizierungsdoktrin sowie der in den Fallstudien zu Content-Agent und Lektobot beschriebenen Schutzmaßnahmen; sie dient als Entscheidungshilfe und wurde nicht unabhängig getestet.

Wenden Sie die Checkliste auf Ihre nächsten drei KI-Entwürfe an. Notieren Sie, was bei jeder Prüfung auffällt. Betrachten Sie nach drei Durchgängen das Muster. Wenn dasselbe Feld wiederholt fehlschlägt, ist dies der erste Kandidat für eine Automatisierung.

Keine Checkliste garantiert 100 % Genauigkeit. Die Verantwortung liegt letztlich immer bei dem Menschen, der auf „Senden“ klickt. Sie besitzen bereits die Fähigkeit, auf die diese Methode setzt – Sie hätten das falsche Lieferdatum auch ohne Checkliste bemerkt. Dieser Artikel macht diesen Instinkt wiederholbar.

Wenden Sie diese Checkliste auf Ihre nächsten drei KI-Entwürfe an. Schreiben Sie uns anschließend, was Sie dabei entdeckt haben – wir helfen Ihnen dabei, den ersten Digitalisierungsschritt zu definieren, um diese Prüfung zu automatisieren. Kontaktieren Sie uns über die Kontaktseite unter info@nirodigital.com oder +386 70 630 880.