Welche Unternehmensdaten dürfen in Ihr erstes KI-Pilotprojekt? Eine Datensicherheits-Triage für KMU-Inhaber

Ihr Kunde wünscht sich im nächsten Quartal automatisierte Qualitätsberichte, und jemand hat bereits technische Auszüge in einen kostenlosen Chatbot kopiert. So hält KI in den meisten KMU Einzug: durch einen Mitarbeiter, nicht durch ein Strategiepapier. Dieser Leitfaden befasst sich mit der Entscheidung, die beiden Ereignissen zugrunde liegt – welche Ihrer Daten in ein risikoarmes KI-Pilotprojekt einfließen dürfen, unter welchem Zugriffsmodus und mit welchen Kontrollmechanismen. Dies ist kein Sicherheitsaudit, keine Rechtsberatung, und niemand kann Ihnen ehrlicherweise absolute Sicherheit versprechen.

Wenn ein Inhaber eines Präzisionstechnikunternehmens fragt, ob KI für Unternehmensdaten „sicher“ ist, stecken dahinter eigentlich zwei Fragen in einer.

Das erste ist das operative Risiko: Was könnte das Modell fälschlicherweise mit den Daten tun? Einen Fehler übersehen, einen Messwert erfinden oder eine Freigabe erteilen, die niemand geprüft hat.

Das zweite ist das Offenlegungsrisiko: Wer kann auf die Daten zugreifen, sie speichern, aufbewahren oder damit trainieren, sobald sie Ihren Schreibtisch verlassen?

Diese erfordern unterschiedliche Kontrollmechanismen. Das operative Risiko wird vor allem dadurch verringert, wie Sie das System überwachen. Das Offenlegungsrisiko wird hauptsächlich durch Verträge, Kontostufen und Datenminimierung reduziert. Lassen Sie nicht zu, dass eine Art von Kontrolle die andere ersetzt.

Unsere veröffentlichte Regel bei Niro Digital ist operativer Natur: „Wir vertrauen Modellausgaben niemals blind. Jede Automatisierung wird mit deterministischen Verifizierungsprüfungen, Budgetobergrenzen und menschlichen Freigabeschranken für unumkehrbare Aktionen ausgeliefert. Wir bauen Systeme, bei denen KI-Ausgaben als Behauptung behandelt werden, die Prüfungen bestehen muss, bevor sie als erledigt gilt.“ Das ist unsere eigene Praxis, kein Branchenstandard und keine Sicherheitsgarantie.

Die nützliche Frage lautet nicht „Ist das sensibel?“, sondern „Was bindet diese Daten rechtlich?“. Für den Workflow der Qualitätsberichte sind fünf Datenklassen von Bedeutung: Kundenzeichnungen, Lieferantenpreislisten, Qualitätsprotokolle, Mitarbeiterdaten und interne Notizen.

Eine allgemeine Liste kann diesen Dateien keine verbindlichen Einschränkungen zuweisen. Für personenbezogene Daten ist die Regelung gesetzlich festgelegt: Slovenia's ZVOP-2 fügt der GDPR nationale Anforderungen hinzu, darunter besondere Anforderungen an die Sicherheit personenbezogener Daten, die Rückverfolgbarkeit und Datenschutz-Folgenabschätzungen.

Zeichnungen, Preislisten, Protokolle und Notizen erfordern eine Überprüfung der tatsächlichen Verträge und NDAs des Unternehmens auf Feldebene sowie eine qualifizierte Rechtsberatung, bevor ein Ergebnis für das Pilotprojekt festgelegt werden kann. Dieser Artikel kann Ihre Verträge nicht lesen und wird daher nicht mutmaßen, was diese erlauben.

Gehen Sie für jedes Datenfeld im Qualitätsbericht-Workflow – und jeden anderen Workflow, den Sie später in Betracht ziehen – nacheinander vier Fragen durch:

1. Handelt es sich um personenbezogene Daten?
2. Fällt es unter eine NDA, einen Kundenvertrag oder eine Geschäftsgeheimnisverpflichtung?
3. Wird es für das Pilotprojekt überhaupt benötigt?
4. Welcher der drei Zugriffsmodi ist vertraglich dafür zulässig?

Das Ergebnis ist eine schriftliche Liste: Jedes Feld wird mit „im Pilotprojekt“ oder „nicht im Pilotprojekt“ gekennzeichnet, daneben stehen der Zugriffsmodus und die Begründung. Ziel ist es, ein vages Gefühl der Vorsicht durch eine Liste zu ersetzen, die Sie vor einem Kunden verteidigen können.

Nutzen Sie die folgende Tabelle als Erfassungsbogen, nicht als Quelle für Entscheidungen. Zeichnungen, Preislisten, Protokolle und Notizen erfordern eine Überprüfung der tatsächlichen Verträge und NDAs des Unternehmens auf Feldebene sowie eine qualifizierte Rechtsberatung, bevor ein Ergebnis für das Pilotprojekt zugewiesen werden kann. Dieser Artikel kann diese Verträge nicht lesen. Soweit personenbezogene Daten betroffen sind, fügt Slovenia's ZVOP-2 der GDPR nationale Anforderungen hinzu.

Der Vergleich ist produktspezifisch, daher beziehen sich die folgenden Aussagen auf OpenAI und nicht auf jeden Anbieter auf dem Markt.

Die Dokumentation von OpenAI besagt, dass die standardmäßige Verpflichtung zum Verzicht auf Training ChatGPT Enterprise, ChatGPT Business, ChatGPT Edu, ChatGPT for Healthcare, ChatGPT for Teachers und die API-Plattform abdeckt, und zwar gleichermaßen für Ein- und Ausgaben, wobei ein Training nur bei explizitem Opt-in erfolgt. Das private/kostenlose ChatGPT steht nicht auf dieser Liste. Dies ist ein Rückschluss aus der von OpenAI veröffentlichten Produktliste, und wir stellen es auch so dar. Keine der von uns geprüften Quellen dokumentiert, wie Unterhaltungen im kostenlosen ChatGPT tatsächlich behandelt werden, daher werden wir nicht behaupten, dass die kostenlose Version mit Ihren Daten trainiert. Der Kollege, der technische Auszüge in einen kostenlosen Chatbot kopiert hat, stellt daher das größte Offenlegungsrisiko dar, das es zuerst zu schließen gilt: nicht, weil dieser Artikel beweist, dass die kostenlose Version mit Daten trainiert, sondern weil das private/kostenlose ChatGPT außerhalb der von OpenAI erklärten Verpflichtung zum Verzicht auf Training liegt.

Wenn ein Mitarbeiter bereits Daten in ein kostenloses Tool kopiert hat

1. Stoppen Sie ab sofort weitere Uploads in dieses Tool von allen beteiligten Konten.
2. Erfassen Sie das genaue Tool und Konto, das Datum, die Kategorien der eingefügten Inhalte sowie alle Empfänger oder Zugriffseinstellungen.
3. Sichern Sie den relevanten Kundenvertrag oder die NDA.
4. Legen Sie diese Aufzeichnung einer qualifizierten Rechts- oder Sicherheitsberatung vor, um zu prüfen, ob eine Melde- oder Abhilfepflicht besteht.

Dieser Artikel kann nicht feststellen, ob das Ereignis meldepflichtig ist. Dies hängt vom Inhalt, den maßgeblichen Verträgen und den fraglichen rechtlichen Pflichten ab, die nicht Gegenstand der Belege dieses Artikels sind.

Die Nutzung eines kostenpflichtigen Business- oder API-Kontos ändert die Situation bezüglich des Trainings. Die API-Dokumentation von OpenAI besagt, dass Daten, die seit dem 1 March 2023 an die API gesendet wurden, nicht zum Trainieren oder Verbessern von OpenAI-Modellen verwendet werden, es sei denn, der Kunde entscheidet sich explizit dafür (Opt-in). Die oben genannten Business-Produkte weisen dieselbe Standardeinstellung auf, die nur auf Opt-in basiert. Das ist es, was die kostenpflichtige Stufe in puncto Sicherheit bietet: eine schriftliche Verpflichtung zum Verzicht auf Training auf der Stufe, die Ihre Mitarbeiter tatsächlich nutzen.

Die kostenpflichtige Stufe führt nicht dazu, dass Prompts aus den Protokollen verschwinden. Die Dokumentation von OpenAI besagt, dass Protokolle zur Missbrauchsüberwachung Kundeninhalte wie Prompts und Antworten sowie Metadaten wie Klassifikator-Ausgaben enthalten können, standardmäßig für die Nutzung von API-Funktionen erstellt werden und bis zu 30 Tage lang aufbewahrt werden, es sei denn, eine längere Aufbewahrung ist erforderlich.

Sie klärt auch nicht, wo die Daten gespeichert werden. Das Data Processing Addendum von OpenAI sieht vor, dass Kunden mit Sitz in einem EEA-Land oder der Schweiz Verträge mit OpenAI Ireland Ltd. abschließen, während alle anderen Kunden Verträge mit OpenAI OpCo, LLC abschließen. Ein Vertragspartner in Irland legt fest, mit wem Sie den Vertrag schließen; er begründet jedoch keinen Speicherort.

Vertrauen Sie nicht der Überschrift. Prüfen Sie drei Stellen, und zwar immer für die genaue Kontostufe, die Sie nutzen:

• Die mit einem Datum versehene Datenschutzerklärung für dieses Produkt.
• Das DPA für ein Business- oder API-Konto.
• Das Trust Center des Anbieters, falls vorhanden.

Der Test besteht darin, ob die Kontostufe, die Ihre Mitarbeiter tatsächlich nutzen, auf der Liste für den Verzicht auf Training steht. Im Fall von OpenAI umfasst die Liste die sechs oben genannten Produkte; das private/kostenlose ChatGPT gehört nicht dazu.

Sicherheitsversprechen von Anbietern müssen ebenfalls eingeordnet werden. OpenAI gibt an, dass Geschäftsdaten im Ruhezustand mit AES-256 und bei der Übertragung mit TLS 1.2+ verschlüsselt werden und dass OpenAI ein SOC 2-Audit erfolgreich abgeschlossen hat. Dies sind Angaben des Anbieters, keine Fakten, die wir unabhängig überprüft haben. Verschlüsselung und ein Audit sagen etwas über Kontrollmechanismen aus; sie beantworten für sich genommen jedoch nicht die Frage der Datennutzung.

Sie müssen die GDPR nicht im Voraus kennen, um dieses Gespräch zu führen. Bitten Sie um schriftliche Antworten, nicht um eine Zusammenfassung des Verkaufsgesprächs.

1. Welche juristische Person verarbeitet die Daten und unter welchem DPA?
2. Wo werden die Daten gespeichert und werden Unterauftragsverarbeiter eingesetzt?
3. Werden Ein- und Ausgaben bei dieser genauen Kontostufe für das Training verwendet?
4. Wie lange werden Prompts und Protokolle zur Missbrauchsüberwachung aufbewahrt und wer kann darauf zugreifen?
5. Was passiert bei einer Sicherheitsverletzung und wann wird der Kunde benachrichtigt?
6. Wer ist Verantwortlicher, Auftragsverarbeiter und Unterauftragsverarbeiter in der Kette?

Frage sechs ist wichtig, weil das DPA Rollen zuweist, nicht aber die Verantwortung für die Entscheidung, Daten zu senden. In dem von uns geprüften OpenAI DPA agiert OpenAI als Auftragsverarbeiter im Auftrag des Kunden und verarbeitet Kundendaten nur zur Erbringung der Dienste. Das macht den Anbieter zu einem Dienstleister mit definierten Pflichten; es macht den Anbieter jedoch nicht dafür verantwortlich, welche Zeichnungen Sie hochgeladen haben.

Das OpenAI DPA beschreibt OpenAI als Auftragsverarbeiter für Customer Data; es beantwortet nicht die Frage der Haftungsverteilung in Ihren Verträgen oder die rechtlichen Folgen einer Offenlegung. Bitten Sie einen qualifizierten Rechtsbeistand, diese Dokumente zu prüfen, bevor Sie sich auf eine Verteilung verlassen.

Drei Dinge werden oft in einem Slogan zusammengefasst: eine juristische Person in der EU, ein unterzeichnetes DPA und tatsächlich in der EU gespeicherte Daten.

Eine juristische Person in der EU ist ein vertragliches Detail. OpenAI Ireland Ltd. ist der Vertragspartner für EEA-Kunden, aber das sagt Ihnen nur, mit wem Sie den Vertrag schließen, nicht aber, wo jede Anfrage verarbeitet wird oder welche Unterauftragsverarbeiter mit den Daten in Berührung kommen.

Ein unterzeichnetes DPA dokumentiert die Verarbeitungspflichten. Es beweist für sich genommen keine ausschließliche Speicherung in der EU.

Wenn personenbezogene Daten außerhalb des EEA übermittelt werden, fragen Sie nach, welche GDPR-Übermittlungsgarantie dafür gilt. Aber denken Sie bei Zeichnungen und Lieferantenpreisen an den früheren Punkt: Die GDPR ist oft nicht die entscheidende Einschränkung. Es sind der Kundenvertrag und das NDA-/Geschäftsgeheimnisrecht, und diese können Sie selbst dort einschränken, wo die GDPR dies nicht tun würde.

Das operative Risiko erfordert eigene Kontrollmechanismen, unabhängig von der Kontostufe.

Eine Verifizierungsschranke ist eine deterministische Prüfung: eine Regel, die jedes Mal auf dieselbe Weise abläuft und eine Ausgabe blockiert, bis sie diese besteht. In einem überwachten Agentensystem erhält das Modell Autonomie nur innerhalb begrenzter Phasen, und seine Ausgabe wird eher als Behauptung denn als fertiges Ergebnis behandelt.

Drei Kontrollmechanismen sollten vorhanden sein, bevor ein Pilotprojekt für Qualitätsberichte irgendetwas versendet:

• Die Modellausgabe wird als Behauptung behandelt, die deterministische Verifizierungsprüfungen bestehen muss, bevor sie als erledigt gilt.
• Es wird eine Budgetobergrenze für die Ausgaben festgelegt, damit ein Durchlauf nicht unbemerkt mehr kostet als geplant.
• Eine menschliche Freigabeschranke ist für unumkehrbare Aktionen vorgesehen, wie das Senden eines Berichts an einen Kunden.

Dies ist die veröffentlichte Praxis von Niro Digital, kein universeller Standard. Es handelt sich zudem um bereits umgesetzte Arbeit. Unsere veröffentlichte content-agent platform case study besagt, dass die Pipeline 14 Phasen umfasst und 15 deterministische Validatoren Zitate, Quellen, Quoten, Links und unzulässige Behauptungen prüfen. Dieselbe Studie verzeichnet einen quellenbasierten Artikel mit 3,046 Wörtern, der für $0.37 über 24 Modellaufrufe hinweg erstellt wurde. Das ist ein Beleg dafür, dass dieses Muster in einer Produktions-Pipeline real ist. Es sagt nichts über das Hosting, die Speicherregionen, die Unterauftragsverarbeiter oder die Zertifizierungen von Niro Digital aus, und wir haben nichts davon veröffentlicht.

Erfassen Sie vor dem Start des Pilotprojekts jeweils Folgendes:

• Die genehmigte Kontostufe und das unterzeichnete Data-Processing Agreement (DPA).
• Die namentlich genannten Personen, die zur Nutzung des Kontos berechtigt sind.
• Die dokumentierte Aufbewahrungseinstellung des Anbieters oder dessen schriftliche Antwort zur Aufbewahrung, falls die Einstellung nicht sichtbar ist.
• Den namentlich genannten menschlichen Freigebenden für die Ausgaben des Pilotprojekts.
• Das Ergebnis der unterzeichneten Vertrags- und NDA-Prüfung für jedes Eingabefeld, das in das Pilotprojekt einfließt.

Das Pilotprojekt beginnt erst, wenn für jeden Punkt der Checkliste eine Antwort erfasst wurde.

Vier von uns geprüfte Rechts- und Technologieanalysen berichten, dass das allgemeine Anwendungsdatum des AI Act gemäß Article 113 Absatz 2 der 2 August 2026 ist und dass der ändernde Digital Omnibus dieses Datum unberührt gelassen hat. Wir haben dies selbst nicht mit dem offiziellen Gesetzestext abgeglichen.

Was laut diesen Analysen bereits gilt, ist die Transparenz nach Article 50. Sie gilt seit dem 2 August 2026 und umfasst Chatbots und KI-generierte Inhalte. Eine Analyse besagt, dass die Verpflichtungen „für fast jedes Unternehmen gelten, nicht nur für Modellanbieter.“

Unsere fachliche Einschätzung, basierend auf einer Rechtsanalyse und nicht als Rechtsberatung zu verstehen: Das Anpassen, erneute Trainieren oder Rebranding eines KI-Systems kann Ihr Unternehmen im Sinne des AI Act zum „Anbieter“ machen und die schwereren Verpflichtungen auf Sie verlagern. Wenn Sie planen, mehr zu tun, als ein Modell so zu nutzen, wie es geliefert wird, fragen Sie einen qualifizierten Anwalt, bevor Sie sich auf diesen Status verlassen. Aus diesem Grund ist es sinnvoll, eine überwachte Entwicklung zu definieren, die Sie in der Rolle des Bereitstellers belässt, bevor Sie beginnen, nicht erst danach – und das ist genau der Bereich, den unser AI automation service abdeckt.

Wir können die Grenze zwischen „drinnen“ und „draußen“ nicht für Sie ziehen; Ihre Kundenverträge, NDAs und eine Überprüfung Feld für Feld legen diese fest. Was wir Ihnen an die Hand geben können, ist ein leeres Arbeitsblatt, um diese Überprüfung durchzuführen.

Arbeitsblatt – Überprüfung des Pilotprojekts für Qualitätsberichte

Gehen Sie für jede Zeile die vier oben genannten Fragen durch und erfassen Sie das Ergebnis der Prüfung: ob das Feld personenbezogene Daten enthält; welche Einschränkung dafür gilt (Kundenvertrag, NDA, Geschäftsgeheimnisrecht, GDPR oder ZVOP-2; schreiben Sie „keine“, wenn nichts gilt); und ob das Pilotprojekt es benötigt. Lassen Sie die Entscheidung für das Pilotprojekt für jedes Feld bis zu dieser Prüfung offen; die Prüfung, nicht dieser Artikel, entscheidet über die Freigabe oder Sperrung eines Feldes.

Für jedes Feld, das die Prüfung zulässt, ist der Weg derselbe: Die Modellausgabe wird als Behauptung gekennzeichnet, nicht als fertiger Bericht. Deterministische Prüfungen verifizieren, dass die Berichtsfelder vollständig sind, dass numerische Werte und Einheiten in den erwarteten Bereichen liegen und dass keine Zeichnungsreferenz oder Messung erfunden wurde. Eine namentlich genannte Person gibt die geprüfte Ausgabe dann vor dem unumkehrbaren Schritt des Versendens des Berichts an den Kunden frei. Wenn die Person sie ablehnt, geht die Ausgabe zurück an die Prüfungen.

Dieser Ablauf ist die Kontrollschicht für dieses Beispiel. Er stellt nicht die internen Systeme, das Hosting, die Unterauftragsverarbeiter oder die Aufbewahrung von Niro Digital dar, da wir diese Fakten nicht veröffentlicht haben.

Das ist die Lücke, die dieser Artikel nicht schließen kann. Niro Digital hat sein Hosting, seine Speicherregionen, seine Datenzugriffsrollen, seinen Aufbewahrungs- oder Löschungsansatz, seine Unterauftragsverarbeiter oder seine Zertifizierungen nicht veröffentlicht, und wir können noch keine Zusicherungen zur Implementierungssicherheit machen. Niro Digital darf auf der Grundlage dieses Artikels nicht für ein Pilotprojekt mit sensiblen Daten ausgewählt werden.

Niro Digital ist eine Digitalagentur, kein Sicherheitsprüfer und keine Anwaltskanzlei. Seine vier Hauptdienstleistungen sind AI automation, custom software development, recruiting advertising und lead generation advertising. Niro Digital wurde Ende 2023 von Nino Djordjević gegründet; Rok Goropevšek kam 2025 als CTO hinzu. Sie bedient in erster Linie den slowenischen Markt und ist in Mursko Središće, Croatia, registriert, was sie zu einer in Croatia registrierten Agentur für den slowenischen Markt macht, nicht zu einem slowenischen Unternehmen. Sie erreichen uns unter info@nirodigital.com oder +386 70 630 880.