Warum die KI-Anbieter-Prüfung über Compliance oder Haftung entscheidet
Ein Mittelständler testet eine neue KI-Lösung für die Textgenerierung im Marketing. Die Benutzeroberfläche überzeugt, der Preis stimmt — und in der Euphorie des Piloten landet ein erster Auftrag: Kundendaten sollen verarbeitet werden. Was danach kommt, überrascht viele Entscheider: Datenschutzprüfung, Auftragsverarbeitungsvertrag, Nachweis zur Datenspeicherung, Auskunft über Subdienstleister. Der Anbieter antwortet zögerlich oder mit allgemeinen Hinweisen auf seine AGB. Das Produkt ist ausgerollt — die Compliance-Lücke auch.
Dieses Szenario ist kein Einzelfall. Es wiederholt sich in deutschen Mittelstandsunternehmen täglich — mit ChatGPT-Enterprise-Accounts, Microsoft Copilot-Rollouts, KI-gestützten CRM-Addons oder KI-Schnittstellen in ERP-Systemen. Das Problem ist nicht böse Absicht, sondern fehlende Systematik: Es gibt keine standardisierte Checkliste, kein klares Verantwortungsbild, keinen definierten Prozess vor dem Rollout. Dieser Artikel schließt diese Lücke.
KI-Anbieter Prüfung Datenschutz Mittelstand: Die 6 Prüfdimensionen
Eine belastbare Anbieterprüfung ist kein einmaliger Formalakt, sondern ein strukturiertes Assessment entlang sechs konkreter Dimensionen. Jede davon adressiert einen anderen Risikotyp — rechtlich, technisch oder operativ.
1. Rechtsgrundlage und Auftragsverarbeitungsvertrag (AVV)
Sobald ein KI-Anbieter personenbezogene Daten im Auftrag Ihres Unternehmens verarbeitet, ist er nach Art. 28 DSGVO ein Auftragsverarbeiter. Ein AVV ist dann keine Option, sondern rechtliche Pflicht. Prüfen Sie: Bietet der Anbieter einen AVV an — oder versucht er, die Datenverarbeitung als eigene Tätigkeit zu deklarieren? Letzteres ist bei US-amerikanischen Anbietern häufig der Fall und verschiebt die DSGVO-Verantwortung auf intransparente Weise.
Der AVV muss den Mindestinhalt nach Art. 28 Abs. 3 DSGVO erfüllen: Gegenstand, Dauer, Art und Zweck der Verarbeitung, die Art der personenbezogenen Daten sowie Kategorien betroffener Personen müssen explizit genannt sein. Standardtexte aus AGB-Anhängen sind oft unzureichend. Lassen Sie den AVV von Ihrer Rechtsabteilung oder einem Datenschutzexperten prüfen, bevor der Rollout erfolgt.
2. Datenspeicherort und Data Residency
Wo werden Ihre Daten physisch gespeichert und verarbeitet? Diese Frage ist für Unternehmen in regulierten Branchen — Gesundheitswesen, Finanzen, öffentliche Auftraggeber — oft bindend. Die DSGVO erlaubt Drittlandstransfers nur unter bestimmten Voraussetzungen: Angemessenheitsbeschluss (z. B. für Großbritannien oder Japan), Standardvertragsklauseln (SCC) oder Binding Corporate Rules.
Viele KI-Anbieter verarbeiten Daten standardmäßig in US-amerikanischen Rechenzentren. Das ist nicht per se illegal — aber nur dann DSGVO-konform, wenn die SCCs korrekt implementiert und das Transfer Impact Assessment (TIA) durchgeführt wurde. Fragen Sie konkret: In welchen Regionen liegen Ihre Produktions- und Backup-Systeme? Gibt es eine EU-Only-Option? Wie wird ein potenzieller Zugriff durch US-Behörden (Cloud Act) technisch und vertraglich adressiert?
3. Subauftragsverarbeiter und Lieferkettentransparenz
Kein KI-Anbieter betreibt seine Infrastruktur vollständig selbst. Sprachmodelle laufen auf Cloud-Infrastrukturen (AWS, Azure, GCP), Monitoring-Tools übertragen Telemetriedaten, Support-Systeme greifen auf Ticketinhalte zu. Jeder dieser Dienstleister ist potenziell ein Subauftragsverarbeiter — und Sie als Auftraggeber müssen darüber informiert sein.
Nach Art. 28 Abs. 2 DSGVO braucht der Auftragsverarbeiter Ihre Genehmigung, bevor er Subauftragsverarbeiter einsetzt. Das geschieht entweder durch spezifische Einzelgenehmigung oder durch eine generelle Genehmigung mit Benachrichtigungspflicht bei Änderungen. Prüfen Sie: Führt der Anbieter eine aktuelle, öffentlich zugängliche Liste seiner Subauftragsverarbeiter? Informiert er proaktiv über Änderungen? Sind die Subauftragsverarbeiter selbst DSGVO-konform kontrahiert?
4. Sicherheitszertifizierungen: SOC 2, ISO 27001 und BSI C5
Zertifizierungen sind keine Garantie für absolute Sicherheit, aber sie belegen, dass der Anbieter Informationssicherheit systematisch betreibt und extern prüfen lässt. Für den deutschen Mittelstand sind drei Standards besonders relevant:
- ISO 27001: Internationaler Standard für Informationssicherheits-Management. Deckt organisatorische und technische Maßnahmen ab.
- SOC 2 Type II: US-amerikanischer Prüfstandard für Datenschutz, Sicherheit und Verfügbarkeit. Type II bestätigt, dass die Kontrollen über einen längeren Zeitraum wirksam waren.
- BSI C5: Cloud Computing Compliance Criteria Catalogue des Bundesamts für Sicherheit in der Informationstechnik — besonders relevant für Bundesbehörden und deren Dienstleister.
Fragen Sie nach den aktuellen Testate (nicht älter als 12 Monate), prüfen Sie Geltungsbereich (Scope) und ob der von Ihnen genutzte Dienst tatsächlich im zertifizierten Bereich liegt. Ein Zertifikat für „Produkt A" deckt nicht automatisch „Produkt B" desselben Anbieters ab.
5. Lösch- und Auskunftspflichten
Die DSGVO garantiert betroffenen Personen das Recht auf Löschung (Art. 17) und das Recht auf Auskunft (Art. 15). Als Auftraggeber sind Sie verpflichtet, diese Rechte gegenüber Betroffenen zu erfüllen — und dafür brauchen Sie die technische Unterstützung Ihres Anbieters.
Klären Sie vertraglich und technisch: Welche Löschfristen gelten für Verarbeitungsprotokolle, Prompts und Ausgaben? Gibt es eine Möglichkeit, einzelne Datensätze oder Konversationen auf Anfrage zu löschen? Wie schnell reagiert der Anbieter auf Auskunftsersuchen? Sind Backups in den Löschprozess eingeschlossen? Anbieter, die keine klaren Antworten auf diese Fragen geben, erhöhen Ihr eigenes Haftungsrisiko erheblich.
6. Modelltraining auf Kundendaten
Werden Ihre Eingaben, Prompts oder generierten Inhalte dazu genutzt, das KI-Modell des Anbieters weiterzutrainieren? Diese Frage ist bei vielen Consumer-Produkten mit „Ja" zu beantworten — bei Enterprise-Tarifen häufig mit „Nein", aber nicht immer eindeutig kommuniziert. Ein Anbieter, der Kundendaten für das Training nutzt, macht sich diese Daten faktisch zu eigen und kann damit nicht mehr als reiner Auftragsverarbeiter eingestuft werden. Prüfen Sie AGB und DPA auf explizite Opt-out-Klauseln oder fragen Sie aktiv nach einer schriftlichen Bestätigung, dass Ihre Daten ausschließlich zur Vertragserfüllung, nicht aber zum Modelltraining verwendet werden.
Der 4-stufige Due-Diligence-Prozess in der Praxis
Eine KI-Anbieter-Prüfung ist kein einmaliger Formbrief, sondern ein Prozess mit klaren Phasen. Wir empfehlen folgende Abfolge, die sich intern als wiederverwendbare Vorlage standardisieren lässt:
Phase 1 — Vorqualifikation (Tag 1–3): Klären Sie auf Basis öffentlicher Informationen, ob der Anbieter grundlegende Voraussetzungen erfüllt: Gibt es einen AVV? Ist ein Datenschutzbeauftragter benannt? Sind Zertifizierungen aufgeführt? Tools wie die Anbieter-Website, Trustcenter und G2-Reviews liefern erste Anhaltspunkte.
Phase 2 — Fragebogen & Dokumentenprüfung (Tag 4–10): Senden Sie einen strukturierten Fragebogen zu den sechs Prüfdimensionen. Fordern Sie aktuelle Zertifikatstestats, AVV-Entwurf und die Subauftragsverarbeiterliste an. Nicht jeder Anbieter wird alle Dokumente sofort bereitstellen — das ist bereits ein Qualitätssignal.
Phase 3 — Rechtsprüfung (Tag 10–20): AVV und Datentransfervereinbarungen werden durch Ihre Rechtsabteilung oder einen externen Datenschutzberater geprüft. Verhandeln Sie Klauseln, die DSGVO-Anforderungen nicht erfüllen. Dokumentieren Sie das Ergebnis dieser Prüfung für spätere Nachweise.
Phase 4 — Freigabe und laufendes Monitoring (ab Tag 21): Erst nach positiver Prüfung erfolgt die offizielle Freigabe für den Rollout. Danach gilt: Jährliche Wiederholung der Prüfung, proaktive Überwachung von Änderungsmitteilungen des Anbieters, und Einbindung des Anbieters in Ihr internes Verarbeitungsverzeichnis (Art. 30 DSGVO).
Dieser Prozess klingt aufwändig — er ist es beim ersten Durchlauf auch. Doch einmal als interne Vorlage etabliert, lässt er sich für jeden neuen KI-Anbieter in deutlich kürzerer Zeit durchführen. Unternehmen, die diesen Schritt überspringen, zahlen den Preis häufig beim ersten Audit, beim ersten Datenschutzvorfall oder bei der ersten Anfrage einer Aufsichtsbehörde — zu einem Zeitpunkt, an dem der Handlungsspielraum erheblich kleiner ist.