Warum KI-Verträge eigene Prüfung brauchen

Standardsoftware-Verträge aus dem Jahr 2018 passen nicht für KI-Systeme 2025. Der Grund: KI-Software lernt aus Daten, kann fehlerhafte Entscheidungen produzieren, unterliegt dem EU AI Act, und greift in vielen Fällen auf personenbezogene Daten zu — alles Aspekte, die in klassischen SaaS-Verträgen entweder fehlen oder nur oberflächlich adressiert sind. Ein mittelständisches Unternehmen, das eine KI-Lösung beschafft, ist nach Art. 28 DSGVO Verantwortlicher und haftet für die Verarbeitung — unabhängig davon, ob der Anbieter ein internationaler Konzern ist. Diese Checkliste zeigt, was vor der Unterschrift geregelt sein muss.

Ein KI-Vertrag ohne Datenresidenz-Klausel, ohne Audit-Recht und ohne IP-Klarheit ist kein Vertrag — er ist eine offene Flanke.

Die 10-Punkte-Checkliste für KI-Lieferantenverträge

1. Auftragsverarbeitungsvertrag nach Art. 28 DSGVO

Jede KI-Lösung, die personenbezogene Daten deiner Mitarbeitenden, Kunden oder Interessenten verarbeitet, benötigt einen AVV. Das gilt auch dann, wenn die KI auf anonymisierten Daten trainiert wurde, die Nutzungsdaten selbst aber Personenbezug haben. Ohne AVV hast du keinen Rechtsrahmen für die Datenverarbeitung.

Beispielklausel: "Der Auftragsverarbeiter verarbeitet personenbezogene Daten ausschließlich auf dokumentierte Weisung des Verantwortlichen gemäß Art. 28 Abs. 3 lit. a DSGVO. Eine Verarbeitung für eigene Zwecke des Auftragsverarbeiters, insbesondere zum Training von KI-Modellen, ist ausgeschlossen."

2. Verbot des Modelltrainings auf deinen Daten

Viele KI-Anbieter behalten sich vor, Kundendaten zur Modellverbesserung zu nutzen. Das ist in Standard-AGBs häufig in nebensätzlichen Formulierungen versteckt. Prüfe explizit: Dürfen deine Eingabedaten, eure Dokumente oder Nutzungsmöglichkeiten für das Training oder Fine-Tuning des Modells verwendet werden? Wenn ja, muß das ausdrücklich untersagt werden.

3. Technische Dokumentation nach Annex IV EU AI Act

Für KI-Systeme der Risikoklasse hoch (z.B. Recruiting-KI, KI in der Kreditentscheidung, KI in sicherheitskritischen Prozessen) verlangt der EU AI Act eine technische Dokumentation nach Annex IV. Du als Betreiber musst diese Dokumentation von deinem Anbieter erhalten. Wenn der Anbieter sie nicht liefern kann oder will, ist das ein Ausschlusskriterium bei Hochrisiko-Systemen.

Beispielklausel: "Der Anbieter stellt dem Auftraggeber auf Verlangen die technische Dokumentation nach Anhang IV der Verordnung (EU) 2024/1689 in aktueller Fassung zur Verfügung. Aktualisierungen der Dokumentation werden dem Auftraggeber unaufgefordert mitgeteilt."

4. Datenresidenz und Drittlandsübermittlung

Wo werden deine Daten verarbeitet? Innerhalb der EU, in den USA (Data Privacy Framework), oder in anderen Drittländern? Bei US-Anbietern ist zu klären, ob ein Data Privacy Framework-Zertifikat vorliegt oder ob Standardvertragsklauseln (SCC) verwendet werden. Für sensible Branchen (Gesundheit, Recht, Behörden) empfiehlt sich explizit EU-Datenresidenz als Vertragsbestandteil.

5. IP-Eigentumsklausel für generierten Output

Gehören die Texte, Analysen, Berechnungen oder Entwürfe, die die KI für dich erstellt, dir oder dem Anbieter? In vielen Standard-AGB ist das unklar. Stelle sicher, dass der Vertrag explizit regelt: Alle durch deine Eingaben generierten Outputs gehören dir, der Anbieter hat daran keine Nutzungsrechte.

6. Erklärbarkeit und Transparenz-Pflichten

Wenn das KI-System Entscheidungen unterstützt oder trifft, die rechtliche oder erhebliche wirtschaftliche Auswirkungen auf Personen haben, greift Art. 22 DSGVO. Du benötigst dann einen Anspruch auf Erklärung, wie das System zu einer Empfehlung kommt. Verpflichte den Anbieter vertraglich zur Bereitstellung einer menschenverständlichen Erklärung der Entscheidungslogik.

Betrieb, Kontrolle und Exit absichern

7. Audit-Recht und Penetrationstest-Klausel

Du musst in der Lage sein, die Einhaltung der vertraglichen Pflichten zu überprüfen. Ein Audit-Recht — mindestens in Form von Fragebogen-Audits, idealerweise mit der Option auf Vor-Ort-Prüfung durch einen externen Prüfer — ist Standard in belastbaren Lieferantenverträgen. Das BSI C5-Anforderungskatalog als Nachweis kann das Audit vereinfachen, ersetzt es aber nicht vollständig.

8. Incident-Notification und Reaktionszeiten

Wann informiert dich der Anbieter über Sicherheitsvorfälle, Model-Degradation oder wesentliche Änderungen am System? Art. 33 DSGVO verlangt, dass du als Verantwortlicher Datenpannen innerhalb von 72 Stunden der Aufsichtsbehörde meldest. Dafür brauchst du eine vertragliche Pflicht des Anbieters, dich möglichst sofort zu informieren.

9. Laufzeit, Kündigung und Daten-Rückgabe

Kann ich meinen Datenbestand bei Vertragsende vollständig exportieren? In welchem Format? Wie lange werden meine Daten nach Kündigung noch beim Anbieter gespeichert? Ein belastbarer Vertrag regelt: Daten-Export im Standardformat innerhalb von 30 Tagen nach Kündigung, vollständige Löschung spätestens 90 Tage nach Vertragsende, bestätigt durch schriftliches Löschzertifikat.

10. Haftung bei KI-Fehlentscheidungen

Was passiert, wenn das System falsch entscheidet und du dadurch Schaden erleidest? KI-Anbieter schließen Haftung in Standard-AGBs häufig vollständig aus. Für Hochrisiko-Systeme nach EU AI Act ist das rechtlich nicht haltbar. Verhandle zumindest eine Mindesthaftung in Höhe des jährlichen Lizenzbetrags für Fälle, in denen nachweislich ein Systemfehler ursächlich für den Schaden war.

Was du tun solltest, bevor du unterschreibst

  1. Risikoklasse bestimmen. Einordnung nach EU AI Act: niedriges Risiko, begrenztes Risiko, hohes Risiko? Bei hohem Risiko sind Punkte 3 und 6 nicht verhandelbar.
  2. Datenkategorien inventarisieren. Welche personenbezogenen Daten fließen in das System? DSGVO-Kategorie, Rechtsgrundlage, Zweck?
  3. Standard-AGB des Anbieters gegen Checkliste prüfen. Meistens fehlen 4–5 der 10 Punkte oder sind unzureichend formuliert.
  4. Nachverhandeln oder auswählen. Wer nicht nachverhandelt, sollte sich fragen, ob der Anbieter der Richtige ist.

Beispiel: Checkmatrix für einen konkreten Anbietervergleich

```
Prufpunkt Anbieter A Anbieter B Anbieter C
-------------------------------- ------------- ------------- -------------
AVV vorhanden JA JA NEIN
Kein Training auf Kundendaten JA UNKLAR JA
Annex IV Dokumentation N/A (niedrig) N/A (niedrig) N/A (niedrig)
Datenresidenz EU JA NEIN (US) JA
IP Output gehört Kunden JA UNKLAR NEIN
Audit-Recht JA NEIN JA
Incident-Notification 24h JA 72h NEIN
Daten-Rückgabe bei Kündigung JA (30 Tage) JA (90 Tage) UNKLAR
```

Diese Matrix zeigt: Anbieter C scheidet aus, Anbieter B braucht Nachverhandlung bei Datenresidenz und Audit.

Weiterlesen im Wissen-Hub

Die DSGVO-Anforderungen an laufende KI-Agenten im Betrieb — nicht nur bei Beschaffung, sondern im Dauerbetrieb — behandelt KI-Agenten DSGVO-konform betreiben. Die vollständigen Geschäftsführer-Pflichten bei KI-Einsatz fasst KI-Compliance für Geschäftsführer zusammen.

Wer die Lieferantenabhängigkeit bei KI-Software strukturell verringern will, findet in Individualsoftware für den Mittelstand einen anderen Ansatz: selbst bauen statt fremde AGBs akzeptieren.