Sie müssen kein Jurist sein, um einen Anbieter zu prüfen. Fünf Fragen reichen, um die meisten Probleme vor dem Vertrag zu finden. Zu jeder Frage steht hier, wie eine gute Antwort klingt und woran Sie eine schlechte erkennen.
1. Wo werden die Daten verarbeitet?
Die Antwort muss ein Land oder eine Region sein, nicht „in der Cloud“ oder „auf sicheren Servern“. Für Betriebe in Deutschland, Österreich und der Schweiz ist die EU die einfachste Antwort, weil dann keine Übermittlung in ein Drittland stattfindet.
Nutzt ein Anbieter Sprachmodelle in den USA, ist das nicht automatisch verboten. Er muss aber sagen können, auf welcher Grundlage die Übermittlung erlaubt ist, etwa eine Zertifizierung des US-Anbieters nach dem EU-US Data Privacy Framework oder Standardvertragsklauseln der EU-Kommission.
Gute Antwort: „Verarbeitung in Frankfurt, Unterauftragnehmer stehen in Anlage 2 des Vertrags.“ Warnsignal: „Das ist alles DSGVO-konform“, ohne Land und ohne Dokument.
2. Werden unsere Daten zum Training verwendet?
Die einzige akzeptable Antwort ist Nein, und zwar schriftlich. Viele Modellanbieter schließen das Training bei Geschäftskonten vertraglich aus, bei kostenlosen oder privaten Konten oft nicht. Das ist der häufigste Fehler im Alltag: Mitarbeitende kopieren Kundendaten in ein privates Chatfenster, weil es schneller geht.
Gute Antwort: ein Verweis auf die Stelle im Vertrag oder in den Nutzungsbedingungen. Warnsignal: „Nur anonymisiert“ oder „nur zur Verbesserung des Dienstes“.
3. Gibt es einen Auftragsverarbeitungsvertrag?
Sobald ein Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet, brauchen Sie einen Vertrag zur Auftragsverarbeitung nach Artikel 28 DSGVO. Das gilt für Namen in Rechnungen genauso wie für Bewerbungen oder Kundenmails. Ein seriöser Anbieter hat den Vertrag vorbereitet und nennt darin seine Unterauftragnehmer, also auch den Modellanbieter dahinter.
Gute Antwort: Der Vertrag liegt dem Angebot bei. Warnsignal: Die Gegenfrage, was das sei.
4. Wer hat Zugriff auf die Ergebnisse?
Ein Assistent, der Verträge oder Personalakten liest, darf nicht jedem im Haus alles zeigen. Fragen Sie, ob Ihre bestehenden Zugriffsrechte übernommen werden und wer beim Anbieter selbst Einblick hat, etwa für die Fehlersuche.
Gute Antwort: „Es gelten Ihre Rechte aus dem Dateisystem, bei uns haben zwei benannte Personen Zugriff, jeder Zugriff wird protokolliert.“ Warnsignal: Ein gemeinsamer Zugang für alle.
5. Können wir nachvollziehen, was das System getan hat?
Jede automatische Verarbeitung sollte protokolliert sein: welches Dokument, welche Felder, welche Regel, welches Ergebnis, wer freigegeben hat. Ohne Protokoll können Sie im Zweifel nichts belegen, weder gegenüber Ihrem Steuerberater noch gegenüber einem Prüfer oder einem Kunden, der wissen will, warum seine Rechnung falsch gebucht wurde.
Gute Antwort: Sie bekommen das Protokoll gezeigt, bevor Sie unterschreiben. Warnsignal: „Das System ist sehr zuverlässig.“
Was bei Ihnen bleibt
Auch mit dem besten Anbieter bleiben drei Pflichten im Betrieb:
- Verzeichnis der Verarbeitungstätigkeiten: Die neue Verarbeitung gehört in Ihr Verzeichnis nach Artikel 30 DSGVO, mit Zweck, Datenarten und Empfängern. Ein guter Anbieter liefert dafür die Angaben zu.
- Menschliche Entscheidung: Entscheidungen, die Menschen rechtlich oder ähnlich erheblich betreffen, dürfen nicht allein automatisiert fallen (Artikel 22 DSGVO). Bei Bewerbungen heißt das: Das System sortiert und fasst zusammen, eine Person entscheidet.
- KI-Kompetenz und Mitbestimmung: Seit Februar 2025 verlangt die europäische KI-Verordnung, dass Betriebe, die KI einsetzen, ihre Mitarbeitenden ausreichend dafür schulen. Gibt es einen Betriebsrat und kann ein System Leistung oder Verhalten der Mitarbeitenden erfassen, hat er bei der Einführung mitzubestimmen.
Nichts davon ist ein Grund, die Finger von Automatisierung zu lassen. Es sind Punkte, die in ein ordentliches Projekt ohnehin gehören.
Wie wir diese fünf Fragen für unsere eigenen Projekte beantworten, steht auf der Seite Assistenten und Wissen. Dieser Artikel ersetzt keine Rechtsberatung.