Boris Arendt

Leon Neumann

Jakob Riediger

Im Unterschied zur DSGVO ist die Bearbeitung von personenbezogenen Daten nach dem DSG grundsätzlich erlaubt. Dieser Grundsatz wird jedoch stark beschränkt, indem eine Bearbeitung nach Art. 30 DSG keine widerrechtliche Persönlichkeitsverletzung darstellen darf. 

Eine Persönlichkeitsverletzung liegt dabei vor, wenn die datenschutzrechtlichen Grundsätze nach Art. 6 DSG bei der Bearbeitung nicht eingehalten werden, wobei diese den Grundsätzen der DSGVO gleichen. Widerrechtlich ist die Verletzung dann, wenn auch kein Ausnahmetatbestand wie beispielsweise das Vorliegen einer Einwilligung oder ein überwiegendes Interesse greift. Im Ergebnis dürften daher Bearbeitungen, die nach der DSGVO rechtmäßig sind, auch nach dem neuen DSG rechtmäßig sein. 


Grundprinzipien

Ebenso wie die DSGVO „besondere Kategorien“ personenbezogener Daten vorsieht, werden auch in Art. 5 lit.c DSG „besonders schützenswerte“ Personendaten verankert. Dabei gilt es zu beachten, dass die Definitionen nicht deckungsgleich sind.  So unterliegen in Abweichung von der DSGVO auch Daten über Maßnahmen der sozialen Hilfe sowie Daten über verwaltungs- und strafrechtliche Verfolgungen oder Sanktionen den besonders schützenswerten Daten. 

Sensible Daten

Örtlich gilt das DSG für Datenschutzsachverhalte, die sich (nur) in der Schweiz auswirken, also auch, wenn sie im Ausland veranlasst werden (Art. 3 Abs. 1 DSG). Demnach müssen also bspw. auch EU-Unternehmen, die Daten von Schweizern bearbeiten, das DSG beachten. 

Sachlich gilt das DSG für Bearbeitungen von Daten natürlicher Personen. Während das alte DSG auch die Bearbeitung von Daten juristischer Personen umfasst hat, ist dahingehend eine Angleichung an die DSGVO ersichtlich. 


Anwendungsbereich

Ebenfalls neu ist, dass nun Informationspflichten gegenüber betroffenen Personen ab dem Zeitpunkt der Datenerhebung bestehen, und zwar – im Unterschied zum DSG a.F. – unabhängig davon, ob es sich bei den Daten um besonders schützenswerte Personendaten handelt oder ob der Bearbeiter ein Bundesorgan ist. Welche Informationen genau von den Informationspflichten umfasst sind, wird im Gegensatz zur DSGVO nicht abschließend geregelt, vielmehr wird auf den offenen Begriff der „Erforderlichkeit“ abgestellt. In Art. 19 DSG enthalten sind jedoch einige Mindestangaben, wobei diese weniger umfangreich sind als die der DSGVO.

Erweiterung der Informationspflichten für Verantwortliche (Art. 19 DSG)

Elementare Neuerung im DSG ist die Einführung eines Verzeichnisses der Bearbeitungstätigkeiten. Es ist nun erstmals in der Schweiz erforderlich, sämtliche Datenbearbeitungen in einem Verzeichnis aufzuführen. Gleichzeitig entfällt die bisherige Pflicht des Inhabers von Datensammlungen, seine Sammlungen beim Eidgenössischen Datenschutz- und Öffentlichkeitsbeauftragten (EDÖB) anzumelden. Das Verzeichnis soll einen fortlaufend aktualisierten Überblick über alle Datenbearbeitungstätigkeiten des jeweiligen Unternehmens bieten. Die Informationen, die im Verzeichnis mindestens enthalten sein müssen, werden in Art. 12 Abs. 2 DSG aufgelistet. Unternehmen, die weniger als 250 Mitarbeiter haben und deren Datenbearbeitungen nur ein geringes Risiko für die Rechte der Betroffenen darstellen, sind allerdings von der Pflicht zur Führung des Verzeichnisses ausgenommen.

Verzeichnis der Bearbeitungstätigkeiten (Art. 12 DSG)

Die Anforderungen an die Auftragsbearbeitung, die einer Auftragsverarbeitung nach Art. 28 DSGVO gleichsteht, sind nach dem DSG weiterhin geringer als nach der DSGVO: Ein Vertrag zur Auftragsbearbeitung ist nicht zwingend, jedoch muss sich der Verantwortliche vorab vergewissern, dass der Auftragsbearbeiter in der Lage ist, die Datensicherheit zu gewährleisten und die Daten nur in der Form bearbeitet werden, wie es dem Verantwortlichen gestattet ist. Ähnlich der DSGVO dürfen Unterauftragnehmer dabei neuerdings nur mit Genehmigung des Verantwortlichen eingesetzt werden.

Auftragsbearbeitung (Art. 9 DSG)

Bringt eine Datenbearbeitung möglicherweise ein hohes Risiko für die Persönlichkeit oder für Grundrechte von Betroffenen mit sich, ist eine Datenschutz-Folgenabschätzung durchzuführen. Demnach müssen die Risiken der Bearbeitung ermittelt und bewertet werden und gegebenenfalls risikominimierende Gegenmaßnahmen festgelegt, umgesetzt und dokumentiert werden. Ergibt die Abschätzung, dass trotz risikominimierender Maßnahmen ein Restrisiko fortbesteht, ist der EDÖB zu konsultieren.

Datenschutz-Folgenabschätzung und Konsultationsverfahren (Art. 22, 23 DSG)

Beruht eine Entscheidung ausschließlich auf einer automatisierten Bearbeitung und hat diese rechtliche Auswirkungen auf die betroffene Person, so ist diese vom Verantwortlichen darüber zu informieren. Zudem kann die Person die Überprüfung der Entscheidung durch eine natürliche Person verlangen. 

Eine Einwilligung für die Bearbeitung personenbezogener Daten ist beim Profiling nach wie vor nicht erforderlich, es sei denn, der Art des Profiling wird ein hohes Risiko zugeordnet. 


Automatisierte Entscheidungsfindung und Profiling

Die Betroffenenrechte des DSG gleichen denen der DSGVO. Daher besteht ein Recht auf Auskunft, Berichtigung und Löschung, Widerspruchsrechte sowie ein Recht auf Datenherausgabe und -übertragung. Der Auskunftsumfang wird dabei möglicherweise größer sein als der in der DSGVO verankerte, indem betroffene Personen nach dem DSG diejenigen Informationen erhalten sollen, die zur Geltendmachung ihrer Rechte und zur Gewährleistung einer transparenten Datenbearbeitung erforderlich sind. Welche Informationen zur Herstellung von Transparenz notwendig sein können, ist gleichwohl nicht ausdrücklich geregelt.

Betroffenenrechte

Verletzungen der Datensicherheit müssen dem EDÖB so schnell wie möglich gemeldet werden. Unter Umständen besteht auch eine Informationspflicht gegenüber der betroffenen Person. Um dies zu gewährleisten, müssen Verantwortliche funktionierende Prozesse im Unternehmen etablieren. Scheint ein Datenschutzvorfall möglich, bestehen Untersuchungs-, Informations- und Schadensminderungspflichten. Im Unterschied zur DSGVO gilt jedoch keine strenge (72-Stunden-)Frist. Das Gesetz spricht vielmehr von einer Meldung „so rasch wie möglich“. Ebenfalls abweichend von der DSGVO ist die Meldung nur bei einem festgestellten hohen Risiko für die Persönlichkeit oder die Grundrechte der betroffenen Person notwendig.

Meldepflicht bei Verletzungen der Datensicherheit (Art. 24 DSG)

Ähnlich der DSGVO werden erstmals die Grundsätze „Privacy by design“ und „Privacy by default“ gesetzlich verankert. Demnach müssen Datenbearbeitungsprozesse so konzipiert werden, dass Datenschutzprinzipien eingehalten werden, und es müssen Voreinstelllungen getroffen werden, durch die die Datenbearbeitung auf das zur Zweckerfüllung notwendige Maß beschränkt wird.

Zudem haben Verantwortliche und Auftragsbearbeiter geeignete technische und organisatorische Maßnahmen zum Zwecke der Datensicherheit zu implementieren, wobei die Maßnahmen in Art. 3 DSG konkretisiert werden und insgesamt der DSGVO angeglichen sind.

Privacy by design / default und Datensicherheit

Ausländische Unternehmen, die Kunden in der Schweiz haben oder Schweizer Nutzer beobachten, müssen einen Vertreter in der Schweiz benennen, wenn sie umfangreiche und regelmäßige Bearbeitungen mit hohem Risiko für die betroffenen Personen durchführen. Wie weit diese Verpflichtung reichen wird, bleibt im Zuge des offenen Wortlauts des Art. 14 DSG abzuwarten. Anknüpfend an den Charakter eines Ausnahmetatbestandes scheint eine restriktive Auslegung jedoch vorzugswürdig, sodass die Benennung eines Vertreters nur in Ausnahmefällen erforderlich sein wird. 

Benennung eines Vertreters in der Schweiz (Art. 14 DSG)

Auslandsübertragungen („Bekanntgabe von Personendaten ins Ausland“) sind dann möglich, wenn vom Bundesrat ein angemessenes Schutzniveau des Empfängerlandes festgestellt wurde. Ist dies nicht der Fall, können Standarddatenschutzklauseln oder vorher von dem EDÖB freigegebene, eigene Vertragsklauseln, spezifische Garantien oder Binding Corporate Rules genutzt werden. SCCs sind [hier](https://www.edoeb.admin.ch/edoeb/de/home/deredoeb/infothek/infothek-ds.html)  abrufbar.

Datenübertragungen ins Ausland (Art. 16-18 DSG)

Die Sanktionen werden nicht wie in der DSGVO an das verantwortliche Unternehmen, sondern an die verantwortliche natürliche Person geknüpft. Es können Bußgelder bis zu einer Höhe von 250.000 CHF auferlegt werden. 

Sanktionen

Schließlich besteht die Möglichkeit (nicht die Pflicht), einen Datenschutzberater zu benennen, dessen Rolle der des Datenschutzbeauftragten i.S.d. DSGVO gleicht. Durch die Ernennung werden Datenbearbeitungen mit hohem Risiko erleichtert: statt dem EDÖB kann der Datenschutzberater konsultiert und mit ihm geeignete Maßnahmen zur Kompensation der hohen Risiken ersucht werden.

Datenschutzberater

Zusammenfassend verankert das neue Datenschutzgesetz der Schweiz weitgehend parallele, stellenweise abgemilderte Anforderungen an den Umgang mit personenbezogenen Daten verglichen mit der DSGVO. Grundsätzlich kann folglich davon ausgegangen werden, dass DSGVO-konforme Unternehmen auch den Anforderungen des DSG standhalten können. Gleichwohl gilt es stellenweise auf die Besonderheiten des DSG einzugehen, und einen dahingehenden Umsetzungsbedarf zu überprüfen. 

Zusammenfassung

Neues Schweizer Datenschutzgesetz: Änderungen nach dem neuen DSG

neues Schweizer Datenschutzgesetz dsg

Steffen Groß


###### Einführung der Executive Order 14086 – Betonung des Verhältnismäßigkeitsprinzips

In der Schrems II-Entscheidung standen insbesondere die weitreichenden Zugriffsbefugnisse der US-amerikanischen Geheimdienste auf personenbezogene Daten von Nicht-US-Bürgern nach Sec. 702 FISA im Mittelpunkt der Kritik. Diese Regelung ermöglichte eine Massenüberwachung ausländischer Bürger, was vom EuGH als unverhältnismäßig bewertet wurde. Um das Prinzip der Verhältnismäßigkeit gemäß Art. 52 GRCh zu gewährleisten, werden die Zugangsrechte der US-Geheimdienste fortan durch die „[Executive Order on Enhancing Safeguards for United States Signals Intelligence Activities](https://www.whitehouse.gov/briefing-room/presidential-actions/2022/10/07/executive-order-on-enhancing-safeguards-for-united-states-signals-intelligence-activities/)“ („EO-14086“) vom 7. Oktober 2022 stärker eingegrenzt und auf ein notwendiges Maß beschränkt.

###### Neugestaltung des Rechtsschutzmechanismus

Ein weiterer Hauptkritikpunkt am ehemaligen „Privacy Shield“ war der Ombuds-Mechanismus. Der EuGH urteilte, dass dieser nicht genug Rechtsschutz bot. Insbesondere wurden die fehlende Unabhängigkeit und die Unfähigkeit zur Erlassung bindender Regelungen gegenüber Nachrichtendiensten bemängelt. Als Reaktion darauf wurde ein spezielles Datenschutzgericht, der „Data Protection Review Court“, ins Leben gerufen. Dieses Gericht soll EU-Bürgern die Möglichkeit geben, gegen potenzielle Datenschutzverstöße vorzugehen. Da es jedoch dem US-Justizministerium untersteht, gibt es Bedenken hinsichtlich seiner tatsächlichen Unabhängigkeit und ob es den Anforderungen gemäß Art. 47 GRCh gerecht wird.

Kernänderungen des US-Überwachungsrechts

Bereits während der Entwicklungsphase des geänderten US-Überwachungsrechts wurden aus verschiedenen Ecken kritische Stimmen laut. Mit der Verabschiedung des neuen Angemessenheitsbeschlusses trat insbesondere Datenschützer Max Schrems hervor und äußerte seine Bedenken. [Sein Kommentar bringt es auf den Punkt](https://noyb.eu/de/european-commission-gives-eu-us-data-transfers-third-round-cjeu): 
> „Man definiert Wahnsinn oft so, dass man immer wieder dasselbe tut, aber ein anderes Ergebnis erwartet. Genauso wie beim 'Privacy Shield' gründet sich die aktuelle Vereinbarung nicht auf echten Veränderungen, sondern lediglich auf kurzfristige politische Überlegungen.“


Ein Hauptkritikpunkt vieler Experten und Datenschützer liegt in der Tatsache, dass Sec. 702 FISA, welcher Massenüberwachung ermöglicht, in seiner Kernstruktur unverändert blieb. Die Datenschutzorganisation NOYB geht beispielsweise davon aus, dass die Probleme im Zusammenhang mit Sec. 702 FISA auch nach Implementierung der EO-14086 weiterhin bestehen bleiben. Ein entscheidender Faktor hierbei ist die unterschiedliche Interpretation und Anwendung des Prinzips der „Verhältnismäßigkeit“ in den USA im Vergleich zur EU.

Vor diesem Hintergrund scheint es wahrscheinlich, dass der EuGH die Regelungen in naher Zukunft erneut prüfen wird.

Kritik an den Neuerungen: Erneute Verwerfung durch EuGH zu befürchten?

Infolge der überarbeiteten rechtlichen Rahmenbedingungen wird der Transfer personenbezogener Daten in die USA nun als sicher erachtet, sofern er an ein entsprechend zertifiziertes Unternehmen gerichtet ist.

Dies bedeutet eine Aufrechterhaltung des Prinzips der Selbstzertifizierung. Unternehmen, die am Framework teilnehmen möchten, müssen sich dazu verpflichten, einer festgelegten Reihe von datenschutzrechtlichen Grundsätzen und Standards nachzukommen. Diese Kriterien wurden vom US-Handelsministerium definiert.

Zu den Verpflichtungen gehört unter anderem, dass sich die Unternehmen den Untersuchungs- und Durchsetzungsbefugnissen sowohl der Federal Trade Commission (FTC) als auch des US Department of Transportation (DoT) unterstellen. Ferner ist es erforderlich, eine Datenschutzrichtlinie (Privacy Policy) zu implementieren, die mit den im Anhang 1 des Angemessenheitsbeschlusses festgelegten Prinzipien konform geht. Das Department of Commerce überwacht regelmäßig die Einhaltung dieser Bestimmungen (Compliance Monitoring). Bei wiederholten Verstößen drohen nicht nur zivilrechtliche Sanktionen, sondern auch der Ausschluss aus dem Privacy Framework.

Aufrechterhaltung des Selbstzertifizierungsprinzips

Unternehmen, die bereits unter dem Privacy Shield zertifiziert waren, müssen nicht erneut eine Selbstzertifizierung durchführen, um am DPF teilzunehmen.

Laut einer [Mitteilung der International Trade Administration](https://www.dataprivacyframework.gov/s/article/FAQs-EU-U-S-Data-Privacy-Framework-EU-U-S-DPF-dpf) (ITA) wird die Teilnahme dieser Unternehmen am DPF automatisch fortgesetzt. Allerdings müssen sie ihre Datenschutzrichtlinien bis zum 10. Oktober 2023 aktualisieren und den novellierten Prinzipien des DPF entsprechen.

Diese Unternehmen müssen ihre Zertifizierung jährlich gemäß den DPF-Bestimmungen erneuern, und zwar zu ihrem aktuellen Rezertifizierungsstichtag. Unternehmen, die zwar unter dem Privacy Shield zertifiziert waren, aber nicht am DPF teilnehmen möchten, müssen sich formell gemäß dem ITA-Rückzugsverfahren abmelden. 
Es ist wichtig zu beachten, dass ein Versäumnis des jährlichen Rezertifizierungsprozesses die Teilnahme oder Verpflichtungen des Unternehmens nicht beendet. Auch nach Abschluss des formellen Rückzugsverfahrens muss das Unternehmen die anwendbaren Prinzipien des Privacy Shield/DPF hinsichtlich der im Rahmen dieser Programme erhaltenen personenbezogenen Daten weiterhin einhalten.

Unternehmen, die nicht bereits unter dem Privacy Shield zertifiziert sind, können seit dem 17. Juli 2023 mit dem Selbstzertifizierungsprozess für das DPF beginnen, wie auf der offiziellen DPF-Website ([http://www.dataprivacyframework.gov/](https://www.dataprivacyframework.gov/s/)) angegeben. Dabei ist zu beachten, dass Unternehmen den DPF-Anforderungen entsprechen müssen, bevor sie ihre Selbstzertifizierung einreichen.

Gilt die Zertifizierung des Privacy Shields auch für das neue Datenschutz-Privacy-Framework?

Trotz der vorherrschenden Kritik lässt das neu verabschiedete Privacy Framework viele Unternehmen erstmal aufatmen. Denn wenn Daten an ein zertifiziertes Unternehmen übermittelt werden, kann dies nun OHNE den Einsatz von speziellen Drittlands-SCCs, ohne TIA und ohne zusätzliche Maßnahmen geschehen. Das bedeutet, dass umfangreiche Prüfungen vorerst nicht mehr notwendig sind.

Angesichts der tiefgreifenden Kritik empfehlen wir jedoch, bestehende SCCs beizubehalten und nicht aufzulösen. Eine erneute rechtliche Überprüfung des Angemessenheitsbeschlusses durch den EuGH scheint nur eine Frage der Zeit zu sein, und deren Ausgang bleibt ungewiss. Es ist wichtig zu beachten, dass SCCs und TIAs weiterhin für Datentransfers an US-Unternehmen, die nicht zertifiziert sind, sowie für Übermittlungen in andere Drittländer erforderlich bleiben.

Wie ist mit dem neuen Angemessenheitsbeschluss umzugehen?


###### Szenario 1: Datentransfer zwischen zwei EU-Unternehmen

**Frage:**
Sind in diesem Kontext SCCs und ein TIA erforderlich?

**Antwort:**
Nein - bei Datenübermittlungen innerhalb der EU sind die Artikel 44 ff. DSGVO nicht anwendbar. Daher entfällt die Notwendigkeit von SCCs oder einem TIA. Es genügt ein klassischer Auftragsverarbeitungsvertrag gemäß Art. 28 Abs. 3 DSGVO - selbst wenn die Datenübermittlung an eine europäische Tochtergesellschaft eines US-Konzerns erfolgt.

**Begründung:**
Die DSGVO ist in allen EU-Mitgliedstaaten gültig, wodurch überall in der EU ein einheitlich hohes Datenschutzniveau gewährleistet ist. In der EU ansässige Unternehmen sind somit verpflichtet, die DSGVO einzuhalten. Daher sind SCCs und ein TIA in diesem Kontext nicht notwendig.

###### Szenario 2: Datentransfer von einem EU-Unternehmen an ein zertifiziertes US-Unternehmen

**Frage:**
Sind SCCs und ein TIA in diesem Kontext erforderlich?

**Antwort:**
Während die Anwendung von SCCs nicht obligatorisch ist, empfehlen wir dennoch die Verwendung von SCCs. Ein TIA hingegen ist nicht erforderlich.

**Begründung:**
Laut dem Angemessenheitsbeschluss der EU-Kommission gilt für zertifizierte Unternehmen in den USA nun ein angemessenes Datenschutzniveau, wodurch ein TIA entbehrlich wird. Da jedoch die Gültigkeit dieses Beschlusses in naher Zukunft vom EuGH überprüft werden wird, besteht eine gewisse Rechtsunsicherheit. Daher raten wir, zur Absicherung weiterhin SCCs im Auftragsverarbeitungsvertrag zu integrieren.

###### Szenario 3: Datentransfer von einem EU-Unternehmen an ein nicht zertifiziertes US-Unternehmen

**Frage:**
Sind in diesem Kontext SCCs und ein TIA erforderlich?

**Antwort:**
Ja, sowohl SCCs als auch ein TIA sind in diesem Fall zwingend erforderlich.

**Begründung:**
Der Angemessenheitsbeschluss erleichtert lediglich Datentransfers zu zertifizierten Unternehmen in den USA. Bei nicht zertifizierten Unternehmen bleibt die bisherige Handhabung für Datentransfers unverändert bestehen.

###### Szenario 4: Bestehender Auftragsverarbeitungsvertrag mit einem US-Unternehmen

Ein Auftragsverarbeitungsvertrag inklusive SCCs wurde bereits unterzeichnet, und ein TIA wurde bereits durchgeführt.

**Frage:**
Müssen zusätzliche Schritte unternommen werden, um die Rechtmäßigkeit des Datentransfers sicherzustellen?

**Antwort:**
Nein, der Datentransfer auf der Grundlage des bestehenden Vertrages ist weiterhin rechtskonform. Es sind keine weiteren Schritte erforderlich.

**Begründung:**
Der Datentransfer stützt sich weiterhin auf die Rechtsgrundlage des Art. 28 DSGVO. Durch die Einbindung von SCCs und die Durchführung eines TIA sind die Vorgaben der Art. 44 ff. DSGVO eingehalten. In Anbetracht potenzieller Unsicherheiten bezüglich des zukünftigen Bestehens des Angemessenheitsbeschlusses wäre es ratsam, keine vorschnellen Entscheidungen hinsichtlich der Verwerfung dieser Maßnahmen zu treffen.

Praktische Anwendungsbeispiele für Unternehmen

Datentransfers in die USA mit dem EU-US Data Privacy Framework

Data transfers to the USA with EU-US. Data Privacy Framework

Die Entwicklung eines KI-Modells erfordert das Training des Modells mit großen Datenmengen. Bereits aufgrund des Volumens der für das Training benötigten Daten, kann dabei regelmäßig nicht ausgeschlossen werden, dass sich unter den Trainingsdaten auch personenbezogene Daten befinden.

Soweit es sich hierbei um Daten von Personen handelt, die sich in der Europäischen Union befinden, sind daher die Regelungen der DSGVO im Rahmen des Trainings von KI-Modellen zu berücksichtigen. Indem das Training als Verarbeitung nach Art. 4 Nr. 2 DSGVO einzustufen ist, bedarf es einer Rechtsgrundlage nach Art. 6 DSGVO. 


KI Training = Verarbeitungstätigkeit

Die Vorschriften der DSGVO finden auf anonymisierte Daten keine Anwendung. Diese weisen keinen Personenbezug mehr auf, und können daher verarbeitet werden, ohne dass hierbei die Einschränkungen der DSGVO zu beachten sind. 

Eine Anonymisierung von Daten (z.B. von Bestandsdaten im Vorfeld des Trainings) könnte datenschutzrechtliche Bedenken folglich ausräumen.
In der Umsetzung scheitert eine Anonymisierung jedoch häufig an praktischen Erwägungen. Einerseits geht sie mit einem erheblichen technischen Aufwand einher, der von einem Großteil der verantwortlichen Unternehmen nicht geleistet werden kann.

Andererseits folgt aus der Anonymisierung von Trainingsdaten ein signifikanter Qualitätsverlust, durch den sich mittelbar eine Einbuße der Genauigkeit des KI-Modells ergibt. Darüber hinaus ist es, abhängig vom Anwendungsszenario eines KI-Modells nicht immer möglich, ausschließlich auf anonyme Daten zurückzugreifen.[1] 

Beispielhaft kann hier die Entwicklung einer Gesichtserkennungssoftware angeführt werden, die gerade an „echten“ Gesichtern trainiert werden soll, um dann als KI-Modell gerade für diesen Anwendungsfall brauchbar zu sein.
Die Anonymisierung und die Herstellung sog. synthetischer Daten ist daher häufig keine Lösung, um Datenschutzanforderungen zu umschiffen. 

Folglich werden sich Verantwortliche bei der Entwicklung von KI-Modellen regelmäßig mit den Anforderungen der DSGVO auseinanderzusetzen haben.


Anonymisierung von Trainingsdaten als Lösung?

Um eine ausreichende und qualitative Datenmenge verwenden zu können, wird für das Training von KI-Modellen oftmals auf Bestandsdaten des Unternehmens, wie Kundendaten, zurückgegriffen. 

Diese wurden regelmäßig nicht für die Entwicklung einer KI, sondern für die jeweiligen Geschäftszwecke des Unternehmens (z.B. Lieferung von Waren oder Erbringung von Dienstleistungen) erhoben.

Wenn nun diese Daten für einen anderen Zweck – nämlich der Entwicklung einer KI – genutzt werden sollen, gilt es, die Vorgaben der Zweckänderung nach Art. 6 Abs. 4 zu beachten. Zunächst müssen Verantwortliche die Betroffenen über die dann erfolgende Weiterverarbeitung informieren, Art. 13 Abs. 3, Art. 14 Abs. 4 DSGVO.

Darüber hinaus müssen die für eine Zweckänderung in Art. 6 Abs. 4 DSGVO genannten fünf Kriterien berücksichtigt werden. Eine Prüfung dessen erfolgt im Rahmen eines sog. „Kompatibilitätstests“[2], es sei denn dieser ist bereits entbehrlich (dazu sogleich):


Voraussetzungen für Zweckänderung

In bestimmten Konstellationen kann die Durchführung eines Kompatibilitätstestes nach Art. 6 Abs. 4 DSGVO entbehrlich sein. 

Nach Art. 5 Abs.1 lit.b DSGVO ist das für eine „Weiterverarbeitung für im öffentlichen Interesse liegende Archivzwecke, für wissenschaftliche oder historische Forschungszwecke oder für statistische Zwecke“ der Fall. 


Damit ist auf erster Ebene eine Betrachtung des Zwecks, den das zu trainierende KI-Modell verfolgen soll, erforderlich.

Einerseits kommen hier statistische Zwecke in Betracht. Im Einzelnen können diese einschlägig sein, wenn das zu trainierende Modell „auf Grund geeigneter (…) Maßnahmen als anonym im Sinne der DSGVO gilt und nicht für Maßnahmen oder Entscheidungen gegenüber einzelnen natürlichen Personen verwendet wird.“[3]

Statistische Zwecke kommen folglich in Betracht, wenn Prozesse mittels KI „allgemein verbessert, Anomalien oder Systembeeinträchtigungen erkannt werden oder neue Daten generiert werden, wie etwa bei Chatbots.“[4]

Andererseits können wissenschaftliche Forschungszwecke für die Entwicklung eines KI-Modells herangezogen werden.[5]

Darüber hinaus kann ein Kompatibilitätstest entfallen, wenn die Verarbeitung „auf einer Rechtsvorschrift der Union oder der Mitgliedstaaten (beruht), die in einer demokratischen Gesellschaft eine notwendige und verhältnismäßige Maßnahme zum Schutz der in Art. 23 Abs. 1 DSGVO genannten Ziele darstellt“. Hierfür kommt § 24 BDSG für eine Weiterverarbeitung zu Zwecken der Gefahrenabwehr oder Geltendmachung (…) zivilrechtlicher Ansprüche in Betracht.[6]

Ob der Kompatibilitätstest für das Training eines konkreten KI-Modells entbehrlich ist, ist anhand des Einzelfalls zu ermitteln.


Entbehrlichkeit eines Kompatibilitätstests

Art. 6 Abs. 4 lit.e DSGVO fordert im Rahmen des Kompatibilitätstests „das Vorhandensein geeigneter Garantien, wozu Verschlüsselung oder Pseudonymisierung gehören können. 

Hieraus wird deutlich, dass für die erfolgreiche Durchführung eines Kompatibilitätstests die Implementierung von datenschutzfördernden Maßnahmen, sog. „Privacy-Enhancing-Technologies“ („PET-Maßnahmen“) zentraler Bestandteil ist. Diese ermöglichen insbesondere gegenüber Aufsichtsbehörden einen weiten Argumentationsspielraum des Verantwortlichen.

Darüber hinaus ist die frühzeitige Implementierung von PET-Maßnahmen erforderlich, um eine „Infizierung“ des KI-Modells zu vermeiden.[7]
Als PET-Maßnahmen kommen insbesondere in Betracht:

- Anonymisierung oder Pseudonymisierung von Trainingsdaten


- Verwendung synthetischer Trainingsdaten


- „Federated Learning“ Methoden[8]


Implementierung von Privacy-Enhancing-Technologies

Die Durchführung eines Kompatibilitätstest erfordert stets eine Einzelfallprüfung. Dabei sind insbesondere folgende Faktoren zu berücksichtigen:

###### Zweckzusammenhang

Den Zusammenhang zwischen den ursprünglichen und den neuen Verarbeitungszwecken: Je enger der Zusammenhang, desto wahrscheinlicher ist die Vereinbarkeit.

###### Art der personenbezogenen Daten

Sensible oder besonders schützenswerte Daten könnten höhere Anforderungen an die Vereinbarkeit stellen.

###### Folgen für Betroffene

Die möglichen Folgen der Weiterverarbeitung für die betroffenen Personen: Negative Auswirkungen auf die Privatsphäre der Betroffenen können die Vereinbarkeit der Zwecke beeinträchtigen.

###### Schutzmaßnahmen

Das Vorhandensein geeigneter Schutzmaßnahmen: Die Implementierung von Schutzmaßnahmen (PET-Maßnahmen) wie Pseudonymisierung oder Anonymisierung kann die Vereinbarkeit der Verarbeitungszwecke unterstützen.


Durchführung des Kompabilitätstests

Unternehmen, die ein KI-Modell trainieren wollen, haben datenschutzrechtliche Vorgaben zu beachten. 

Erfolgt das Training mit Bestandsdaten, ist dabei die Durchführung eines Kompatibilitätstests erforderlich. Um hier erfolgreich zu sein, sind vom Unternehmen datenschutzfreundliche Maßnahmen (Privacy-Enhancing-Technologies) zu implementieren.

Über die Anforderungen der DSGVO hinaus werden Unternehmen zukünftig auch die Bestimmungen der KI-VO zu beachten haben. Insbesondere ergeben sich hier aus Art. 10 KI-VO Maßgaben für die Qualität von Trainingsdaten.


Ausblick und Fazit

[1] Vgl. Leicht/Sorge, Einsatz von KI-Systemen im Unternehmen: Datenschutzrechtliche Voraussetzungen und technische Lösungsansätze, in: Roth/Corsten, Handbuch Digitalisierung (im Erscheinen), u.a. mit Verweis auf die exemplarische Darstellung dieser Problematik beim Einsatz von Differential Privacy: Bagdasarayan, et. al, Differential privacy has disparate impact on Modell accuracy, Advances in Neural Information Processing Systems 32 (2019): 15479–15488.

[2] Buchner/Petri, in: Kühling/Buchner DSGVO, 3. Aufl . 2020, Art. 6, Rn. 186.

[3] Kaulartz, Rechtshandbuch Artificial Intelligence und Machine Learning, 1. Auflage S. 476.

[4] Kaulartz, Rechtshandbuch Artificial Intelligence und Machine Learning, 1. Auflage 2020, S. 476.

[5] So Stefan Brink, früherer Datenschutzbeauftrater von Baden-Württemberg, ChatGPT-Verbot: Das fordert Italien von OpenAI - Übersicht! | SÜDKURIER (suedkurier.de). 

[6] Leffer/Leicht, Datenschutzrechtliche Herausforderungen beim Einsatz von Trainingsdaten für KI-Systeme, *34_p_28_IRIS22_Leffer+ES.indd (uni-saarland.de).

[7] Vgl. Kaulartz, Rechtshandbuch Artificial Intelligence und Machine Learning, S. 476.

[8] [https://www.bigdata-insider.de/wie-entwickelt-man-dsgvo-konforme-Modelle-kuenstlicher-intelligenz-a-aefe48c90aa8e08bc579a3f3f43b183d/](https://www.bigdata-insider.de/wie-entwickelt-man-dsgvo-konforme-Modelle-kuenstlicher-intelligenz-a-aefe48c90aa8e08bc579a3f3f43b183d/); [https://www.cmshs-bloggt.de/tmc/machine-learning-datenschutz-compliance-bei-ki-am-beispiel-federated-learning/](https://www.cmshs-bloggt.de/tmc/machine-learning-datenschutz-compliance-bei-ki-am-beispiel-federated-learning/).

Quellen

Datenschutzkonformes Training von KI-Modellen

Künstliche Intelligenz findet mehr und mehr den Weg in unseren Alltag. Ihr Einsatz kann Entscheidungsprozesse und Arbeitsvorgänge in vielen Lebensbereichen optimieren und ermöglicht Lösungsansätze, die zuvor kaum denkbar gewesen wären. Durch die rasante technische Weiterentwicklung und den stetig zunehmenden Gebrauch von KI werden jedoch auch immer mehr mitunter grundrechtsrelevante Risiken offenbar, die mit der Nutzung künstlicher Intelligenz einhergehen. 

Diese werden besonders dann deutlich, wenn KI im Rahmen von Gesichtserkennungs-, Überwachungs- und Gesundheitstechnologien genutzt wird. In den vergangenen Wochen drehten sich die Debatten und Medienberichte jedoch vor allem um den Chatbot „ChatGPT“ des kalifornischen Entwicklers OpenAI. 

Anhand dieses Beispiels kann man eine Vorstellung davon gewinnen, welche gesamtgesellschaftlichen Folgen künstliche Intelligenz haben kann, wenn sie von einer Großzahl der Bevölkerung genutzt wird. Je mehr KI an Autorität und Einfluss gewinnt, desto größer ist auch die Gefahr, dass die KI für schädigende Zwecke instrumentalisiert wird, z.B. um die öffentliche Meinung und den demokratischen Diskurs zu beeinflussen. Nicht nur deshalb ist es notwendig, den Umgang mit künstlicher Intelligenz zu regulieren.

Dieser Meinung ist auch Sam Altmann, einer der Gründer von OpenAI:

> „we definitely need more regulation on ai” 
> (Twitter, 13.03.2023)



Einführung

Die EU-Kommission ist schon vor einigen Jahren auf die Risiken von KI aufmerksam geworden und hat 2018 eine Strategie zur Regulierung und gleichzeitigen Förderung der Entwicklung künstlicher Intelligenz erarbeitet. Konkret wurde im Frühjahr 2021 ein Vorschlag für das Gesetz über Künstliche Intelligenz („KI-Verordnung“ bzw. „AI-Act“) unterbreitet. Ziel des Entwurfs ist neben der Förderung der Entwicklung von KI, durch die Schaffung eines Rechtsrahmens einen hinreichenden Grundrechtsschutz zu gewährleisten und eine Vertrauensbasis beim Umgang mit künstlicher Intelligenz zu schaffen. 

Als Reaktion auf die durch ChatGPT ausgelösten KI-Hype und die damit einhergehenden Risiken, wurden am 11.05.2023 durch die parlamentarischen Ausschüsse des Europäischen Parlaments Änderungsanträge zum Kommissionsvorschlag einbracht. Vorangegangen waren unter anderem Verhandlungen über strengere Anforderungen an generative Allzweck-KI („General-Purpose-AI“), sodass etwa bei deren Entwicklung die Grundrechte, einschließlich der Meinungsfreiheit, berücksichtigt werden muss. Zudem wurden weitere Verpflichtungen und Transparenzanforderungen an Anbieter so genannter Foundation Models wie ChatGPT aufgenommen. Außerdem sollen allgemeine Grundsätze wie technische Sicherheit, Transparenz und Data-Governance für alle KI-Systeme gelten, ohne dass dabei jedoch neue Anforderungen entwickelt werden. Die Grundsätze sollen vielmehr in technische Standards und Leitfäden aufgenommen werden.

Neben der KI-Verordnung liegt seit Herbst 2022 ein Vorschlag der Kommission für eine Richtlinie zur KI-Haftung vor, wodurch Geschädigten von KI-Systemen die Prozessführung erleichtert werden soll. 

Auch in den USA wird derzeit versucht, spezielle Vorschriften für künstliche Intelligenz zu schaffen. So wurden 2022 Vorschläge für ein „AI Risk Management Framework“ und eine „AI Bill of Rights“ vorgelegt. Im Unterschied zum europäischen Ansatz dienen diese jedoch lediglich als unverbindliche Leitlinien und setzen somit prinzipiell auf die freiwillige Umsetzung der Vorgaben durch die Adressaten. 

Aktueller Stand der regulatorischen Entwicklung

Die KI-Verordnung verfolgt einen risikobasierten Ansatz, nach welchem KI-Systeme anhand ihres Einsatzbereichs und ihres Zwecks in vier verschiedene Risikogruppen unterteilt werden. Demnach gibt es KI-Systeme mit unannehmbarem, hohem, begrenztem und minimalem Risiko. Die Verordnung adressiert einerseits Anbieter („provider“) von KI-Systemen, wenn diese das System in der EU in Verkehr bringen oder in Betrieb nehmen, und anderseits deren Nutzer („user“), es sei denn, die Nutzung geschieht allein zu rein privaten Zwecken.

Wie der Verordnungsgeber annimmt, geht von dem Großteil aller KI-Systeme ein minimales Risiko aus. Für solche Systeme, zu denen beispielsweise Spamfilter gehören, enthält die Verordnung keine besonderen Vorgaben. 

Demgegenüber werden KI-Systeme mit unannehmbarem Risiko nach Art. 5 KI-VO verboten. Darunter fallen nur wenige Fallgruppen wie etwa das System des Social-Scorings (nach chinesischem Vorbild) oder – von einigen Ausnahmen abgesehen - biometrische Echtzeit-Fernidentifizierungssysteme im öffentlichen Raum zu Zwecken der Strafverfolgung. 

###### Transparenzanforderungen

An bestimmte KI-Systeme mit besonderen Manipulationsrisiken stellt die Verordnung bestimmte Transparenzanforderungen – unabhängig davon, ob das Systeme als hochriskant eingestuft wird. Hierzu zählen nun auch so genannte Generative Foundation Models wie GPT weswegen ChatGPT oder Replika in diese Gruppe fallen dürften. Zur Erfüllung der Anforderungen ist es erforderlich, dass den Nutzern eines solchen Systems transparent gemacht wird, dass sie mit einer KI interagieren, es sei denn, dass dies aus den Umständen offensichtlich ist. Zudem soll es für Anbieter derartiger Modelle eine Registrierungspflicht in einer EU-Datenbank geben.  Ob dadurch den mit Chatbots einhergehenden Risiken ausreichend Rechnung getragen wird, bleibt abzuwarten. Die Transparenzpflichten können aber zumindest gewährleisten, dass das Risiko so genannter „Deep-Fakes“ zurückgedrängt wird.

###### Hochrisiko-Systeme

Kernstück der Verordnung bildet die Regulierung von Hochrisiko-Systemen. Zu dieser Gruppe gehören einerseits KI-Systeme, die als Sicherheitskomponente in Produkten genutzt werden, und andererseits KI-basierte Anwendungen mit besonderer grundrechtlicher Relevanz wie etwa solche im Bereich des Personalmanagements, in der Aus- und Weiterbildung oder in kritischer Infrastruktur. An Hochrisiko-Systeme sowie an ihre Betreiber und Nutzer werden besondere Anforderungen gestellt, die bei Verwendung des Systems in der EU einzuhalten sind. Einige dieser Anforderungen sollen im Folgenden überblicksmäßig dargestellt werden.

###### Risikomanagement-System

Zunächst muss das KI-System von einem dokumentierenden Risikomanagement-System begleitet werden, das durch konkrete, dem Stand der Technik entsprechende Maßnahmen das Risiko des KI-Systems auf ein akzeptables Niveau senkt. Das Risikomanagement-System ist dabei als iterativer Prozess ausgestaltet und muss regelmäßig aktualisiert werden, wobei die tatsächlichen und potenziellen Risiken des KI-Systems fortlaufend ermittelt und abgewogen werden müssen. Gegen die so ermittelten Risiken sind dann „geeignete“ Maßnahmen zu treffen.

Daneben stehen einzelne Dokumentations- und Informationspflichten. Art. 13 I KI-VOE gibt etwa vor, dass die Systeme so konzipiert und entwickelt werden, dass ihr Betrieb hinreichend transparent ist, damit die Nutzer die Ergebnisse angemessen interpretieren und verwenden können, ohne dass dabei jedoch konkrete Maßnahmen benannt werden, durch die dieses Ziel erreicht werden kann.

###### Umgang mit den Datensätzen/Datenschutz

Aus datenschutzrechtlicher Perspektive relevant ist insbesondere Art. 10 KI-VOE, der Anforderungen an den Umgang mit den Datensätzen stellt, mit denen die KI trainiert wird. Wird ein Hochrisiko-System mit Daten trainiert, sind Trainings-, Validierungs- und Testdatensätze zu verwenden, die bestimmte Qualitätsanforderungen erfüllen müssen. Die Datensätze unterliegen nach Art. 10 II KI-VOE bestimmten Verwaltungspraktiken, etwa hinsichtlich der Erfassung, Bewertung und Aufbereitung von Daten oder hinsichtlich etwaiger Datenmängel. Zudem müssen die Datensätze gem. Art. 10 III 1 KI-VOE relevant, repräsentativ, fehlerfrei und vollständig sein. Praktisch wird indes schwer zu bestimmen sein, wann ein Datensatz fehlerfrei ist, da hierfür bislang objektive Qualitätsstandards fehlen. 

Absatz 5 enthält eine Befugnisnorm für die Verarbeitung besonderer Kategorien personenbezogenen Daten i.S.d. Art. 9 I DS-GVO, wenn die Verarbeitung für die Feststellung und Korrektur von Bias unbedingt notwendig ist und angemessene Schutzmaßnahmen für die Grundrechte bzw. -freiheiten der Betroffenen getroffen werden. Eine weitere Bedingung ist, dass der verfolgte Zweck durch eine vorherige Anonymisierung erheblich beeinträchtigt werden würde. Die Norm macht an dieser Stelle von der Generalklausel aus Art. 9 II lit. g DS-GVO Gebrauch, da die Verhinderung von Bias („Verzerrungen“) als öffentliches Interesse zu werten sein dürfte, wobei sich die Frage nach dessen „Erheblichkeit“ stellt. Es bleibt zudem offen, wann die Verarbeitung der personenbezogenen Daten zu diesem Zweck „unbedingt erforderlich“ ist und wann der Zweck durch die Anonymisierung der Daten „erheblich beeinträchtigt“ werden würde. 

###### Post-Market-Monitoring

Des Weiteren besteht nach Art. 61 KI-VOE die Pflicht des Anbieters, ein „Post-Market Monitoring“ vorzunehmen, das zur aktiven und systematischen Sammlung von Anwenderdaten dient. Die so gesammelten Daten sollen dann im System mit Anwenderdaten aus anderen Quellen zusammengeführt werden, wodurch dem Anbieter die fortlaufende Überwachung der Einhaltung der Verordnung durch die Anwender ermöglicht werden soll. Bei schwerwiegenden Vorfällen und Fehlfunktionen des Systems besteht gem. Art. 62 KI-VOE eine Meldepflicht. Das Post-Market-Monitoring muss gem. Art. 61 III KI-VOE auf einem Plan beruhen, welcher Teil der technischen Dokumentation nach Anhang IV Nr. 8 KI-VOE ist. 

###### Sanktionierungen

Verstöße gegen die Verordnung sollen nach Art. 71 KI-VOE durch die Mitgliedstaaten mit Geldbußen sanktioniert werden. Die höchsten Strafen sind bei Verstößen gegen Art. 5 KI-VOE (Systeme mit unannehmbarem Risiko) oder Art. 10 KI-VOE (Umgang mit Daten) zu erwarten, nämlich in Höhe von bis zu 30 Mio. EUR bzw. 6 % des weltweiten Jahresumsatzes, falls es sich bei dem Verletzer um ein Unternehmen handelt.

















Gesetz für Künstliche Intelligenz (KI-Verordnung)

Die KI-Haftungs-RL findet auf außervertragliche, verschuldensabhängige, zivilrechtliche Schadensersatzansprüche in Bezug auf durch KI-Systeme verursachte Schäden Anwendung. 

Wesentliche Regelung der Richtlinie ist zum einen der Anspruch auf die gerichtliche Anordnung der Offenlegung von Beweismitteln bei Schäden durch Hochrisiko-Systeme nach Art. 3 KI-Haftungs-RL. Die Offenlegungspflicht wird dabei auf ein erforderliches und verhältnismäßiges Maß beschränkt, wobei insbesondere der Schutz von Geschäftsgeheimnissen zu beachten ist. Daneben beinhaltet Art. 4 KI-Haftungs-RL eine widerlegliche Kausalitätsvermutung zwischen dem Verschulden und dem durch ein KI-System hervorgebrachten Ergebnis bzw. dem Fehlen eines solchen.

Insgesamt trägt die Richtlinie somit dem „Blackbox“-Problem Rechnung, das heißt dem Umstand, dass die Entscheidungsfindung einer KI regelmäßig nicht nachvollzogen werden kann und Geschädigte daher im Prozess nur schwer die von ihnen vorzubringenden Tatsachen beweisen können.

Richtlinie für KI-Haftung

Für den Umgang mit künstlicher Intelligenz ist jedoch auch zukünftig nicht allein die KI-Verordnung maßgeblich. Da KI-basierte Anwendungen oft personenbezogene Daten verarbeiten, wird die KI-VO in diesen Fällen auch von den Vorschriften der DS-GVO flankiert. Hier sind vornehmlich die Grundsätze der Datenverarbeitung wie etwa Datensparsamkeit, Zweckbindung und Transparenz maßgeblich. Daneben kann es bei dem Rückgriff der KI auf bestimmte Daten zu Verletzungen etwaiger Urheber- oder Persönlichkeitsrechte kommen. Zudem werden auch das Arbeits- und IT-Recht, sowie der Geschäftsgeheimnisschutz von den Betreibern und Nutzern von KI zu beachten sein, sodass es eine Breite an Regularien gibt, die dem übermäßigen Einsatz von künstlicher Intelligenz Einhalt gebieten.

Weitere Regularien

Mit der Abstimmung für das KI-Gesetz haben die parlamentarischen Ausschüsse des EU-Parlaments am 11.05.2023 den Weg für Verabschiedung im Plenum Mitte Juni geebnet. Danach beginnt die letzte Phase des Gesetzgebungsverfahrens und die Verhandlungen mit dem EU-Rat und der Kommission (Trilogie) werden eingeleitet.  

Bei der Umsetzung der Verordnung werden weitere Probleme auftreten, die in der Verordnung angelegt sind. Die an Hochrisiko-Systeme gestellten Anforderungen müssen beispielsweise in Ausgleich mit datenschutzrechtlichen Grundsätzen gebracht werden. So steht etwa die Protokollierungspflicht der Vorgänge beim Betrieb eines KI-Systems nach Art. 12 KI-VOE im Widerspruch zum Grundsatz der Datenminimierung, weshalb eine datenschutzrechtskonforme Umsetzung der Anforderung nicht ohne weiteres möglich sein wird. Insgesamt kommt mit der Verordnung ein nicht unerheblicher Aufwand auf die Nutzer und Betreiber von KI-Systemen zu. Um diesen die Einhaltung der Vorschriften zu vereinfachen, könnte der in Art. 56 KI-VOE beschriebene „Europäische Ausschuss für künstliche Intelligenz“ eine Hilfe sein, der Stellungnahmen, Empfehlungen und Leitlinien erarbeiten soll. 

Ausblick

Aktuelle Entwicklungen im Bereich KI-Regulierung

Current developments in AI regulation

In diesem Zusammenhang hat der Europäische Gerichtshof heute, am 4. Mai 2023, ein Urteil zum Anspruch auf immateriellen Schadensersatz nach Artikel 82 der DSGVO gefällt.

*Ein Verstoß gegen die Datenschutz-Grundverordnung führt nicht automatisch zu einem Anspruch auf Schadensersatz:*

Der EuGH entschied, dass ein Verstoß gegen die Datenschutz-Grundverordnung allein noch keinen Anspruch der betroffenen Personen auf Schadenersatz begründet. Vielmehr ist der Nachweis eines konkreten Schadens erforderlich.

Demnach ist für einen Schadensersatzanspruch
1. ein Verstoß gegen die DSGVO
2. **UND** der Nachweis eines kausal durch den Verstoß verursachten Schadens erforderlich.

*Keine Bagatellgrenze für Schadenersatz:*

Der EuGH entschied, dass für einen Schadensersatzanspruch keine Bagatellgrenze gilt. Einige nationale Gerichte hatten entschieden, dass der Schaden eine bestimmte Erheblichkeitsschwelle überschreiten muss, um einen Schadensersatzanspruch zu begründen. Dem hat der EuGH nun widersprochen.


EuGH-Urteil:

Durch die Rechtsprechung des EuGH wird der datenschutzrechtliche Schadensersatzanspruch klarer definiert.

Allerdings sind viele Rechtsfragen noch nicht geklärt. Für Unternehmen besteht ein nicht zu vernachlässigendes Risiko, im Falle von Datenschutzverletzungen Massenklagen von Verbrauchern und Verbraucherschutzverbänden ausgesetzt zu sein.

Die bisher weitgehend dysfunktionale Datenschutzaufsicht könnte auch dadurch überholt werden, dass Betroffene aufgrund finanzieller Anreize Datenschutzverstöße nun eigenständig oder über Legal-Tech-Plattformen verfolgen.

Die Entwicklungen zum immateriellen Schadenersatz sind also kein juristisches Glasperlenspiel, sondern werden ganz konkrete wirtschaftliche Auswirkungen auf Unternehmen haben.

Unternehmen aus dem Consumer-Bereich sollten sich frühzeitig mit diesen Risiken, die sich aus Datenschutzverletzungen ergeben können, auseinandersetzen.


Relevanz und Bewertung:

Verstoß gegen die DSGVO allein begründet nicht automatisch einen Schadensersatzanspruch

Mere infringement of the GDPR does not result in a claim for damages

Die Verwendung von KI-Software zur Erkennung von Emotionen ist in den Bereichen Strafverfolgung, Grenzkontrolle, Arbeitsplatz und Bildung verboten. Das Verbot von Software zur biometrischen Identifizierung wurde ebenfalls ausgeweitet.

Die Möglichkeit des Einsatzes von KI zu Zwecken der präventiven Polizeiarbeit ("Predictive Policing") soll ebenfalls eingeschränkt werden. Die KI-Verordnung verbietet "gezielte" Manipulationen, was trotz der Debatten um den Nachweis der Absichtlichkeit beibehalten wurde. 


Verbot von Emotionserkennung, biometrischer Identifizierung und „predictive policing“

Die im KI-Gesetz vorgesehene Einstufung als hochriskant gilt nur für KI-Modelle, die ein erhebliches Risiko für die Gesundheit, die Sicherheit oder die Grundrechte darstellen. Dazu gehört auch KI, die zur Verwaltung kritischer Infrastrukturen eingesetzt wird und ein erhebliches Umweltrisiko darstellt. Schwere, Intensität, Eintrittswahrscheinlichkeit und Dauer der Auswirkungen werden berücksichtigt, um festzustellen, ob das Risiko erheblich ist.

Kriterien für die Einstufung von KI als hochriskant definiert

Das Europäische Parlament hat zusätzliche Sicherheitsvorkehrungen getroffen, um negative Verzerrungen und Vorurteile bei der Verarbeitung sensibler Daten wie sexuelle Orientierung oder religiöse Überzeugungen für KI-Modelle mit hohem Risiko zu erkennen. Die Verarbeitung solcher Daten muss in einer kontrollierten Umgebung erfolgen, und die Voreingenommenheit darf bei der Verarbeitung synthetischer, anonymisierter, pseudonymisierter oder verschlüsselter Daten nicht erkennbar sein. Die sensiblen Daten dürfen nicht an Dritte weitergegeben werden und müssen nach der Voreingenommenheitsbewertung gelöscht werden. Die Anbieter müssen dokumentieren, warum die Datenverarbeitung stattgefunden hat.

Schutzmaßnahmen bei der Verarbeitung sensibler Daten für KI-Modelle mit hohem Risiko

Die Mitglieder des Europäischen Parlaments haben allgemeine Grundsätze vorgeschlagen, die für alle KI-Modelle gelten sollen und in technische Standards und Richtlinien einfließen sollen. Diese umfassen menschliche Einflussnahme und Aufsicht, technischer Robustheit und Sicherheit, Datenschutz und Daten-Governance, Transparenz, soziale und ökologische Aspekte, Vielfalt, Nichtdiskriminierung und Fairness. 

KI-Systeme mit hohem Risiko müssen außerdem Aufzeichnungen über ihre Umweltauswirkungen führen und die europäischen Umweltstandards einhalten. Diese Grundsätze sollen keine neuen Verpflichtungen schaffen, sondern in technische Normen und Leitfäden aufgenommen werden.

Quelle: [https://www.euractiv.com/section/artificial-intelligence/news/meps-seal-the-deal-on-artificial-intelligence-act/]((https://www.euractiv.com/section/artificial-intelligence/news/meps-seal-the-deal-on-artificial-intelligence-act/))

Allgemeine Grundsätze für alle KI-Modelle

Vorläufige Einigung über europäischen “Artificial Intelligence Act”

Preliminary agreement on European “Artificial Intelligence Act” reached

Bevor auf die Frage eingegangen werden kann, ob ChatGPT „DSGVO-compliant“ ist, muss zunächst der Prüfgegenstand definiert werden.

![Übersicht ChatGPT DSGVO-compliance](https://a.storyblok.com/f/183108/2460x1770/c50b24c808/chatgpt-gdpr-compliance-de-simpliant-insights.jpg "Bei der Bewertung der DSGVO-compliance von XY ist es wichtig, zunächst den Gegenstand der Prüfung zu definieren. Dies kann eine (1) Organisation, (2) ein Produkt, (3) die Nutzung dieses Produkts sein.")

Denn datenschutzkonform oder nicht-konform können sowohl Unternehmen (OpenAI LLC) als auch die Produkte von Unternehmen (Entwicklung von ChatGPT und Erstellung des Large Language Model („LLM“), sowie die Nutzung eben dieser Produkte durch Dritte sein (Nutzung von ChatGPT durch Dritte).

Der nachfolgende Beitrag beleuchtet **Punkt 3**, also die Frage, wie der Dienst datenschutzkonform genutzt werden kann (Datenschutzkonformität der Nutzung von ChatGPT).

Was ist der Prüfgegenstand?

###### Anwendungsszenario:
Ein Nutzer möchte seine persönliche Kontaktliste, die er bislang in einer Excel-Liste pflegt, durch den ChatGPT-Chatbot anreichern bzw. organisieren.

###### Frage:
Verstößt die Nutzung von ChatGPT gegen die DSGVO, wenn ich es für persönliche Zwecke benutze und dabei personenbezogene Daten eingebe?

###### Antwort:
Nein, eine solche Nutzung verstößt nicht gegen die DSGVO. Denn diese kommt bei Datenverarbeitungen für rein persönliche Zwecke nicht zur Anwendung.

###### Begründung:
**Persönliche Nutzung – DSGVO nicht anwendbar**

Soweit eine Verarbeitung (auch von personenbezogenen Daten) ausschließlich für persönliche oder familiäre Tätigkeiten erfolgt, liegt dies außerhalb des Anwendungsbereiches der DSGVO (Art. 2 Abs. 2 c) DSGVO). Nach Erwägungsgrund 18 DSGVO liegen persönliche oder familiäre Tätigkeiten vor, „wenn sie ohne (jeden) Bezug zu einer beruflichen oder wirtschaftlichen Tätigkeit vorgenommen wird.“ Typisch privat sind z.B. Daten zur eigenen Freizeitgestaltung, zur Unterhaltung und für Hobbys.

**Geschäftliche oder gemischt persönlich-geschäftliche Nutzung – DSGVO anwendbar**

Demgegenüber ist die geschäftliche Nutzung jede wirtschaftliche Tätigkeit, unabhängig davon, ob hierfür Geld fließt. Hierunter fallen also Werbemaßnahmen, Austausch von Daten gegen Dienstleistungen, aber auch vorbereitende Tätigkeiten, z.B. die Erstellung eines ersten Textentwurfes für einen Text, der im beruflichen Kontext verwendet werden soll.

Bei gemischt persönlicher und geschäftlicher Nutzung ist die DSGVO ebenfalls anwendbar, selbst wenn die persönliche Nutzung überwiegt. Denn die Ausnahmen vom Anwendungsbereich der DSGVO sind grundsätzlich eng auszulegen.

Nutzung von ChatGPT für (ausschließlich) persönliche Zwecke (Fallbeispiel 1)

###### Anwendungsszenario:
Das Unternehmen X-GmbH möchte seine Kundenlisten samt Adressdaten durch ChatGPT bearbeiten. Die Kundendaten sollen per Eingabe („Prompt“) in das Webinterface eingegeben werden.

###### Frage:
Verstößt Unternehmen X damit gegen die DSGVO?

###### Antwort:
Ja - das Unternehmen X-GmbH verstößt gegen die DSGVO, da es an ein Drittunternehmen (OpenAI LLC) personenbezogene Daten übermittelt, ohne dass hierfür eine Rechtsgrundlage besteht.

###### Begründung:
Es liegt hier eindeutig eine geschäftliche Nutzung vor, da mit der Nutzung des Dienstes wirtschaftliche Zwecke verfolgt werden. Da die personenbezogenen Daten (Kundendaten) an ein Drittunternehmen weitergeleitet werden, liegt hierin eine Verarbeitung von personenbezogenen Daten im Anwendungsbereich der DSGVO.

Die Übermittlung bedarf einer Rechtsgrundlage. In den meisten Fällen werden Unternehmen nicht von allen Kunden eine Einwilligung in die Übermittlung an OpenAI eingeholt haben, sodass eine Einwilligung als Rechtsgrundlage häufig ausscheiden wird.

Auch die Begründung des überwiegenden berechtigten Interesses dürfte schwierig sein, da die Risiken für Betroffene im Hinblick auf die Datenverarbeitung durch OpenAI häufig schwer abschätzbar sind. Ausnahmen könnten sich aber ergeben, wenn z.B. Schutzmaßnahmen wie Pseudonymisierung getroffen werden und Risiken für Betroffene mit hinreichender Sicherheit ausgeschlossen werden können.

Da nur in Sonderfällen eine Einwilligung oder berechtigtes Interesse vorliegen dürfte, käme lediglich eine Auftragsverarbeitung (Art. 28 DSGVO) als Legitimierung der Übermittlung in Betracht. 

Ein Auftragsverarbeitungsvertrag wird von OpenAI für diese Nutzung aber nicht bereitgestellt.

OpenAI schreibt in den Terms of Use (Stand 14.03.2023) zum Datenschutz:
> „5. Vertraulichkeit, Sicherheit und Datenschutz
(c) (…) Wenn Sie die OpenAI-API für die Verarbeitung "personenbezogener Daten" gemäß der Definition in der DSGVO
(…) verwenden, füllen Sie bitte dieses [Formular](https://ironcladapp.com/public-launch/63ffefa2bed6885f4536d0fe) aus, um die Ausführung unseres Datenverarbeitungszusatzes zu beantragen.“

Das verlinkte Formular führt zu einer mit „[Sales] Data Processing Addendum External“ bezeichneten Unterseite, auf der man elektronisch ein Data Processing Agreement nach Art. 28 DSGVO mit der OpenAI LLC abschließen kann (hierin wird auf die EU-Standard-Contractual-Clauses verwiesen).

Die interessante Information findet sich allerdings in der Textbeschreibung unter der Überschrift:
> „Note that this agreement is only applicable to our business service offerings (APIs for text completion, images, embeddings, moderations, etc.) and NOT our consumer services (ChatGPT, DALL-E Labs).“

OpenAI LLC trifft hier die Aussage, dass der bereitgestellte Auftragsverarbeitungsvertrag nur für ihre „Business Service Offerings“ gelten solle (also die API-Nutzer), wozu aber ausdrücklich nicht ChatGPT (Webinterface) zählt.

Es kann also festgehalten werden, dass OpenAI keinen Auftragsverarbeitungsvertrag für die Nutzung der Webkonsole ChatGPT zur Verfügung stellt. Dieser wird lediglich für die API-nutzenden Geschäftskunden bereitgestellt.

Wenngleich das Unternehmen die geschäftliche Nutzung des Dienstes in seinen AGB nicht verbietet, sieht es dennoch - zumindest implizit - in ChatGPT einen Consumer-Service, wie sich aus der Beschreibung zum „[Sales] Data Processing Addendum External“ ergibt.

Mangels Auftragsverarbeitungsvertrag bei der Nutzung des Webinterfaces, kommt eine Datenübermittlung auf der Grundlage eines Auftragsverarbeitungsvertrages nach Art. 28 DSGVO nicht in Betracht.

Demnach wird es Unternehmen im Regelfall datenschutzrechtlich nicht erlaubt sein, durch Prompts im Webinterface von ChatGPT personenbezogene Daten an OpenAI zu übermitteln.

Geschäftliche Nutzung von ChatGPT Webinterface (Fallbeispiel 2)

###### Anwendungsszenario:
Ein Unternehmen möchte seinen Kundensupport effektiver gestalten. Auf der Webseite erstellt es ein eigenes Kunden-Chat-Interface, das sowohl auf die Bestellhistorie der Kunden in einer internen Datenbank als auch auf die ChatGPT-API zugreift, um hieraus passende Antworten für Kundenanfragen zu generieren. Hierfür werden die Kundendaten über die API an OpenAI übertragen.

###### Frage:
Ist die Einbindung der ChatGPT-API und die Übertragung von Kundendaten an ChatGPT in diesem Zuge datenschutzrechtlich zulässig?

###### Antwort:
Ja, die Übertragung von Kundendaten kann auf Art. 28 DSGVO in Verbindung mit dementsprechend abgeschlossenen Auftragsverarbeitungsvertrag gestützt werden. Da eine Datenübermittlung in die USA stattfindet, muss allerdings zusätzlich ein sogenanntes Transfer Impact Assessment durchgeführt werden. Soweit dieses zu einem positiven Ergebnis kommt, dürfen die Kundendaten an OpenAI übermittelt werden.

###### Begründung:
Im Gegensatz zu den Nutzern des Webinterfaces, können die API-Nutzer einen Auftragsverarbeitungsvertrag mit OpenAI abschließen. Dessen Wirksamkeit vorausgesetzt, können Daten auf dieser Grundlage also auch ohne Einwilligung oder berechtigtes Interesse an OpenAI übermittelt werden.

Hier muss allerdings beachtet werden, dass tatsächlich nur dann eine Auftragsverarbeitung vorliegt, wenn die Daten ausschließlich auf Weisung und für Zwecke des Auftraggebers verarbeitet werden.

Ausweislich der Terms of Use kann davon ausgegangen werden, dass die Daten ausschließlich für fremde Zwecke verarbeitet werden, sodass eine Auftragsverarbeitung vorliegen dürfte (übersetzt):
> „3. Inhalt (c)
c) Verwendung von Inhalten zur Verbesserung der Dienste. Wir verwenden keine Inhalte, die Sie unserer API zur Verfügung stellen oder von unserer API erhalten ("API-Inhalte"), um unsere Dienste zu entwickeln oder zu verbessern. Wir können Inhalte von anderen Diensten als unserer API ("Nicht-API-Inhalte") verwenden, um unsere Dienste zu entwickeln und zu verbessern.“

Ergänzende Anforderung – Transfer Impact Assessment (Datenübermittlung in die USA):
Ergänzend zum Abschluss des Auftragsverarbeitungsvertrages muss das Unternehmen allerdings ein sogenanntes Transfer Impact Assessment („TIA“) durchführen. 

Dies ist eine Risikoeinschätzung, bei der die Risiken durch die Datenübermittlung ein unsicheres Drittland (die USA) bewertet werden. Nur wenn im Rahmen dieser Risikobewertung ein positives Ergebnis erzielt wird, d. h. begründet werden kann, dass keine substanziellen Datenschutzrisiken für die Betroffenen hieraus entstehen, ist die Datenübermittlung datenschutzrechtlich zulässig.

Geschäftliche Nutzung der ChatGPT-API (Fallbeispiel 3)

###### Keine Eingabe von personenbezogenen Daten im Webinterface
Mangels Auftragsverarbeitungsvertrag darf keine Übertragung von personenbezogenen Daten unter Nutzung des ChatGPT-Webinterfaces durch Unternehmen erfolgen.

Eine Nutzung darf ausnahmsweise erfolgen, wenn eine Einwilligung der Betroffenen vorliegt (Art. 6 Abs. 1 a) DSGVO) oder ein berechtigtes Interesse nach (Art. 6 Abs. 1 f) DSGVO) gegeben ist.

Soweit Unternehmen das Webinterface nutzen, sollten sie sicherstellen, dass keine personenbezogenen Daten (z.B. Kundendaten oder auch Mitarbeiterdaten) per Prompt an OpenAI übermittelt werden.

###### Keine Eingabe von Betriebsgeheimnissen (GeschGehG)
Es sollte darüber hinaus untersagt werden, dass Daten, die dem Geschäftsgeheimnisgesetz unterliegen, in die Webkonsole von ChatGPT eingegeben werden, und zwar unabhängig davon, ob diese Daten Personenbezug haben.

Dies gilt insbesondere für technische Daten und Softwarecode, sowie für alle Daten, die einen wirtschaftlichen Wert haben und vertraulich zu handhaben sind. Soweit dies nicht unterbunden wird, droht ein Szenario ähnlich wie bei Samsung, das [kürzlich von einer Preisgabe vertraulicher Unternehmensinformationen über ChatGPT betroffen war](https://www.financialexpress.com/life/technology-samsungs-trade-secrets-have-reportedly-leaked-because-employees-shared-a-bit-too-much-info-with-chatgpt-3038108/).

###### „ChatGPT Acceptable Use Policy“
Soweit die Nutzung des Dienstes im Unternehmen erlaubt ist, trägt das Unternehmen Verantwortung für den datenschutzkonformen Umgang mit ChatGPT.

Bei der erlaubten Nutzung von ChatGPT innerhalb eines Unternehmens, sollten Unternehmen daher die Eingabe von personenbezogenen Daten grundsätzlich untersagen. Dies kann beispielsweise in einer betrieblichen Weisung, im Rahmen einer „Acceptable Use Policy“ erfolgen.

Soweit es ein Unternehmen keine internen Vorkehrungen trifft, um eine datenschutzwidrige Eingabe von personenbezogenen Daten zu unterbinden, wird der Datenschutzverstoß dem Unternehmen in der Regel zugerechnet und kann zu Bußgeldern und Schadensersatzklagen der Betroffenen führen.

Unter Downloads finden Sie ein kostenloses Muster für eine Nutzungsbedingung, die Sie auf Ihre betrieblichen Bedürfnisse anpassen und frei verwenden können.

###### Weitere Maßnahmen erforderlich bei API-Einbindung
Soweit eine Verarbeitung von personenbezogenen Daten über die API-Einbindung erfolgen soll, müssen zusätzlich folgende Maßnahmen ergriffen werden:
-	Abschluss des bereitgestellten Auftragsverarbeitungsvertrages (Art. 28 DSGVO)
-	Durchführung eines Transfer Impact Assessments (Art. 44 ff. DSGVO und Vorgaben des EuGH im „Schrems II Urteil“)
-	Information über die Datenverarbeitung durch ChatGPT gegenüber Betroffenen in eigener Datenschutzerklärung (bloßer Verweis auf die Datenschutzerklärung von ChatGPT nicht ausreichend (Art. 13, 14 DSGVO)
-	Durchführung einer Datenschutz-Folgenabschätzung, soweit erforderlich (Art. 35 DSGVO)
-	Dokumentation der Verarbeitung im Verzeichnis der Verarbeitungstätigkeiten (Art. 30 DSGVO)

Ergebnis und Handlungsempfehlungen

Eine nähere Beschäftigung mit dem Thema zeigt, dass die Nutzung des Webinterfaces von ChatGPT zur Verarbeitung personenbezogener Daten regelmäßig datenschutzrechtlich unzulässig sein wird.

Unternehmen sollten daher Vorkehrungen treffen, um eine datenschutzwidrige Nutzung des Dienstes zu verhindern, um nicht in die Gefahr zu geraten, selbst gegen das Datenschutzrecht zu verstoßen. Zu empfehlen ist daher ein Verbot der Eingabe von personenbezogenen Daten in den Eingaben (Prompts). Etwas anderes gilt in der Regel nur bei ausdrücklicher Einwilligung der Kunden hierzu.

Demgegenüber ist die Nutzung der API datenschutzrechtlich besser abzubilden. Allerdings sind auch hier einige Datenschutzmaßnahmen für eine datenschutzkonforme Einbindung zu ergreifen.

Angesichts der Bedeutung der Thematik ist es zu begrüßen, dass eine einheitliche Linie der Aufsichtsbehörden zum Umgang mit dem Thema auf europäischer Ebene angestoßen wird. Jedenfalls wäre es schwer zu begründen, warum der Dienst z.B. für italienische Nutzer nicht erlaubt, für deutsche Nutzer aber erlaubt sein soll. Denn der datenschutzrechtliche Prüfmaßstab ist im Ausgangspunkt für alle Mitgliedstaaten derselbe - die DSGVO. Diese soll innerhalb der Europäischen Union grundsätzlich einheitlich ausgelegt werden.

Vor dem Hintergrund der aufgezeigten datenschutzrechtlichen Fallstricke schreibt das Magazin Politico zutreffend: „[ChatGPT is entering a world of regulatory pain in Europe](https://www.politico.eu/article/chatgpt-world-regulatory-pain-eu-privacy-data-protection-gdpr/)“.

Trotz der regulatorischen Unsicherheiten sollte nicht vorschnell von einer Nutzung des Dienstes abgesehen werden. Denn Unternehmen, die KI eingeführt haben, berichten von deutlichen Kostensenkungen und Umsatzsteigerungen. „[Companies that have adopted AI continue to pull ahead](https://aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index-Report_2023.pdf)“.

Wenn eine Nutzung von ChatGPT im jeweiligen Geschäftsfeld sinnvoll ist, können bestehende Datenschutzrisiken in der Regel durch eine datenschutzkonforme Gestaltung auf ein Minimum reduziert werden.

Fazit

Ist ChatGPT DSGVO-compliant?

Is ChatGPT GDPR-compliant?

Es vergeht kein Tag, an dem nicht spannende Neuigkeiten rund um OpenAI oder anderen AI-Akteuren veröffentlicht werden, aber auch neue Probleme und Herausforderung bekannt werden. 

So musste auch OpenAI seinen ersten, bekanntgewordenen, Datenschutzvorfall verzeichnen, als die Chat-Historie sowie die E-Mail-Adressen und Kontaktinformationen von anderen Nutzern [offengelegt wurden](https://futurism.com/the-byte/chatgpt-bug-chat-histories-email-phone). 

Ende März hat die italienische Datenschutzaufsichtsbehörde den Betrieb von ChatGPT in Italien [untersagt](https://www.gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9870847), weil es unter anderem an einer Rechtsgrundlage für die Verarbeitung von personenbezogenen Daten für das Trainieren des AI-Algorithmus fehle und kein wirksames Altersverifikationssystem für den Schutz von Kindern unter 13 Jahren integriert war. 

Öffentlichkeitswirksam hebt die Aufsichtsbehörde in Ihrer Pressemitteilung hervor, dass OpenAI mit einem Bußgeld von bis zu 20 Millionen Euro oder von 4% des weltweiten Jahresumsatzes zu rechnen habe, wenn es die Anforderungen der Anordnung nicht umsetzt. OpenAI wurde eine Frist von 20 Tagen gesetzt, um auf die Anordnung der Behörde zu reagieren, einen ersten Dialog zwischen Aufsichtsbehörde und OpenAI hat es bereits [gegeben](https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9872832#english). 

Auch die kanadische Aufsichtsbehörde hat inzwischen [angekündigt](https://www.priv.gc.ca/en/opc-news/news-and-announcements/2023/an_230404/), Untersuchungen gegen OpenAI einzuleiten. Es dürfte daher nur eine Frage der Zeit sein, dass auch weitere Aufsichtsbehörden diesem Beispiel folgen. 

Aktuelle Entwicklungen

Die aktuellen Reaktionen richten sich vor allem an ChatGPT von OpenAI. Der Chatbot wird in einer kostenlosen freien Version sowie über ein kostenpflichtiges Abo angeboten. Adressat der aufsichtsbehördlichen Maßnahmen ist daher auch erst einmal OpenAI direkt. 

ChatGPT wird allerdings auch über die OpenAI API Plattform angeboten. Über diese API-Plattform können Unternehmen ChatGPT in ihre eigenen Services integrieren. Ein sehr häufiges Szenario ist die Einbindung von ChatGPT in den Kundensupport, aber auch Apps wie Snapchat, Quizlet und Shopify haben ChatGPT bereits über die API [eingebunden](https://openai.com/blog/introducing-chatgpt-and-whisper-apis). Erst kürzlich hat die Helvetia Versicherung aus der Schweiz ChatGPT in Ihren Kunden-Chatbot integriert. In den [Nutzungshinweisen](https://www.helvetia.com/ch/web/de/privatkunden/kontakt/services/chatbot-clara/frag-clara.html) wird der Chatbot als Experiment vorgestellt über den Fragen über Versicherungen und Vorsorge beantwortet werden können. Die Kunden werden danach gebeten keine personenbezogenen Themen in den Chatbot eingeben.

Auch uns erreichen vermehrt Anfragen, wie Produkte von OpenAI über die API in die Produkte und Dienstleistungen unserer Kunden rechtskonform eingebunden werden können.


Nutzung von ChatGPT über die OpenAI API Plattform

Sofern Unternehmen ChatGPT über die API in ihre Produkte und Dienstleistungen integrieren, werden diese in aller Regel auch im datenschutzrechtlichen Sinne zum Verantwortlichen. OpenAI (genauergesagt die OpenAI, L.L.C., 3180 18th St, San Francisco, CA 94110)  wird in diesen Fällen zu einem Dienstleister und Auftragsverarbeiter, der auf Weisung des die API nutzenden Unternehmens handelt. 

Als Verantwortlicher muss jedes die API nutzende Unternehmen für jeden (Daten-)Verarbeitungsschritt nachweisen können, dass die betreffende Verarbeitung datenschutzkonform ist. Während die italienische Aufsichtsbehörde in ihrer Anordnung noch OpenAI direkt adressiert hat, könnte künftig auch jedes, die API nutzende Unternehmen, Adressat von aufsichtsbehördlichen Maßnahmen werden, wenn es die geltenden Datenschutzanforderungen bei der Integration von ChatGPT nicht ordnungsgemäß umsetzt.

Wer ist verantwortlich?

Der Verantwortliche (das die API nutzende Unternehmen) muss nachweisen können, auf welcher Rechtsgrundlage die Datenverarbeitung bei der Nutzung des Chatbots erfolgt. Dies dürfte bezüglich der reinen Diensterbringung (z.B. Kundensupport) noch recht unproblematisch sein, da der Verantwortliche sich regelmäßig auf eine Erforderlichkeit zur Wahrung eines berechtigten Interesses (Art. 6 Abs. 1 f) DSGVO) oder zur Vertragserfüllung (Art. 6 Abs. 1 b) DSGVO) berufen kann. 

Problematischer wird es, wenn es um die (Weiter-) Nutzung der Eingaben (Prompts) für das Trainieren des AI-Algorithmus geht, da diese Verarbeitung für Zwecke von OpenAI nicht mehr von der Auftragsverarbeitung zwischen Verantwortlichen und OpenAI gedeckt ist. Denkbar ist zwar, dass sich der Verantwortliche eine Einwilligung des Nutzers einholt, der auch die Weiterverarbeitung durch OpenAI abdeckt. Ratsamer ist jedoch, die Weiterverarbeitung der Eingaben durch OpenAI vollends auszuschließen, damit die zum Teil sensiblen Inhalte nicht für den AI-Algorithmus weiterverarbeitet werden. 

###### API-Content vs. Non-API-Content

OpenAI differenziert zwischen „Non-API-Content“ und „API-Content“. Inhaltseingaben von Nutzern, die über die ChatGPT API (API-Content) empfangen, werden ausweislich der [Nutzungsbedingungen](https://openai.com/policies/terms-of-use) nicht für eigene Zwecke von OpenAI (z.B. für zur Weiterentwicklung und Service-Verbesserung) genutzt, es sei denn, der Nutzer bzw. Kunde wünscht dies ausdrücklich. Nur der Non-API-Content wird standardmäßig für das Training des AI-Algorithmus genutzt, wobei den Nutzern eine Opt-Out-Möglichkeit angeboten wird. Die Abmeldung kann über ein [Webformular](https://docs.google.com/forms/d/e/1FAIpQLScrnC-_A7JFs4LbIuzevQ_78hVERlNqqCPCt3d8XqnKOfdRdQ/viewform) erfolgen, das mit dem Benutzerkonto verknüpft wird. Es bleibt abzuwarten, ob dieser Prozess wirksam funktioniert. 

Aus vertraglicher Sicht sieht es daher für den die API nutzenden Verantwortlichen erst einmal so aus, als wären sie damit auf der sicheren Seite. Die [Privacy Policy ](https://openai.com/policies/privacy-policy)von OpenAI sieht indes noch weitere Verwendungszwecke vor, wie z.B. die Analyse und Verbesserung der Services, die Durchführung von Forschungen sowie die Entwicklung neuer Programme und Dienste. Insofern bleibt unklar, ob jegliche Verarbeitung für Zwecke von OpenAI ausgeschlossen bleibt oder nur die Verarbeitung für das Trainieren des Algorithmus. An dieser Stelle wäre eine Klarstellung wünschenswert, dass keine Kundendaten oder Eingaben von Nutzern für eigene Zwecke verarbeitet werden. 

###### Transparenz für Nutzer

Der Verantwortliche muss gegenüber seinen Nutzern die Datenverarbeitung bei der Nutzung von OpenAI Diensten transparent machen. Dies erfolgt regelmäßig über Datenschutzhinweise als Ausprägung der nach Art. 13 bzw. Art. 14 DSGVO geltenden Informationspflichten. 

Hier reicht es für den Verantwortlichen allerdings nicht aus, nur auf die Privacy Policy von OpenAI zu verweisen. Vielmehr muss er eigenständig darüber informieren, wie und zu welchen Zwecken die Daten der Nutzer vom Verantwortlichen und deren Auftragsverarbeiter verarbeitet werden, wie lange diese gespeichert bleiben und wann diese wieder gelöscht werden.  

Erforderlich ist auch, dass den Nutzern transparent gemacht wird, wie sie ihre Betroffenenrechte ausüben können. Zudem muss zwischen Verantwortlichen und OpenAI festgelegt werden, wie die Einhaltung der Betroffenenrechte bei Dienstleistern wie OpenAI sichergestellt werden können. 

###### Vertragliche Anforderungen

Bei der Nutzung von OpenAI Diensten über die OpenAI API Plattform entsteht ein Auftragsverarbeitungsverhältnis zwischen dem Verantwortlichen als Auftraggeber und OpenAI als Auftragsverarbeiter. Für diese Zwecke stellt OpenAI ein [Data Processing Agreement (DPA Stand 05.04.2023)](https://openai.com/policies/data-processing-addendum) bereit, das über einen elektronischen Zeichnungsprozess abgeschlossen werden kann. Genau zu prüfen ist aber, ob die jeweilige Nutzung auch tatsächlich eine Auftragsverarbeitung ist.

Denn es sind auch Konstellationen denkbar, in denen die Parteien als gemeinsam Verantwortliche nach Art. 26 DSGVO anzusehen sind (z.B. wenn Trainingsdaten des Kunden zusammen mit OpenAI für beide Akteure für deren Zwecke verarbeitet werden). Ein Muster für ein Vertrag nach Art. 26 DSGVO stellt OpenAI derzeit (noch) nicht bereit. 

Werden die Daten über die API in Drittländern (z.B. in den USA) verarbeitet, müssen zusätzlich Standardvertragsklauseln (SCC) abgeschlossen werden. OpenAI hat die SCCs in ihr DPA integriert, da die Datenverarbeitung nach ihren Angaben in den USA erfolgt. Solange es noch keinen Angemessenheitsbeschluss der EU-Kommission zum EU-US-Datenschutzrahmen (EU-U.S. Data Privacy Framework) gibt (mehr dazu in diesen [Insights](https://simpliant.eu/de/insights/data-processing-by-us-cloud-providers-in-europe-is-possible-under-data-protection-law)), muss der Verantwortliche zudem ein sogenanntes Transfer Impact Assessement (TIA) durchführen und ggf. zusätzliche Maßnahmen zum Schutz der Daten vereinbaren.

###### Datenschutzfolgenabschätzung (DSFA) und Datensicherheit

Sofern die Datenverarbeitung bei der Nutzung der ChatGPT API mit hohen Risiken für die Betroffenen verbunden ist, ist zwingend eine Datenschutzfolgenabschätzung (DSFA) nach Art. 35 DSGVO durchzuführen. 

Das Gremium der deutschen Datenschutzaufsichtsbehörden (Datenschutzkonferenz - DSK) hat eine so genannte [Positivliste](https://datenschutzkonferenz-online.de/media/ah/20181017_ah_DSK_DSFA_Muss-Liste_Version_1.1_Deutsch.pdf) veröffentlicht, in der Verarbeitungstätigkeiten genannt sind, für die eine DSFA zwingend durchzuführen ist. Einschlägig sind hier insbesondere Ziffer 11 der Liste (Kundensupport mittels künstlicher Intelligenz) oder auch Ziffer 13 (Telefongesprächsauswertung mittels Algorithmen). In diesem Rahmen ist es von entscheidender Bedeutung für welche Zwecke der Dienst eingesetzt werden soll. Wenn der ChatBot zum Beispiel in den Kundensupport einer Krankenversicherung (wie im Beispiel der Helvetia Versicherung, siehe oben) integriert werden soll, können recht schnell Gesundheitsdaten verarbeitet werden und es müsste im Rahmen der DSFA analysiert werden, wie das Risiko der Offenlegung von sensiblen Informationen und Gesundheitsdaten wirksam behandelt bzw. ausgeschlossen werden kann. 

Die DSFA verfolgt das Ziel, strukturiert die Risiken für die Betroffenen zu identifizieren und zu bewerten sowie zu bestimmen, wie diese Risiken mit technischen und organisatorischen Maßnahmen behandelt und auf ein akzeptables Niveau reduziert werden können. Spätestens an dieser Stelle dürfte eine vertiefte Auseinandersetzung mit einem Sicherheitskonzept von OpenAI erforderlich werden. Ausweislich des DPA von OpenAI wird dieses jedoch nur auf Anfrage zur Verfügung gestellt. Die frei verfügbaren Informationen auf der Website dürften für sich genommen noch nicht ausreichen, eine verlässliche Bewertung vorzunehmen, ob die Maßnahmen den bewerteten Risiken wirksam entgegengesetzt werden können. 


Was ist bei der Nutzung der API zu beachten?

Am 28. April 2023 wurde das Verbot von ChatGPT in Italien von der [italienischen Aufsichtsbehörde wieder aufgehoben](https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9881490#english), nachdem OpenAI den Dienst insgesamt transparenter dargestellt , eine Altersüberprüfung für einheimische Nutzer vorgeschaltet sowie die Umsetzung von Betroffenenrechten erleichtert hat. 

Hierzu hat OpenAI am 25.04.2023 insbesondere den Prozess zum Abstellen der Nutzung von Non-API-Content für eigene Trainingszwecke [vereinfacht](https://openai.com/blog/new-ways-to-manage-your-data-in-chatgpt). Anstatt der bisherigen Abmeldung per Webformular, kann ab sofort in den Einstellungen die Speicherung der eigenen „Chat Historie“ per Mausklick abgestellt werden. Eine unter dieser Einstellung geführte Konversation wird von OpenAI anschließend für 30 Tage aufbewahrt und nur zur Überwachung etwaigen Missbrauchs überprüft. 

Darüber hinaus hat OpenAI die Veröffentlichung von „ChatGPT Business“ in den kommenden Monaten angekündigt. ChatGPT Business wird den „[API data usage policies](https://openai.com/policies/api-data-usage-policies)“ folgen, wodurch die Daten der Endnutzer standardmäßig nicht zum Training der Modelle von OpenAI verwendet werden. 

Zuletzt wurde durch OpenAI eine neue „Exportoption“ in den Einstellungen verankert. Diese ermöglicht es, ChatGPT-Daten zu exportieren und damit nachzuvollziehen, welche Informationen OpenAI speichert. Der Nutzer erhält dafür eine Datei mit seinen Gesprächen und allen anderen relevanten Daten per E-Mail.

Update vom 16.05.2023

Die letzten Entwicklungen rund um KI-Anbieter dürften erst der Anfang einer längeren Konsolidierungsphase zwischen KI-Anbietern und Aufsichtsbehörden sein. Auch wenn der Hauptfokus aktuell auf OpenAI liegt, sind die Spannungsfelder auch auf andere Anbieter wie Googles Bard und andere übertragbar. Die aktuelle Dynamik erfordert daher eine aufmerksame Beobachtung der Entwicklungen damit rechtzeitig auf neue Anforderungen seitens der Aufsichtsbehörden oder des Gesetzgebers reagiert werden kann. 

Auch wenn die Nachrichten derzeit von Berichten über Verbote, regulatorische Maßnahmen und Risiken dominiert werden, kann festgehalten werden, dass eine Integration von KI-Diensten in die eigenen Angebote und Services - zumindest aus Sicht des Datenschutzes - DSGVO-konform gestaltet werden kann. 

Wenn Ihr Unternehmen erwägt, ChatGPT in sein Dienstleistungsangebot aufzunehmen, ist es ratsam, die Aspekte der Datenschutzkonformität bereits in der frühesten Planungsphase zu berücksichtigen (Privacy-by-design) und die rechtlichen Mindestanforderungen, wie die Rechtmäßigkeit und Transparenz der Datenverarbeitung, den Abschluss der notwendigen Datenschutzvereinbarungen, die Durchführung von Datenschutz-Folgenabschätzungen und die Überprüfung und Festlegung technischer und organisatorischer Maßnahmen zur Risikobewältigung, zu berücksichtigen.

Datenschutzaspekte bei der Nutzung der ChatGPT-API

Data Protection Requirements when using ChatGPT-API

Die für den Betrieb der Software erforderliche Server-Infrastruktur („Hosting“) wird in der Praxis sehr häufig durch amerikanische Konzerne bereitgestellt, die als Unterauftragnehmer des Plattform-Providers fungieren. Die international führenden Unternehmen kommen dabei allesamt aus den USA (z.B. Amazon Web Services, Google Cloud Platform, Microsoft Azure) und bieten ihre Leistungen meist über Niederlassungen in Europa an. Mir sind bislang jedenfalls keine europäischen Hosting-Provider bekannt, die preislich oder technisch mit den großen amerikanischen Hosting-Providern mithalten könnten.

Europäische Unternehmen, die die besagten US-Hosting-Provider nutzen, sehen sich häufig gegenüber Kunden und Behörden mit der Frage konfrontiert, ob ihre Services datenschutzkonform nutzbar sind. 

Denn mitunter wird davon ausgegangen, dass eine solche Nutzung immer mit einem Drittlandtransfer von personenbezogenen Daten (in die USA) einhergeht. Zur Erinnerung, eine Übermittlung von personenbezogenen Daten ist nach dem sog. Schrems II Urteil des Europäischen Gerichtshofes („EuGH“) nur unter strengen Voraussetzungen möglich, die etwaige Zugriffsrechte durch amerikanische Geheimdienste berücksichtigen, die durch den EuGH als nicht mit dem europäischen Datenschutzrecht vereinbar angesehen werden.

Bereits in der Übermittlung von Daten an die europäische Entität (z.B. „Amazon Web Services EMEA SARL, Avenue John F. Kennedy 38, 1855 Luxembourg“) eines amerikanischen Mutterunternehmens (z.B. „Amazon.com, Inc., 410 Terry Ave N, Seattle 98109, WA, USA“), sahen einige Behörden eine Datenübermittlung in die USA als gegeben an. 

Denn die amerikanische Muttergesellschaft, die die europäische Entität beherrscht, könne (bzw. müsse) nach anwendbaren US-Gesetzen die europäische Entität zur Herausgabe von Daten verpflichten. Allein ein solcher potenzieller Zugriff wurde bereits als Übermittlung in die USA bewertet.

Dies wiederum würde bedeuten, dass die strengen Vorgaben für Drittlandtransfers nach der DSGVO greifen würden. Hierfür wäre nach dem Urteil des EuGH (Schrems II) und den Umsetzungsleitlinien des europäischen Datenschutzausschusses neben dem Abschluss von Standardvertragsklauseln ein sog. Transfer Impact Assessment durchzuführen (oftmals mit dem Ergebnis, dass eine Übermittlung datenschutzrechtlich unzulässig gewesen wäre). 

Im Ergebnis bedeutete dies häufig, dass ein vermeintlicher Datentransfer in die USA nur schwer datenschutzkonform durchgeführt werden konnte. Die unsichere Rechtslage riefs teils erhebliche Unsicherheit bei potenziellen Kunden hervor, die zum Teil davon ausgingen, dass ein Datentransfer an ein großes US-Techunternehmen datenschutzrechtlich immer unzulässig sei. 

Das Ergebnis dieser strengen Auslegung mündete häufig in dem faktischen Zwang, auf einen europäischen Hosting-Anbieter zurückzugreifen, um datenschutzkonform zu handeln. Als Konsequenz hatte dies jedoch für EU-Unternehmen einen Wettbewerbsnachteil gegenüber der internationalen Konkurrenz zur Folge. Denn auf der Basis dieser Datenschutzanforderungen müssten europäische Unternehmen weniger performantere EU-Hosting-Anbieter zu höheren Preisen in Anspruch nehmen und hätten dies letztlich auch an die eigenen Kunden weiterzugeben. Dies würde sich dann nachteilig auf die Preis- und Produktqualität auswirken, wodurch EU-Anbieter im internationalen Wettbewerb zurückfallen würden.

Bisherige Ansicht: Theoretische Zugriffsmöglichkeit = Datentransfer

Europäische Unternehmen können nun allerdings aufatmen. **Soweit Daten an ein EU-Tochterunternehmen (sei es „Google Irland“, „Amazon Luxembourg“, oder „Microsoft Irland“) übermittelt werden, liegt allein dadurch noch kein Drittlandtransfer in die USA vor.** Die Quintessenz der Rechtsauffassung ist dabei, dass ein rein hypothetischer Zugriff dem Wortlaut nach keine „Übermittlung durch Offenlegung“, im Sinne des Art. 44 ff. DSGVO, darstellt.

Diese Auffassung hat nun jedenfalls die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK-Datenschutzkonferenz) in Ihrem Beschluss vom 31.01.2023 (abrufbar [hier](https://www.datenschutzkonferenz-online.de/media/dskb/20230206_DSK_Beschluss_Extraterritoriale_Zugriffe.pdf)) und auch die Vergabekammer des Bundeskartellamtes vertreten (abrufbar [hier](https://www.bundeskartellamt.de/SharedDocs/Entscheidung/DE/Entscheidungen/Vergaberecht/2023/VK2-114-22.pdf?__blob=publicationFile&v=2)). [Aber Achtung: Sowohl Vergabekammer als auch Datenschutzkonferenz sind keine Gerichte, sodass ihre Entscheidungen keine Rechtskraft entfalten.]

Sowohl die DSK als auch das Bundeskartellamt vertreten nunmehr die Ansicht, dass allein die Beherrschung durch ein amerikanisches Mutterunternehmen nicht zu einem Drittlandtransfer nach den Art. 44 ff. DSGVO führt. Dies bedeutet, dass auch kein Transfer Impact Assessment durchzuführen ist und der Datentransfer regelmäßig als rein innereuropäisch und damit „sicher“ einzustufen ist.

Europäische Unternehmen die entsprechende Unterauftragnehmer nutzen, können nun getrost auf die Entscheidung der Datenschutzkonferenz und der Vergabekammer des Bundeskartellamtes verweisen.

Aktuelle Ansicht: Hypothetischer Zugriff = Kein Drittlandtransfer

Der Vollständigkeit halber sei noch erwähnt, dass nach Ansicht der DSK allerdings die Möglichkeit des Zugriffs durch öffentliche Stellen im Rahmen der allgemeinen Zuverlässigkeitsprüfung nach Art. 28 Abs. 1 DSGVO zu berücksichtigen ist. 

In diesem Rahmen ist die abstrakte Gefahr von möglichen Zugriffen zu bewerten und hierbei (unter anderem) auch die extraterritoriale Anwendbarkeit des Drittland-Rechts, das Risiko von Anweisungen von Drittland-Muttergesellschaften sowie geeignete technische und organisatorische Maßnahmen zur Verhinderung von Zugriffen heranzuziehen. Solange die EU-Kommission noch keinen Angemessenheitsbeschluss erlassen hat, müssen Unternehmen an die Sorgfalt der Zuverlässigkeitsprüfung besonders hohe Anforderungen stellen.

Durch die aktuelle Stellungnahme (Opinion 5/2023) des Europäischen Datenschutzausschusses (EDSA) ist ein Angemessenheitsbeschluss der Europäischen Kommission zum EU-US-Datenschutzrahmen (EU-U.S. Data Privacy Framework) allerdings wieder in greifbare Nähe gerückt worden. Der EDSA hatte sich grundsätzlich positiv zum Entwurf des Angemessenheitsbeschlusses der EU-Kommission geäußert, äußerte gleichzeitig aber auch Bedenken und bittet um Klarstellung zu mehreren Punkten. Soweit der Angemessenheitsbeschluss erlassen wird, dürfen Unternehmen personenbezogene Daten ohne besondere Einschränkungen in die USA übermitteln, da das Datenschutzniveau der USA damit dem der EU entspricht. 

Zu beachten ist weiterhin, dass bei einer Weitergabe von Daten an EU-Tochterunternehmen ein Drittlandtransfer auch dadurch eintreten kann, dass dieses wiederum Unterauftragnehmer aus Drittländern einschaltet (z.T. kann dies aber ausgeschlossen werden in dem nur „regional services“ beschränkt auf EMEA genutzt werden). Eine genaue rechtliche Prüfung des jeweiligen Verarbeitungssituation ist daher anzuraten.

Wir empfehlen zudem zu prüfen, ob der abgeschlossene Auftragsverarbeitungsvertrag (EN: Data Processing Agreement) mit dem Hosting-Provider aktuell ist. Hierbei ist darauf zu achten, dass sich das DPA auch auf den richtigen Service bezieht.

Dies lässt sich oft schon durch eine Google-Recherche überprüfen (z.B. „Microsoft aktuelles Data Processing Agreement“) und sollte ansonsten bei dem Hosting-Dienstleister angefragt werden. Üblicherweise können Anfragen über die Datenschutz-E-Mail-Adresse erfolgen, die meist in den Datenschutzerklärungen zu finden sind.

Das Data Processing Agreement sollte eigenständig auf Wirksamkeit und Passgenauigkeit überprüft werden und – jedenfalls im Zusammenhang mit anderen Vertragsteilen – eine EU-Gesellschaft als Vertragspartner enthalten. Zum Teil stellen die Anbieter die aktuellen DPAs über ihre Admin-Konsole zum Download bereit.


Worauf zu achten ist

Datenverarbeitung durch US-Cloud-Anbieter in Europa ist datenschutzrechtlich möglich

Data processing by US cloud providers in Europe is possible under data protection law

Natascha Gaden

ChatGPT ist ein sog. Chatbot. Ein Chatbot ist eine textbasierte Anwendung, die es Menschen ermöglicht über eine technische Schnittstelle (API) mit technischen Systemen zu chatten. Dies ist für Unternehmen von besonderer Relevanz und ein maßgeblicher Faktor für gesteigerte Effizienz und Qualität.

Das Besondere an ChatGPT ist, dass er auf Basis künstlicher Intelligenz funktioniert, d.h. er verwendet maschinelles Lernen, um selbständig Antworten auf Benutzerfragen zu generieren. Dies bringt ihn im Vergleich zu bspw. regelbasierten Chatbots auf ein ganz neues Level der Usability. 

Was ist ChatGPT und was erklärt den Hype darum?

Da im Rahmen der Nutzung von Chatbots personenbezogene Daten verarbeitet werden können, sind die Anforderungen der Datenschutz-Grundverordnung (DSGVO) zu beachten.

Die Pflicht, dass personenbezogene Daten DSGVO-konform verarbeitet werden, trifft in erster Linie den Verantwortlichen. Verantwortlicher im Sinne der DSGVO ist derjenige, der über Zwecke und Mittel der Verarbeitung entscheidet. Konkret heißt das, dass ein Unternehmen die Entscheidungshoheit darüber hat, warum und wie ChatGPT für seine Interessen genutzt wird.

###### Zweckbindung

Vor dem Hintergrund der Zweckbindung ist es problematisch, dass ChatGPT die personenbezogenen Daten in der Regel nicht nur zu dem vom Verantwortlichen festgelegten Zweck, sondern auch für andere eigene Zwecke nutzen will, so zu Beispiel für das Anlernen der künstlichen Intelligenz.

Dies ist für den Verantwortlichen beim Abschluss eines Auftragsverarbeitungsvertrages eine derzeit nur schwer lösbare Herausforderung, da die Daten in diesem Rahmen nur für seine eigenen Zwecken weisungsgebunden verarbeitet werden dürfen. 

Sofern die Daten auch für andere Zwecke verarbeitet werden sollen, muss eine geeignete Rechtsgrundlage diese Verarbeitung legitimieren. 

###### Trennung der Daten

In diesem Zusammenhang sollte mittels technischer und organisatorischer Maßnahmen verhindert werden, dass Daten aus verschiedenen Quellen zusammengeführt werden. Dieses Risiko könnte theoretisch bestehen, wenn ein Kunde eines Verantwortlichen ChatGPT nutzt und aufgrund seiner Anfrage Informationen eines anderen Kunden erhält. 


###### Speicherbegrenzung

OpenAI gibt in seinen FAQ an, nicht in der Lage zu sein, bestimmte sog. Prompts (Texteingaben zum Abruf von Information) aus der Nutzung von ChatGPT zu löschen. Gerade wenn diese Prompts einen Personenbezug aufweisen, ist dieser Umstand nicht mit der DSGVO vereinbar. Die Löschung personenbezogener Daten ist nicht nur ein Recht der betroffenen Person, sondern auch Grundsatz der DSGVO personenbezogene Daten zu löschen, sobald der Zweck der Datenverarbeitung erreicht ist. Ist daher nicht gewährleistet, dass die von ChatGPT verarbeiteten Daten keinen Personenbezug mehr haben, ist die Nutzung mit Vorsicht zu genießen.

###### Datenschutzfolgenabschätzung

Da es sich bei KI-basierten Chatbots wie ChatGPT allgemein um eine neuartige Technologie handelt, wird deren Verwendung in der Regel die Durchführung einer Datenschutzfolgenabschätzung gem. Art. 35 DSGVO erforderlich machen.

Die Aufsichtsbehörden des Bundes und der Länder haben darüber hinaus bereits in einer sog. Positivliste bestimmte Anwendungsgebiete festgelegt, für die eine Datenschutzfolgenabschätzung zwingend notwendig ist. Dies betrifft beispielsweise die Nutzung von KI im Rahmen des Kundensupports. 

Wie eine Datenschutzfolgenabschätzung durchzuführen ist, ist nicht in der DSGVO nicht geregelt. Es gibt allerdings Leitlinien und Online-Tools deutscher sowie europäischer Datenschutzgremien, die der Verantwortliche zu Hilfe nehmen kann. 


###### Für Auftragsverarbeiter

Verwenden Unternehmen als Auftragsverarbeiter ChatGPT und verarbeiten damit personenbezogene Daten für ihre Kunden, sind die oben genannten Problemfelder gleichermaßen relevant. Der Auftragsverarbeiter ist gegenüber dem Verantwortlichen weisungsgebunden und letztlich als sein verlängerter Arm verpflichtet, ihn bei der Einhaltung der DSGVO zu unterstützen.

Datenschutzrechtliche Problemfelder bei der Nutzung von ChatGPT

Die geplante KI-Verordnung wird das Inverkehrbringen und den Einsatz künstlicher Intelligenz innerhalb Europas einheitlich regulieren. Neben den Chancen, die der Einsatz von künstlicher Intelligenz bietet, sollen in dem neuen EU-Gesetz die damit einhergehenden Risiken adressiert werden. Es ist daher zu erwarten, dass mit Inkrafttreten der KI-Verordnung Anbieter und Nutzer von KI-Systemen wie ChatGPT u.a. hinsichtlich der oben genannten Aspekte konkreter in die Pflicht genommen werden.

Wenn Sie Fragen rund um Datenschutz und der Einbindung von ChatGPT oder vergleichbare Anwendungen haben, dann kontaktieren Sie uns gerne.

(Dieser Beitrag wurde nicht mithilfe von ChatGPT geschrieben. 😉)


Auswirkungen der kommenden KI-Verordnung auf die Nutzung von ChatGPT

DSGVO und ChatGPT

GDPR and ChatGPT

Steven Bressner

Bei der Inanspruchnahme der meisten SaaS-Lösungen werden personenbezogene Daten von Mitarbeitern und/oder Endkunden („Daten“) verarbeitet. Diese dürfen in den meisten Fällen (die Ausnahmen werden in Teil 3 der Serie besprochen) nur nach Weisung des Verantwortlichen und im Rahmen eines Auftragsverarbeitungsvertrages („AV-Vertrag“) verarbeiten werden.

Vereinfacht dargestellt, wird es für Kunden von SaaS-Lösungen darum gehen sicherzustellen, dass ein AV-Vertrag vorliegt, der den gesetzlichen Anforderungen entspricht, und dass "angemessene" Sicherheitsmaßnahmen vorliegen, die sicherstellen, dass Daten ausreichend geschützt sind. Viele Unternehmen werden sich hier richtigerweise ein eigenes Bild machen wollen. Denn, die Pauschal-Aussage, dass die DSGVO eingehalten wird und wohlmöglich ein schickes Fantasieabzeichen auf der Landing Page, mögen für das Marketing ganz nett sein, aber im Grunde genommen bedeutet das für die meisten potenziellen Kunden absolut gar nichts. Es hat keinerlei Bedeutung. Das zeigt sich insbesondere, wenn an größere Organisationen verkauft wird. Es gibt Zertifizierungen, die mehr Gewicht haben (z.B. ISO 27001), weil dafür unabhängige Akkreditierungsstellen bürgen. Offizielle Zertifizierungen im Bereich Datenschutz sind aber derzeit noch meist in der Entwicklung. Unterm Strich wird deine Organisation sie wahrscheinlich (jetzt) nicht haben und eure Unterauftragsverarbeiter auch nicht. 

Je eher man begreift, dass Interessenten in vielen Fällen umfassendere Antworten erwarten und sich nicht auf pauschale Aussagen verlassen, und je eher aussagekräftige Unterlagen zur Verfügung gestellt werden können, desto schneller kann das Geschäft abgeschlossen werden.


Verstehen warum Interessenten Fragen stellen und „DSGVO-Konform“-Labels vergessen

AV-Verträge sind rein rechtlich gesehen recht „dumme“ Verträge (dies gilt nicht für die wichtige inhaltliche Beschreibung von durchgeführten Verarbeitungen), da der gesetzlich geforderte Inhalt bereits in Art. 28 DSGVO („Art. 28“) festgelegt ist. Daher ist jede Minute, die mit der Aushandlung von rechtlichen Regelungen in AV-Verträgen verbracht wird, unserer Meinung nach verschwendete Zeit. 

In der Praxis ist die Nutzung von EU-Standardvertragsklauseln („EU SCC“) eine sehr effektive Lösung. EU SCC sind eine Vertragsvorlage, die von der Europäischen Kommission genehmigt wurde. Es ist untersagt, den Kerntext zu ändern (bei den Anhängen gibt es etwas Spielraum). Aus diesem Grund sollte kein Interessent etwas an dem Vertrag auszusetzen haben.

Wichtig: EU-SCCs sind nicht zu verwechseln mit SCCs für Überweisungen in Drittländer. Es handelt sich um zwei verschiedene Dinge.

Eine Vorlage kann hier heruntergeladen werden:

[https://commission.europa.eu/publications/standard-contractual-clauses-controllers-and-processors-eueea_de](https://commission.europa.eu/publications/standard-contractual-clauses-controllers-and-processors-eueea_de)


AV-Vertrag vereinfachen 

Wer keine EU SCCs verwenden möchte oder wenn ein Interessent auf die Verwendung seines eigenen AV-Vertrags besteht, sollten dem Sales-Team nützliche Informationen an die Hand gegeben werden, um Unabhängigkeit und Geschwindigkeit zu fördern. 

Der Ausgangspunkt eines FAQ sollte eine Liste der gesetzlichen Anforderungen von Artikel 28 enthalten. Unserer Meinung nach sollte man der Einfachheit und Schnelligkeit halber alles aus einem AV-Vertrag streichen, was nicht gesetzlich vorgeschrieben ist. Dies gilt insbesondere für Bestimmungen über Haftung und Schadensersatz oder Gerichtsstand (beides sollte eher in den Leistungsverträgen geregelt werden).

Es sollte außerdem darauf Acht gegeben werden, Informationen dort bereitzustellen, wo sie wirklich wichtig sind. Nach unserer Erfahrung gibt es zwei Bereiche, die häufig (und am heftigsten) Gegenstand von Diskussionen und Verhandlungen sind.

###### Hinzuziehen oder Ersetzen von Unterauftragsverarbeitern

Art. 28 sieht zwei Möglichkeiten für die Hinzuziehung oder den Austausch von Unterauftragsverarbeitern vor: eine vorherige gesonderte oder allgemeine schriftliche Zustimmung. Für letztere ist eine vorherige Benachrichtigung und das Einräumen eines Rechts auf Widerspruch Bedingung. Es ist wichtig zu verstehen, dass beide Optionen spätere Kunden in die Lage versetzen, der Hinzuziehung oder dem Austausch von Unterauftragnehmern zu widersprechen, während die Option, eine vorherige Zustimmung zu verlangen, den Geschäftsbetrieb erheblich beeinträchtigen kann. Im Grunde müsste eure Gesellschaft von jedem Kunden eine vorherige Zustimmung einholen, bevor irgendwelche Infrastrukturänderungen vorgenommen werden könnten. Wenn nur ein Kunde sich nicht rührt, kann das den gesamten Prozess blockieren. Selbst wenn ein Interessent sagt, es sei sein Standardverfahren, eine vorherige Zustimmung zu verlangen, sollte hier hart verhandelt werden. Wenn die Problematik wie oben beschrieben verläuft, lenkt die Gegenseite zu einem sehr hohen Prozentsatz ein. 

###### Prüfungsrechte

Art. 28 verlangt vom Auftragsverarbeiter, dass er alle Informationen zur Verfügung stellt, die für den Nachweis der Einhaltung von [Art. 28] erforderlich sind und dass er Audits, einschließlich Inspektionen, zulässt und dazu beiträgt. Da dies Potential hat viel Zeit und Ressourcen in Anspruch zu nehmen, wird häufig versucht, diese Pflichten zu begrenzen oder auszuschließen. Klar, wenn eine beträchtliche Anzahl von Kunden anfängt, Inspektionen vor Ort durchführen zu wollen, kann das erhebliche Auswirkungen auf den Betrieb haben. Allerdings sind Auftragsverarbeiter gesetzlich verpflichtet, zu diesen Prüfungen beizutragen und sie zuzulassen und es ist sehr fragwürdig, ob Einschränkungen oder Ausschlüsse vor Gericht Bestand haben. Was allerdings unseren Erfahrungen nach so gut wie sicher ist: Solche Klauseln treffen auf Widerstand und erzeugen Verhandlungen. 

Im Ergebnis kann man entweder weitere Verhandlungen führen und damit den Verkaufszyklus in die Länge ziehen (was auch Ressourcen bindet) oder man kann in den sauren Apfel beißen und Fragebögen beantworten oder an Vor-Ort-Prüfungen teilnehmen. Ich würde ich mich immer für Letzteres entscheiden. Vor-Ort-Audits für Cloud-lastig arbeitende Unternehmen sind unserer Erfahrung nach recht selten (was gibt es da wirklich zu sehen?) und die Ressourcen für Fragebögen können durch eine bessere Dokumentation geschont werden.
Die nächsten Teile dieser Serie werden sich mit internationalen Datenübertragungen, der Unterscheidung zwischen einem Auftragsverarbeiter und einem für die Verarbeitung Verantwortlichen und der Sicherheitsdokumentation, den so genannten "technischen und organisatorischen Maßnahmen" oder "TOM", befassen. Diesbezüglich sollten relevante Informationen zu diesen Themen in das Sales-FAQ aufgenommen werden.

Teil 2 folgt.


Aussagekräftiges Sales-FAQ erstellen

Förderung der Selbstständigkeit des Sales-Teams bei DSGVO-Fragen

Empowering Sales to deal with GDPR Questions

Bevor wir in die Einzelheiten einsteigen müssen einige Grundbegriffe der DSGVO erklärt werden. Es muss nämlich zunächst festgestellt werden, wer im Rahmen der Nutzung der Plattform Verantwortlicher und wer Auftragsverarbeiter ist.

Verantwortlicher ist nach der DSGVO derjenige der über die Zwecke und Mittel der Verarbeitung entscheidet. Im Falle einer Plattform ist dies in der Regel der Nutzer/Kunde der Plattform. Dieser entscheidet welche Daten er auf der Plattform verarbeitet und (teilweise) wie er die Plattform nutzt.

Ihr Unternehmen als Anbieter der Plattform ist hingegen Auftragsverarbeiter. Sie verarbeiten die Daten ihrer Kunden nur auf deren Weisung hin (dies ist auch entsprechend im Auftragsverarbeitungsvertrag mit ihren Kunden geregelt). 

In der praktischen Anwendung dieser Kriterien ist die Bestimmung allerdings nicht immer ganz leicht. Denn wenn Ihre Plattform beispielsweise relativ wenig Gestaltungsmöglichkeiten für ihre Kunden bietet und nur vorgegebene „work flows“ bestehen, liegen sie faktisch wesentlich fest, wie die Daten verarbeitet werden. Daher wird es oftmals für die Rollenbestimmung weniger darauf ankommen wer das „wie“ der Datenverarbeitung regelt, sondern wer die Kontrolle über das "ob“ der Datenverarbeitung hat. 

Noch schwieriger wird es eine klare Einordnung vorzunehmen, wenn auf der Plattform verschiedene Verarbeitungstätigkeiten für verschiedene Zwecke durchgeführt werden. In vielen Fällen werden hier – je nach Verarbeitungstätigkeit – wechselnde Rollen eingenommen. Ein Plattformbetreiber kann dann bei einer Verarbeitungstätigkeit Verantwortlicher sein und bei einer anderen Auftragsverarbeiter. 

Um nicht den Überblick zu verlieren, hilft es sich die Konstellationen anhand der jeweiligen Geschäftsprozesse zu veranschaulichen. Wenn ein Kunde einen Geschäftsprozess auf Ihrer Plattform „outsourced“ also weiterhin die Steuerung über den Prozess behält, wird Ihr Unternehmen höchstwahrscheinlich als Auftragsverarbeiter einzuordnen sein. Diese Daten wiederum stehen in der Regel im Mittelpunkt, wenn es um Integrationen geht.

Verantwortlicher oder Auftragsverarbeiter?

In dem am häufigsten vorkommenden Szenario wird der Plattform Anbieter als Auftragsverarbeiter für seine Kunden agieren. In dieser Rolle werden Sie ihren Kunden dann auf der Plattform Drittanbieter Integrationen ermöglichen. Als Beispiel könnte hier eine Plattform genannt werden, die eine digitale Finanzbuchhaltung auf einer SaaS-Plattform ermöglicht und über eine API die Möglichkeit bietet, Bankumsätze direkt von Ihrer Hausbank abzurufen.

Letztendlich ist die datenschutzrechtliche Einordnung hier einfach – die verschiedenen Anbieter (nämlich Ihre Plattform und der Drittanbieter) sind jeweils zwei getrennte Auftragsverarbeiter für den gleichen Verantwortlichen (den Nutzer der Plattform). Demnach muss ihr Kunde mit Ihnen und mit seiner Bank jeweils Leistungsverträge und Auftragsverarbeitungsverträge abschließen.

Der Regelfall

Aus datenschutzrechtlicher Sicht bedarf es keiner zusätzlichen Verträge. Es kann allerdings Sinn ergeben, dass die jeweiligen Auftragsverarbeitungsverträge einen Passus enthalten, indem das Senden/Empfangen von (personenbezogenen) Daten über die technische Schnittstelle (API) beschrieben wird.

Dies kann übrigens auch in AGB geregelt werden, auf die dann die jeweiligen Auftragsverarbeitungsverträge verweisen können. 

Aus wirtschaftlichen und IT-Sicherheitsbedingten Gründen kann es jedoch sinnvoll sein, die Datenübermittlung zwischen den Beteiligten näher zu regeln. Wem gehört das geistige Eigentum an welchen Bestandteilen des technischen Verbundes und wer garantiert jeweils die IT-Sicherheit für welche Bestandteile?

![B2B SaaS Integrations & GDPR](https://a.storyblok.com/f/183108/2460x1686/a7263b7ea8/b2b-saas-integrations-de-simpliant-insights.jpg "Der integrierte Service ist lediglich ein anderer Auftragsverarbeiter für denselben Verantwortlichen mit unabhängigen Verträgen, die Anweisungen zur Weitergabe von Daten enthalten.")

Müssen weitere Verträge abgeschlossen werden?

Aus unserer Erfahrung gibt es vor allem einen Fall, bei dem es datenschutzrechtlich zu Abweichungen kommt, und zwar in denjenigen Fällen, in denen die technische Einbindung nicht durch direkt zwischen zwei, jeweils über einen AV-Vetrag mit einem Verantwortlichen, Dienstleistern erfolgt , sondern über einen weiteren Dienstleister, der den Datenaustausch ermöglicht (ein Beispiel hierfür ist z.B. Zapier, ein Programm, dass Integration ermöglicht "Integrationsdienst").

In diesem Fall hat der Plattform-Kunde als Verantwortlicher keine direkte vertragliche Beziehung zu dem Integrationsdienst. Insofern kann er auch keine direkten Weisungen im Sinne einer Auftragsverarbeitungsvertrages erteilen. Die einzig in Betracht kommende Lösung ist daher, dass der Integrationsdienst als Unterauftragsverarbeiter in einen AV-Vertrag des Auftragsverarbeiters aufgenommen wird, mit dem der Integrationsdienst einen Leistungs- und AV-Vertrag abgeschlossen hat und der den Datentransfer initiert. In der Praxis könnte dies jeweils für beide Auftragsverarbeiter gelten. 

Wenn Sie Fragen rund um Datenschutz und Drittanbieter/API-Integrationen haben, dann kontaktieren Sie uns gerne.