Datenschutzaspekte bei der Nutzung der ChatGPT-API

Im Zuge aktueller Entwicklungen im KI-Sektor rücken die Aktivitäten von OpenAI, dem Entwickler hinter der KI-Plattform ChatGPT, zunehmend in den Fokus der Datenschutzaufsichtsbehörden.

Maßnahmen der italienischen Datenschutzbehörde
Die italienische Datenschutzbehörde hat kürzlich korrigierende und sanktionierende Maßnahmen gegen OpenAI in Bezug auf die Verwaltung des ChatGPT-Dienstes ergriffen. Diese Maßnahme ist das Ergebnis einer im März 2023 eingeleiteten Untersuchung und folgt der Stellungnahme des EDPB.

Nach Angaben der italienischen Datenschutzbehörde hat OpenAI mehrere Verstöße begangen, darunter die fehlende Meldung einer Datenschutzverletzung, unzureichende Rechtsgrundlagen für die Datenverarbeitung, Verstöße gegen Transparenzpflichten und fehlende Altersüberprüfungsmechanismen.

Die Behörde ordnete eine sechsmonatige institutionelle Kommunikationskampagne an und verhängte eine Geldstrafe von 15 Millionen Euro. Die Kampagne soll das öffentliche Verständnis für ChatGPT und die Rechte der Betroffenen fördern.

Nach Einrichtung des europäischen Hauptsitzes in Irland wurden die Verfahrensunterlagen an die irische Datenschutzbehörde (DPC) weitergeleitet, die zur federführenden Aufsichtsbehörde wurde.

EDPB ChatGPT-Taskforce
Der Europäische Datenschutzausschuss hat eine spezielle Taskforce eingerichtet, die sich auf folgende Themenbereiche konzentriert:

• Technische Infrastruktur von ChatGPT
• Datenquellen und Verarbeitungsprozesse
• Rechtliche Grundlagen der Datenverarbeitung
• Technische und organisatorische Schutzmaßnahmen
• Internationale Datenübermittlungen

Ausblick und Bedeutung für Implementierung
In Anbetracht dieser Entwicklungen ist eine umfassende regulatorische und datenschutzrechtliche Planung bei der Integration der GPT-API erforderlich, besonders in geschäftskritischen Prozessen. Die verstärkte Aufmerksamkeit der Datenschutzbehörden unterstreicht die Notwendigkeit einer DSGVO-konformen Implementierung.

Die OpenAI API bietet Entwicklern programmatischen Zugriff zur Integration von KI-Funktionen direkt in ihre Anwendungen. Anders als die ChatGPT-Weboberfläche ermöglicht die API eine automatisierte und maßgeschneiderte Nutzung der KI-Funktionen, wodurch eine Integration in bestehende Systeme und Arbeitsabläufe ohne eigene KI-Entwicklung möglich wird.

Kernfunktionen und Datenschutz
Bei der API-Nutzung werden Unternehmensdaten an OpenAI übermittelt. Geschäftskunden unterliegen speziellen "Business Terms" mit Auftragsverarbeitungsvertrag, der sicherstellt, dass Daten aus Geschäftskonten nicht zum Modelltraining verwendet werden. Dies macht die API besonders geeignet für Unternehmensanwendungen mit Datenschutzanforderungen.

Verfügbare Modelle
GPT-4o (Omni) dient als OpenAIs Flaggschiff-Modell mit einem Kontextfenster von 128.000 Token und Fähigkeiten zur Text- und Bildverarbeitung. Seine effizientere Variante, GPT-4o mini, bietet schnellere Verarbeitung zu geringeren Kosten für fokussierte Anwendungen.

Die o-series Modelle (o1, o3-mini) sind speziell für wissenschaftliche Aufgaben optimiert, mit verbesserten Analysefähigkeiten und einem Kontextfenster von bis zu 200.000 Token. Sie überzeugen besonders bei mathematischen und Programmieraufgaben.

Zusätzliche Funktionen
Neben der Textverarbeitung bietet OpenAI multimodale APIs wie DALL·E 3 für Bildgenerierung, Whisper für Spracherkennung (auch als Open Source verfügbar) und TTS für Text-zu-Sprache-Umwandlung. Die Open-Source-Verfügbarkeit von Whisper ermöglicht dabei lokales Hosting und unabhängige Nutzung.

Detaillierte Informationen zu API-Spezifikationen und Preisen finden sich in der offiziellen OpenAI-Dokumentation: OpenAI API Docs

Die OpenAI-Lizenzierung unterscheidet grundsätzlich zwischen Einzelnutzern und Geschäftskunden. Während Einzelnutzer den allgemeinen Nutzungsbedingungen unterliegen, gelten für Unternehmen spezielle "Business Terms" mit Auftragsverarbeitungsvertrag (AVV). Die API-Nutzung fällt immer unter die Business Terms.

Optionen für Einzelnutzer:
Der kostenlose Plan bietet grundlegende Funktionalität mit GPT-4o mini. Der Plus-Plan (20 €/Monat) erweitert die Nutzungslimits und bietet Zugang zu zusätzlichen Features. Der Pro-Plan (200 €/Monat) ermöglicht umfassenden Zugriff auf fortgeschrittene Modelle und Funktionen.

Optionen für Geschäftskunden:
Der Team-Plan (ab 25 €/Nutzer/Monat) bietet erweiterte Funktionen und wichtige Datenschutzgarantien - Nutzerdaten werden nicht zum Modelltraining verwendet. Der Enterprise-Plan (individuell bepreist) bietet maximale Leistung, anpassbare Datenschutzoptionen und dedizierte Unterstützung.

Datennutzung für das Modelltraining:
Besonders relevant für Unternehmen ist die Unterscheidung in der Datenverarbeitung: Unternehmensdaten, die über die API und Geschäftskonten an OpenAI übermittelt werden, werden nicht für das Modelltraining verwendet.

Im Gegensatz dazu können Daten von Einzelnutzern von ChatGPT Free und ChatGPT Plus für das Training der Modelle verwendet werden, sofern Nutzer nicht ausdrücklich in ihren Einstellungen widersprechen. Dies unterstreicht die Bedeutung für Unternehmen, die passenden Kontotypen basierend auf ihren Datenschutzanforderungen zu wählen.

Sofern ein Unternehmen ChatGPT über die API in ihre Produkte und Dienstleistungen integriert, sind diese selbst Verantwortliche im Sinne des Datenschutzrechtes, da sie die „Zwecke und Mittel" der Datenverarbeitung festlegen (Art. 4 Nr. 7 DSGVO).

Bei der Integration der API wird OpenAI in der Regel als Dienstleister zum Auftragsverarbeiter (Art. 28 DSGVO), der auf Weisung des die API nutzenden Unternehmens handelt und in diesem Zusammenhang personenbezogene Daten verarbeitet.

Bei der Nutzung von OpenAI-Produkten gelten die Nutzungsbedingungen. Für Nutzer im Europäischen Wirtschaftsraum (EWR), in der Schweiz und in Großbritannien gilt eine speziell angepasste Version: https://openai.com/de/policies/eu-terms-of-use (Gültig ab: 14. Dezember 2024), die sich von denen für andere Nutzer unterscheidet.

Aus den Nutzungsbedingungen ergeben sich folgende Besonderheiten:

• Verantwortliche Gesellschaft: OpenAI Ireland Limited ist nun der festgelegte Diensteanbieter für Nutzer im EWR und in der Schweiz.

• Für in der EU ansässige Unternehmen, die die OpenAI APIs oder ChatGPT Business nutzen, wird der Vertrag also mit folgender Gesellschaft abgeschlossen: OpenAI Ireland Ltd., 1st Floor, The Liffey Trust Centre, 117-126 Sheriff Street Upper, Dublin 1, D01 YC43, Irland

Indem OpenAI regelmäßig zum Auftragsverarbeiter des Unternehmens wird, ist der Abschluss eines Auftragsverarbeitungsvertrags (Data Processing Addendum, DPA) erforderlich. Dieser muss den Anforderungen des Art. 28 DSGVO standhalten.

Der Prozess zum Abschluss eines DPA mit OpenAI beginnt mit der Registrierung für einen Unternehmensaccount, wie beispielsweise den „Team Business Account".

Das DPA von OpenAI ist unter folgendem Link verfügbar: https://openai.com/policies/data-processing-addendum

Für Verbraucherdienste wie ChatGPT oder DALL-E Labs steht kein DPA zur Verfügung, daher sollten Unternehmen Geschäftsaccounts anstelle persönlicher Accounts nutzen, da der Auftragsverarbeitungsvertrag für die Übermittlung von personenbezogenen Daten an OpenAI Ireland Ltd. erforderlich ist.

Unternehmen können das DPA durch Klicken auf den Button „Execute Data Processing Agreement" am Ende der Seite anfordern.

Der Prozess zum Abschluss des Datenverarbeitungszusatzes (DPA) umfasst folgende Schritte:

1. Online-Formular ausfüllen: Unternehmen füllen ein Online-Formular aus, in dem sie unter anderem ihren vollständigen rechtlichen Firmennamen und die Organisations-ID angeben müssen. Für Unternehmen im Europäischen Wirtschaftsraum (EWR) oder in der Schweiz ist zusätzlich die Angabe des Standorts erforderlich.

2. OpenAI-Entität auswählen: Unternehmen in der EU sollten OpenAI Ireland Ltd. als Vertragspartner auswählen.

3. Kontaktdaten für die Unterzeichnung angeben: Die E-Mail-Adresse und die Position der Person, die den DPA im Namen des Unternehmens unterzeichnet, müssen bereitgestellt werden.

4. DPA überprüfen und akzeptieren: Nach dem Einreichen des Formulars erhalten die beteiligten Parteien eine Aufforderung per E-Mail, den Vertrag zu überprüfen und elektronisch zu akzeptieren. Diese E-Mail enthält einen Link zur digitalen Plattform, auf der der Vertrag eingesehen und unterzeichnet werden kann. Nach der elektronischen Unterzeichnung erhalten beide Parteien eine Bestätigung und Zugriff auf eine gespeicherte, digital signierte PDF-Kopie des DPA. Das DPA wird rechtsverbindlich, sobald es von dem Unternehmen akzeptiert ist. Das per E-Mail erhaltene DPA sollte dann an geeigneter Stelle abgespeichert werden, um die Einhaltung der Datenschutzanforderungen nachweisen zu können (Art. 5, 28 DSGVO).

Auftraggeber haben nach Art. 28 DSGVO die Pflicht, ihre Dienstleister zu prüfen. Hierbei ist das Risiko der betreffenden Verarbeitungstätigkeit zu berücksichtigen. Faktoren wie die Art der verarbeiteten Kundendaten spielen eine Rolle bei der Risikobewertung. Je höher das Risiko für die Rechte und Freiheiten natürlicher Personen, desto strenger sollten die Anforderungen an die vertraglichen Regelungen im DPA ausfallen ("risikobasierter Prüfungsansatz").

Wir haben das DPA von OpenAI im Hinblick auf die Anforderungen von Art. 28 DSGVO exemplarisch geprüft. Diese Prüfung dient als Referenz für ähnliche Bewertungen und kann grundsätzlich als Mustervorlage für eigene Prüfungen im Rahmen von Art. 28 DSGVO genutzt werden. Dabei sollte die Prüfung unter Berücksichtigung der spezifischen Risiken des jeweiligen Vorhabens individuell angepasst werden. Das Template mit der Tabelle finden Sie als Download am Ende dieses Artikels.

Der Verantwortliche muss gegenüber seinen Nutzern die Datenverarbeitung unter Nutzung von OpenAI Diensten transparent machen (Informationspflichten). Dies erfolgt regelmäßig über Datenschutz-Erklärungen.

Hier reicht es für den Verantwortlichen allerdings nicht aus, nur auf die Datenschutzerklärung von OpenAI zu verweisen. Vielmehr muss er eigenständig darüber informieren, wie und zu welchen Zwecken die Daten der Nutzer vom Verantwortlichen und deren Auftragsverarbeiter verarbeitet werden, wie lange diese gespeichert bleiben und wann diese wieder gelöscht werden.

Erforderlich ist auch, dass den Nutzern transparent gemacht wird, wie sie ihre Betroffenenrechte ausüben können. Zudem muss zwischen Verantwortlichen und OpenAI festgelegt werden, wie die Einhaltung der Betroffenenrechte bei Dienstleistern wie OpenAI sichergestellt werden können. Eine Musterformulierung für die entsprechende Verarbeitungstätigkeit in der Datenschutzerklärung eines die GPT-API nutzenden Unternehmens finden Sie hier:

Muster Datenschutzhinweis zur Einbindung der GPT-API im Kundenchatbot

• Art und Zweck der Verarbeitung:

Unsere Webseite nutzt einen Kundenchatbot, der mit der GPT-API von OpenAI betrieben wird, um Ihre Anfragen effizient und interaktiv zu bearbeiten. Wenn Sie den Chatbot nutzen, können folgende Arten personenbezogener Daten verarbeitet werden: Texteingaben im Chat, die Informationen über Ihre Anfrage enthalten, und technische Daten wie IP-Adresse und Nutzungszeiten. Diese Daten werden benötigt, um Ihre Anfragen zu verstehen, entsprechend zu reagieren und unseren Service zu verbessern.

• Rechtsgrundlage:

Die Nutzung der GPT-API im Rahmen unseres Kundenchatbots und die damit verbundene Datenübermittlung an OpenAI stützen sich auf Art. 6 Abs. 1 lit. b DSGVO (Bearbeitung Ihrer Anfragen) und Art. 6 Abs. 1 lit. f DSGVO (unser berechtigtes Interesse an der Verbesserung unseres Kundenservices).

• Daten-Löschung:

Die im Zusammenhang mit der Nutzung unseres Kundenchatbots erfassten Daten verbleiben nur so lange in unserem Speicher, wie dies für die Bearbeitung Ihrer Anfragen und das Bestehen einer Kundenbeziehung erforderlich ist. Eine Löschung Ihrer Daten erfolgt automatisch spätestens drei Jahre nach ihrer Erhebung.

• Weitergabe an Dritte und Ort der Verarbeitung:

Die Beauftragung von OpenAI erfolgt gemäß Art. 28 DSGVO in Verbindung mit einem entsprechenden Auftragsverarbeitungsvertrag. OpenAI agiert dabei als weisungsgebundener Auftragsverarbeiter und nutzt die übermittelten Daten nicht für eigene Zwecke. Ihre personenbezogenen Daten werden an OpenAI Ireland Ltd., den Anbieter der GPT-API, und dessen verbundene Unternehmen weitergegeben. Es ist möglich, dass dies auch eine Datenübermittlung an verbundene Unternehmen von OpenAI Ireland Ltd. in den USA umfasst. Diesbezüglich verweisen wir auf das "Data processing addendum" von OpenAI https://openai.com/policies/data-processing-addendum/

Sofern die Datenverarbeitung bei der Nutzung der ChatGPT API mit hohen Risiken für die Betroffenen verbunden ist, ist zwingend eine Datenschutzfolgenabschätzung (DSFA) durchzuführen (Art. 35 DSGVO).

Das Gremium der deutschen Datenschutzaufsichtsbehörden (Datenschutzkonferenz - DSK) hat eine so genannte Positivliste veröffentlicht, in der Verarbeitungstätigkeiten genannt sind, für die eine DSFA zwingend durchzuführen ist. Einschlägig sind hier insbesondere Ziffer 11 der Liste (Kundensupport mittels künstlicher Intelligenz) oder auch Ziffer 13 (Telefongesprächsauswertung mittels Algorithmen).

Für die rechtliche Beurteilung ist entscheidend, für welche Zwecke der Dienst eingesetzt werden soll. Wenn der Chatbot zum Beispiel in den Kundensupport einer Krankenversicherung integriert wird und Gesundheitsdaten verarbeitet werden, wäre in jedem Fall eine DSFA durchzuführen. Doch auch bei weniger sensiblen Daten kann eine DSFA erforderlich sein, wenn das Verfahren insgesamt ein hohes Risiko mit sich bringt.

Die DSFA verfolgt das Ziel, strukturiert die Risiken für die Betroffenen zu identifizieren und zu bewerten sowie zu bestimmen, wie diese Risiken mit technischen und organisatorischen Maßnahmen behandelt und auf ein akzeptables Niveau reduziert werden können.

Für Unternehmen bietet die Integration von OpenAI-Modellen in die Azure Cloud-Infrastruktur durch Azure OpenAI von Microsoft interessante Möglichkeiten. Nutzer erhalten über REST-API-Zugriff auf umfangreiche KI-Modelle wie GPT-4 und DALL·E, wodurch die Funktionalitäten von OpenAI in die Azure Cloud-Plattform integriert werden.

Azure OpenAI bietet zwei Abrechnungsmodelle an: Zum einen die nutzungsbasierte Abrechnung („On-Demand“), bei der Kosten entsprechend der tatsächlichen Nutzung anfallen, und zum anderen die Abrechnung basierend auf vorab bereitgestellten Durchsatzkapazitäten (Provisioned Throughput Units, „PTUs“), welche eine feste Menge an Ressourcen reservieren.

Da die Einbindung von OpenAI Teil der Preview Funktionen von Microsoft ist, gelten für die Nutzung von Azure OpenAI die erweiterten Nutzungsbedingungen („Terms of Use“) für Preview Funktionen.

Microsoft bietet zudem einen Leitfaden zu Daten, Datenschutz und Sicherheit an. Laut diesen Dokumenten werden die Nutzungsmöglichkeiten der Daten restriktiv geregelt: Kundendaten sind weder für andere Kunden noch für OpenAI zugänglich und dürfen nicht zur Verbesserung von OpenAI-Modellen oder Microsoft-Produkten verwendet werden. Allerdings besteht die Option, eigene Daten für das Trainieren oder die individuelle Feinabstimmung eigener Modelle zu nutzen.

Daten, die während der Nutzung von Azure OpenAI an Microsoft übermittelt werden, werden für Content-Generierung, Erstellung individueller Modelle und Abuse Monitoring verarbeitet. Microsoft betont, dass Kundendaten und generierte Inhalte zur Überwachung und Verhinderung missbräuchlicher Nutzung gespeichert werden, wobei Content inklusive Prompts für 30 Tage auf speziellen Servern gehalten wird.

Bei festgestelltem Missbrauch durch das Monitoring-System werden Daten markiert und EU-Support-Mitarbeiter entscheiden über die weiteren Schritte. Kunden können der Datenspeicherung durch ein Microsoft Formular widersprechen, müssen jedoch einen Antrag stellen, der von Microsoft genehmigt werden muss.

Wichtig ist, dass Daten, die über Azure OpenAI eingebunden werden, nicht bei OpenAI, sondern auf Microsofts Azure-Cloud-Servern gespeichert werden. Für Nutzer in der EU bedeutet dies, dass ihre Daten auf EU-Servern verarbeitet werden, wobei das Data Residency-Prinzip sicherstellen soll, dass diese Daten nicht in Drittländer transferiert werden.

Trotz wachsender regulatorischer Aufmerksamkeit und anhaltender Diskussionen über Verbote und Risiken ist die Integration der OpenAI-API im Einklang mit den Vorgaben der DSGVO möglich. Die verstärkte Prüfung durch europäische Datenschutzbehörden betont jedoch die Notwendigkeit einer proaktiven Planung, um die Einhaltung der Datenschutzvorgaben bei der Implementierung in eigene Applikationen sicherzustellen.

Datenschutzmaßnahmen und Compliance

Das Data Processing Addendum (DPA) von OpenAI bildet dabei eine Grundlage, die die wesentlichen Anforderungen der DSGVO erfüllt. Es bleiben allerdings gewisse Unklarheiten bestehen (insbesondere bei der allgemein gehaltenen Nennung der Unterauftragnehmer und der Möglichkeit eines Datentransfers in die USA).

Die Maßnahmen der Datenschutzbehörden gegenüber sollten daher im Auge behalten werden. Für Unternehmen, die planen, OpenAI-Dienste einzusetzen, ist es ratsam, Datenschutzaspekte von Beginn an strategisch zu berücksichtigen (Privacy-by-Design). Die Implementierung grundlegender Datenschutzpraktiken ermöglicht die rechtskonforme Nutzung der OpenAI-Services gemäß Art. 28 DSGVO, insbesondere beim Einsatz der GPT-API in Produkten und Dienstleistungen.

Zu den datenschutzrechtlich erforderlichen Schritten zählen:

Die Überprüfung des Dienstleisters und der Abschluss eines Auftragsverarbeitungsvertrags.
Die Aktualisierung des Verfahrensverzeichnisses.
Die Anfertigung bzw. Überarbeitung der Datenschutzerklärung.
Die Durchführung einer Datenschutzfolgenabschätzung (falls erforderlich).

Integration in Azure Cloud und zukünftige Verfügbarkeit

Die Nutzung von OpenAI-Modellen über Azure OpenAI stellt eine weitere Möglichkeit für Unternehmen dar, die bereits Azure Cloud-Dienste von Microsoft nutzen. Diese Integration kann dazu beitragen, bestimmte Datenschutzrisiken, insbesondere im Zusammenhang mit der Übertragung von Daten in Drittländer, zu minimieren. Angesichts der momentan noch eingeschränkten Verfügbarkeit von Azure OpenAI ist allerdings unklar, wann diese Option einer breiteren Nutzerschaft offenstehen wird.

Empfehlungen

Angesichts der sorgfältigen Prüfungen durch Datenschutzaufsichtsbehörden ist es ratsam, Datenschutzbeauftragte bereits in einem frühen Stadium in die Nutzung von OpenAI-Diensten einzubinden. Zusätzlich kann es von Vorteil sein, für spezifische Fragestellungen das Fachwissen von auf Datenschutz spezialisierten Rechtsanwälten hinzuzuziehen.

Diese Strategie sichert nicht nur die Übereinstimmung mit geltenden Datenschutzvorschriften, sondern stärkt auch die Position des Unternehmens in Bezug auf zukünftige Änderungen im Bereich des Datenschutzrechts. Sie trägt ebenso dazu bei, das Unternehmen auf mögliche Überprüfungen durch Datenschutzbehörden vorzubereiten und potenzielle Risiken bei der Anwendung von KI-Technologien proaktiv zu managen.

Die Einbindung von KI-Technologien wie der OpenAI API birgt großes Potenzial, stellt Unternehmen aber auch vor bedeutende Datenschutzherausforderungen. Simpliant konzentriert sich darauf, Sie bei der datenschutzkonformen Integration von KI-Sprachmodellen wie GPT in Ihre Geschäftsabläufe zu unterstützen. Wenn Sie Unterstützung bei der Bewältigung der komplexen Datenschutzherausforderungen im KI-Bereich benötigen, kontaktieren Sie uns gerne über unser Kontaktformular.