Orientierungshilfe KI und Datenschutz

Durch die freie Verfügbarkeit verschiedener KI-Programme wie ChatGPT & Co. wird deren Einsatz sowohl der Privatwirtschaft als auch in öffentlichen Institutionen immer präsenter. Bisher verbieten viele Arbeitgeber ihren Beschäftigten die Verwendung von KI-Tools, um datenschutzrechtliche Probleme zu umgehen. Faktisch ist davon auszugehen, dass Beschäftigte dennoch häufig KI-Programme verwenden – auch entgegen der Anweisung ihrer Vorgesetzten. Der Einsatz von KI-basierten Hilfsmitteln kann allerdings erhebliche Vorteile mit sich bringen. Der Einsatz sollte daher nicht verboten werden. Vielmehr empfiehlt es sich, klare Richtlinien zu erstellen mit denen den Beschäftigten die Möglichkeiten sowie rechtlichen Grenzen des KI-Einsatzes aufgezeigt werden, um eine rechtskonforme und sinnvolle Benutzung entsprechender Tools zu ermöglichen. Dieser Blog soll den Unternehmen bei der Wahl und Einführung von KI-basierten Programmen als Leitfaden dienen.

Anwendbarkeit des DSG

Der eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) hat am 9. November 2023 in einer Medienmitteilung bekannt gegeben, dass das Datenschutzgesetz (DSG) direkt anwendbar ist. Damit hat der EDÖB klargestellt, dass sämtliche Regulierungen und Vorschriften des DSG bei der Entwicklung und Verwendung künstlicher Intelligenz zu beachten sind.

Wahl eines KI-Systems

Anwendungsfeld

Zunächst sollten die Verantwortlichen eines Unternehmens oder einer Behörde festlegen, welche KI-Systeme für die zu tätigende Arbeit sinnvoll sind. Dazu sollte eine Strategie entwickelt und die Anwendungsfelder für den Einsatz von KI definiert werden. Sind Strategie und Einsatzfelder bekannt, kann eruiert werden, welche Daten und welche Datenbearbeitungen dafür erforderlich sind. Dies ist unerlässlich, da Personendaten nur bearbeitet werden dürfen, wenn dies für den vorgesehenen Zweck notwendig ist.

Wird hingegen festgestellt, dass durch die vorgesehenen Bearbeitungsprozesse keine Personendaten eingesetzt werden, so sind die Bestimmungen des DSG nicht anwendbar.

Besonders sollte darauf geachtet werden, dass Datenbearbeitungen durch KI möglich sind, die von vornherein nicht mit den Bestimmungen des DSG vereinbar sind. Dazu gehören beispielsweise das Social Scoring, also das Erstellen eines Verhaltenswertes zum Zweck der Verhaltensprognose, oder die Echtzeitüberwachung im öffentlichen Raum mittels biometrischer Daten.

Offenes oder geschlossenes System

KI-Systeme können unter anderem in offene und geschlossene Systeme unterteilt werden. Bei geschlossenen Systemen hat lediglich eine bestimmte Gruppe von Nutzern, beispielsweise Beschäftigte einer Firma oder einer Behörde, Zugriff auf das jeweilige System. Die KI bedient sich nicht an Informationen von ausserhalb des Systems. Es werden bei dieser Variante keine Daten nach aussen an andere weitergegeben.

Ein offenes KI-System verwendet Daten von einem unbestimmten Benutzerkreis, um seine Ergebnisse zu erzielen. Dabei werden Eingabedaten verwendet, um Ergebnisse für andere Nutzer zu erzeugen. Die Eingabedaten können hierdurch Dritten zugänglich gemacht werden. Zudem muss bei offenen KI-Systemen geklärt werden, an welchem Ort sich die Datenzentren befinden auf denen die Personendaten gespeichert werden. Oftmals wird dies im Ausland erfolgen, was die entsprechenden Konsequenzen der Bekanntgabe von Personendaten ins Ausland nach sich zieht.

Daher sind geschlossene KI-Systeme, unter dem Blinkwinkel des Datenschutzes betrachtet, geeigneter.

Einhaltung der Betroffenenrechte

Bei der Wahl von KI-Systemen ist darauf zu achten, dass mit dem ausgewählten System die Wahrung der Betroffenenrechte gewährleistet werden kann. So muss im Vorfeld vor der Auswahl eines KI-Systems geklärt werden, ob ein bestimmter Anbieter alle notwendigen Informationen und technischen Voraussetzungen zur Verfügung stellen kann.

Beispielsweise muss die Sicherstellung des Rechts auf Auskunftserteilung sichergestellt werden. Es sollte insbesondere gewährleistet werden, dass Auskunft über die bearbeiteten Personendaten, die Aufbewahrungsdauer oder Herkunft von Personendaten erteilt werden kann.

Bei automatisierten Einzelentscheidungen, sprich Entscheidungen ohne menschliches Eingreifen, die eine Rechtswirkung entfalten oder die Betroffenen stark beeinträchtigen, muss dies gekennzeichnet werden und zudem über die Logik des Entscheidungsmechanismus aufgeklärt werden.

Weitere zentrale Betroffenenrechte sind das Recht auf Löschung und das Recht auf Berichtigung. Im Hinblick auf Löschungen muss insbesondere beachtet werden, dass die zu löschenden Personendaten unwiderruflich gelöscht werden müssen, so dass der Personenbezug nicht wiederhergestellt werden kann. Dies kann regelmässig eine besondere Herausforderung darstellen. Bei KI-Systemen besteht ausserdem die Gefahr, dass unrichtige Personendaten verwendet oder fehlerhaft bearbeitet und weitergegeben werden. Viele Anbieter offener KI-Anwendungen weisen daher darauf hin, dass die Richtigkeit des Outputs nicht gewährleistet ist. Daher müssen insbesondere die Voraussetzungen für eine mögliche Berichtigung gegeben sein, was z. B. durch die Berichtigung der Daten selbst oder durch das Training des Algorithmus erreicht werden kann.

Die Einführung von KI-Systemen

Wurde die Wahl für ein konkretes KI-System getroffen, so müssen die Verantwortlichen eines Unternehmens oder einer Behörde die Implementierung des KI-Systems vorbereiten und durchführen.

Festlegen der Verantwortlichkeiten

Dafür ist zunächst zu bestimmen, wer Verantwortlicher ist. Ein Verantwortlicher gemäss DSG ist eine private Person (Unternehmen) oder ein Bundesorgan, die oder das allein oder zusammen mit anderen über den Zweck und die Mittel der Bearbeitung entscheidet. Wenn ein Unternehmen oder eine Bundesbehörde nicht selbst über die Bearbeitung von Personendaten entscheidet, sondern diese nur im Auftrag einer anderen verantwortlichen Stelle bearbeitet, wird es als Auftragsbearbeiter eingestuft. Entscheidend ist somit, ob man als Unternehmen oder Behörde lediglich Weisungen befolgt oder selbst über die Bearbeitung entscheidet.

Dies ist beispielsweise davon abhängig, ob das ausgewählte System ausschliesslich zu eigenen Zwecken und auf eigenen Servern verwendet und betrieben wird oder ob das KI-System von einem Dritten auf dessen Servern, beispielsweise über eine Cloud genutzt wird. Im ersteren Fall agiert der Verwender üblicherweise als einziger Verantwortlicher. Im letzteren Fall wird eher eine gemeinsame Verantwortlichkeit vorliegen.

Innerhalb eines Unternehmens sollten sodann die Verantwortlichkeiten bestimmten Organen oder natürlichen Personen zugewiesen werden.

Datenschutz-Folgenabschätzung

Gemäss DSG muss eine Datenschutz-Folgenabschätzung erstellt werden, wenn die Bearbeitung ein hohes Risiko für die Persönlichkeit oder die Grundrechte der betroffenen Person mit sich bringen kann. Dies kann laut Gesetz beispielsweise bei umfangreichen Bearbeitungen besonders schützenswerter Personendaten durch neue Technologien der Fall sein. Dies wird bei KI-Systemen regelmässig der Fall sein. Vereinfacht gesagt ist eine Datenschutz-Folgenabschätzung erforderlich, wenn eine sensible Datenbearbeitung geplant ist. Mit der Datenschutz-Folgenabschätzung wird letztlich ermittelt, wie hoch das Risiko ist, wenn Massnahmen und Vorkehrungen getroffen werden, die dem Schutz der Personendaten dienen.

Entsprechend muss in jedem Fall vor Einführung einer KI-Technologie eine grobe Risikoanalyse vorgenommen werden, um zu entscheiden, ob eine Datenschutz-Folgenabschätzung erstellt werden muss oder nicht.

Erlassen interner Weisungen und Schulungen

Es sollten interne Richtlinien für den Umgang mit KI-Tools für die Beschäftigten vorhanden sein. Es ist davon auszugehen, dass Beschäftigte KI-Anwendungen nutzen, unabhängig davon, ob Regelungen getroffen wurden oder nicht. Klare Regelungen können potenziellen Datenschutzverletzungen vorbeugen. Die internen Regelungen sollten insbesondere Vorgaben enthalten, welche KI-Systeme zu welchen Zwecken eingesetzt und welche Personendaten in diese Systeme eingegeben werden dürfen.

Gleichzeitig sollten die Beschäftigten im Umgang mit KI-Anwendungen und in der Umsetzung der internen Vorgaben geschult werden, z.B. durch Schulungen und Leitfäden zur Sicherstellung des Datenschutzes.

Betriebliche Accounts

Zu ihrem eigenen Schutz sollten den Beschäftigten für die Nutzung externer KI-Systeme unternehmenseigene Benutzerkonten zur Verfügung gestellt werden, damit sie keine privaten E-Mail-Adressen und Telefonnummern oder andere Personendaten preisgeben müssen.

Voreinstellungen

Im Zusammenhang mit den datenschutzrechtlichen Grundsätzen «data protection by design» und «data protection by default» kann und sollte bereits durch die richtigen Voreinstellungen eine möglichst datenschutzfreundliche Anwendung geschaffen werden. So kann je nach KI-System durch den Verantwortlichen über die Softwareeinstellungen vorgegeben werden, dass keine Daten zu Trainingszwecken des Algorithmus bearbeitet oder keine Eingabedaten über die Sitzung hinaus gespeichert werden. Je nach KI-Anbieter werden unterschiedliche Nutzungsmodelle zu differenzierten Preisen angeboten, bei denen in unterschiedlichem Mass über die Verwendung der Eingangs- und Ausgangsdaten entschieden werden kann.

IT-Infrastruktur

Das DSG verpflichtet die Verantwortlichen für eine angemessen sichere IT-Infrastruktur zu sorgen. Dies gilt folglich auch bei der Verwendung von KI-Systemen. Die Verantwortlichen haben somit die technischen und organisatorischen Massnahmen zu treffen, die dem Stand der Technik, dem Umfang und der Art der Datenbearbeitung entsprechen.

Weitere Entwicklungen verfolgen

Die Verantwortlichen müssen die aktuellen technischen und rechtlichen Entwicklungen beobachten, um deren Auswirkungen auf die Bearbeitung von Personendaten abschätzen und nötigenfalls die geeigneten Massnahmen treffen zu können. Aus diesem Grund muss diese Aufgabe  intern klar einem Beschäftigten oder einer Abteilung zugeordnet werden. In nächster Zeit gilt es vor allem die KI-Verordnung der EU - den sogenannten AI Act - sowie die Bestrebungen in der Schweiz zur separaten Regelung von KI-Systemen zu verfolgen.

Die Nutzung von KI-Systemen

Eingabedaten

Anders als in der EU geht man in der Schweiz davon aus, dass Datenbearbeitungen durch Private grundsätzlich zulässig sind. Erst wenn eine Verletzung des Persönlichkeitsrechts vorliegt, muss ein Rechtfertigungsgrund - zum Beispiel eine Einwilligung - vorliegen.

Die Eingabe von Personendaten in eine KI-Anwendung kann leicht zu einer persönlichkeitsverletzenden Bearbeitung führen, weshalb diese in der Folge gerechtfertigt werden muss.

Besondere Vorsicht ist bei besonders schützenswerten Personendaten geboten. Ihre Bearbeitung erfordert die ausdrückliche Einwilligung der Betroffenen, wenn die Bearbeitungsgrundsätze der Transparenz, der Zweckbindung und der Verhältnismässigkeit nicht eingehalten werden können.

Werden Personendaten anonymisiert, so ist darauf zu achten, dass der Personenbezug nicht aus dem Kontext wieder hergestellt werden kann.

Ergebnisse prüfen

Die von KI generierten Ergebnisse müssen kritisch hinterfragt werden. KI-Systeme liefern Antworten auf Fragen, ohne die Antwort selbst zu verstehen, was diese fehleranfällig macht. Falsche Ergebnisse können in der Folge zu Datenschutzverletzungen führen. Somit muss vor der Weiterbearbeitung eine Prüfung des Outputs vorgenommen werden.

Darüber hinaus können die Ergebnisse einer KI-Anwendung gegen weitere Vorschriften verstossen. Lautet das Ergebnis beispielsweise, dass für eine ausgeschriebene Stelle ausschliesslich weibliche Bewerberinnen in Betracht gezogen werden sollen, kann dies eine Verletzung des Gleichstellungsgesetzes bedeuten, wenn nicht eine sachlicher Grund dafür vorliegt.

Bei weiteren datenschutzrechtlichen Fragen im Zusammenhang mit der Einführung von KI-Systemen, einer Risikoanalyse, der Einführung von Richtlinien oder Prozessen steht unser Team gerne beratend zur Seite.