Neues zum Datenschutzrecht

9.6.2023

KI und Rechtsanwälte

Künstliche Intelligenz (KI) ist in aller Munde und natürlich auch ein Datenschutzthema. Dass es aber nicht immer hochkomplex und rechtlich kompliziert sein muss, zeigt der Fall eines Rechtsanwalts, über den auf tagesschau.de berichtet wurde. Der Anwalt nutzte zur Vorbereitung einer Schadensersatzklage den Chatbot ChatGPT um vergleichbare Fälle und Gerichtsurteile zu finden. Solche Entscheidungen der Gerichte sind im US-amerikanische Rechtssystem von wesentlicher Bedeutung (Stichwort „Case-Law“). Der Anwalt verwendete die Ergebnisse seiner Recherche in der Klageschrift, die er bei Gericht einreichte.

Im Laufe des Verfahrens zeigte sich jedoch, dass es die vom Anwalt herangezogenen Fälle gar nicht gibt. Daran konnten auch die von ChatGPT zur Verfügung gestellten konkreten Bezeichnungen ("Petersen gegen Iran Air" und "Martinez gegen Delta Airlines") und Aktenzeichen nichts ändern.

Wie konnte das passieren? Der Klägeranwalt versicherte unter Eid, er habe das Gericht nicht täuschen wollen. Er habe sich schlicht auf die Künstliche Intelligenz verlassen. „Schlicht“ ist hier wohl das richtige Wort. Denn der Einsatz eines Werkzeugs allein – sei es ein Hammer oder ein Softwareprogramm oder eben ein ChatBot – führt nicht unbedingt zum Erfolg oder gewünschten Ergebnis. Es kommt immer darauf an, wie man das Werkzeug einsetzt. Dabei sollte man sich nicht von der Bezeichnung eines (technischen) Werkzeugs täuschen lassen. Davon abgesehen gibt es Intelligenz in unterschiedlich starken Ausprägungen. 😉

Der Fall offenbart aber auch eine datenschutzrechtliche Komponente. Der Leiter des Instituts für Recht und Ethik an der Fordham-Universität in New York, Bruce Green, warnt laut tagesschau.de, dass eine Beweisführung mithilfe eines Chatbots die Vertraulichkeit verletzen können, zu der Anwälte ihren Mandanten gegenüber verpflichtet sind. Das ist beispielsweise möglich, wenn bestimmte Angaben zu einem Fall durch die Nutzung von Chatbots offengelegt werden. Das geschieht nicht nur durch die Eingabe der Informationen selbst, sondern insbesondere im Wege der weiteren Verwendung durch die KI-Anwendung. Hier stellen sich viele weitere spannende Fragen: In welchen Konstellationen handelt es sich tatsächlich um personenbezogene Daten, so dass das Datenschutzrecht und der Vertraulichkeitsschutz relevant werden? Bedarf es einer berufsrechtlichen Regulierung?

Bevor man hier in die Diskussion einsteigen kann, bedarf es zumindest einer gewissen Orientierung, wie KI datenschutzrechtlich einzuordnen ist. Hierbei kann das „Positionspapier der DSK zu empfohlenen technischen und organisatorischen Maßnahmen bei der Entwicklung und dem Betrieb von KI-Systemen“ helfen. Dieses Dokument der Datenschutzkonferenz (DSK), dem Gremium der unabhängigen deutschen Datenschutzaufsichtsbehörden des Bundes und der Länder, stammt zwar aus November 2019, ist für den Einstieg aber dennoch gut geeignet. Allerdings ist hinsichtlich der datenschutzrechtlichen Bewertung wie bei allen Beschlüssen, Hinweisen und Orientierungshilfen der DSK zu beachten, dass es sich um die Auffassung und Empfehlung der deutschen Datenschutzaufsichtsbehörden handelt. In diesem Sinne sollte den Verlautbarungen der Aufsicht gebührend Beachtung geschenkt werden.

Fazit: KI bleibt spannend und ersetzt nicht das eigene Denken – zumindest bis auf Weiteres.

Sollten Sie Fragen zum datenschutzrechtskonformen Einsatz von KI oder zu sonstigen datenschutzrechtlichen Themen haben oder insoweit Unterstützung benötigen, können Sie mich gerne kontaktieren.

Zurück zur Übersicht