Genial oder gefährlich?

Foto: 123RF.com

Italien hat ChatGPT aus Datenschutzgründen gesperrt. Der auf Internetrecht spezialisierte Jurist Thomas Schnitzer klärt auf, welche künftigen Gefahren von künstlichen Intelligenzen ausgehen.

Tageszeitung: Herr Schnitzer, aus Datenschutzgründen wurde ChatGPT in Italien vorübergehend gesperrt. Eine richtige Entscheidung?

Thomas Schnitzer: Das ist schwer zu sagen. Wenn diese neue digitale Technologie-Entwicklung in Italien gesperrt wird, findet die technische Entwicklung in Deutschland, Japan, Amerika, China oder sonst einem Ort statt. Wenn Italien an dem Verbot festhält, verbietet sich Italien die eigenen Chancen, um an diese Entwicklung teilzunehmen. Natürlich muss man aber auch darauf achten was genau verletzt wurde. ChatGPT sagt, sie befinden sich im Probelauf, haben Informationen aus dem Internet geholt und personenbezogene Daten gespeichert. Laut der Gesellschaft OpenAI geht es nur um Trainingsdaten. Der italienische Staat schreibt hingegen vor, dass die Daten ohne Einwilligung der Betroffenen nicht verwendet werden dürfen. Das gilt ganz speziell in Bezug auf die effektive Alterskontrolle der Minderjährigen.

Was wird nun geschehen?

Der Entwickler hat jetzt 20 Tage Zeit, um Gegenmaßnahmen zu präsentieren, ansonsten wird er gestraft. Es ist aber eine schwierige Sache, weil man zwischen Datenschutz und technische Entwicklung abwiegen muss. Tolerante Vorreiter sagen, dass es kein Verbot braucht, sondern darauf achten muss, dass künstliche Intelligenzanwendungen soziale Werte wie Transparenz und Demokratie gewährleisten. Das ist auch meiner Ansicht nach der richtige Weg. Wir sind vorne dran an einer neuen Technik. Ich habe Anfang der 2000er-Jahre ein Buch über Internet-recht geschrieben. Damals wollte man das Verlinken verbieten, weil es ein e Verletzung des Urheberrechts darstellt. Ich fühle mich daran erinnert. Damals musste man feststellen, dass das rechtlich nicht möglich ist. Man kann eine solche Technik, die weltweit um sich greift, nicht verbieten. Wir sind nun in einer ähnlichen Situation. Man muss der Technik die Möglichkeit geben, sich zu entwickeln und trotzdem den Schutz der personenbezogenen Daten gewährleisten – das gilt insbesondere für Minderjährige. Insbesondere die Reaktion von OpenAI wird nun besonders interessant.

International hat die Entscheidung für viel Aufsehen gesorgt. Werden andere Staaten nun Italiens Beispiel folgen?

Vielleicht nützt es etwas, dass die Technik adaptiert wird und versucht wird, transparenter zu arbeiten. Es gab sicherlich einen Aufschrei in der Welt der Technik und in der Welt der Juristen, ich hoffe aber, dass es zum Anlass genommen wird, die Technik zu regeln, aber auch nicht zu blockieren. Die totale Blockade ist rechtlich auch schwer möglich. Andere nationale Behörden könnten nun auch Prüfungen vornehmen, ob der italienische Weg verfolgt wird, steht aber noch nicht fest. Die Italiener sind damit sicher vorgeprescht.

Man könnte damit also ein Zeichen dafür setzen, dass im Zuge des technischen Fortschrittes nicht alles in Kauf genommen werden darf?

Ja, genau. Die italienische Datenschutzbehörde wirft dem Hersteller der künstlichen Intelligenz vor, dass sie sich nicht an die europäischen Datenschutz- und Jugendschutzrichtlinien halten. Es ist nun Aufgabe der Gerichte, das zu prüfen. Es ist evident, dass OpenAI die Alterskontrolle für Minderjährige nicht berücksichtigt. Dadurch gibt es keine Rechtsgrundlage für das massenhafte Sammeln und Speichern von personenbezogenen Daten. Das ist eine Verletzung der europäischen Datenschutzgrundverordnung Nr. 679/19. ChatGPT erstellt mithilfe der Auswertung von großen Datenmengen eigene Texte. Die Frage ist, ob es dafür auch eine Einwilligung des Betroffenen gegeben hat oder ob eine Alterskontrolle von Minderjährigen gemacht wurde. Genau das wird jetzt geprüft. Die Technik wird aber sicher nicht am Brenner aufgehalten werden.

Könnte das Problem nicht aus der Welt geschafft werden, indem ChatGPT eine Funktion einbaut, dass die Nutzer volljährig sein müssen, um sich anzumelden?

Ich selbst glaube, dass ein technischer Weg gefunden wird, um eine technische Entwicklung gewährleisten zu können und um im Rahmen von gesellschaftlichen Werten, einen Weg für diese technische Entwicklung zu finden. Selbst wenn das nicht ausreicht, bin ich mir relativ sicher, dass es Italien nicht gelingen wird, diese Technik zu verbieten. Der erste Staat, der das aufhalten will, wird sehen, dass das Internet vor Grenzen nicht Halt macht. China hat schließlich auch Google verboten, mit einem einfachen VPN kann man das aber umgehen. Ähnliches wird wohl auch in Italien passieren, wenn man am Verbot festhält.

Es gibt nicht nur Bedenken bezüglich des Datenschutzes im Zusammenhang mit ChatGPT und anderen künstlichen Intelligenzen. Glauben Sie, dass Sie als Anwalt, der spezialisiert auf Internetrecht, künftig häufiger mit künstlichen Intelligenzen zu tun haben werden?

Ja, es gibt viele Problematiken. Auch geistiges Eigentum wird ein Thema werden. ChatGPT kann Ideen klauen und stehlen. Es könnte außerdem so programmiert werden, dass es gewisse Personen diskriminiert. Wenn dies der Fall ist, wird es weitere rechtliche Probleme geben. Auch künstliche Systeme werden sich an Regeln halten müssen und dementsprechend programmiert werden. Wenn ich das nicht verhindern kann, werden wir viele rechtliche Probleme haben.

Interview: Markus Rufin