Was kann der ChatBot?

Foto: 123RF.com

Die Chat GPT-Software ist derzeit in aller Munde. Marco Montali, Professor an der Fakultät für Informatik an der Uni Bozen erklärt, wie wir damit umgehen sollten und ob das System künftig auch Arbeitskräfte ersetzen kann.

Tageszeitung: Herr Montali, künstliche Intelligenzen und Chatbots sind grundsätzlich nichts Neues. Trotzdem spricht aktuell die ganze Welt über Chat GPT. Was ist so besonders an dieser Software?

Marco Montali: Chat GPT ist eine Software, die von Open AI geschaffen wurde. Es handelt sich um ein Unternehmen, das als eines der modernsten in Sachen künstliche Intelligenz und Computerlinguistik gilt. Eigentlich ist Chat GPT nichts anderes als ein Nachfolger von anderen Softwares, die das Ziel haben, natürliche Sprachen zu analysieren und zu produzieren. Es ist ein interaktives System. Das heißt, man kann Fragen stellen und man bekommt eine Antwort. Der Grund, weshalb es nun in aller Munde ist, ist dass Chat GPT deutlich besser als vorhergehende Versionen ist. Wenn es jemand ausprobiert, beeindruckt es viele. Außerdem handelt es sich um einen Chatbot, der für alle zugänglich ist. Für andere Software musste man bezahlen oder es war schwieriger das System zu benutzen. Alle können es ausprobieren. Das Unternehmen profitiert dadurch ebenso, da sie das System mit den Daten verbessern können. Unklar ist, wie lange es noch verfügbar sein wird, da es sich um eine Testversion handelt.

Chat GPT ist dazu fähig, Gedichte, Liebesbriefe, E-Mails oder Referate zu schreiben. Doch wie funktioniert dieses System genau?

Computerlinguistik oder Natural Language Processing ist ein Forschungsthema, das uns seit Jahrzehnten beschäftigt. Die Fähigkeit Sprachen zu verstehen und selbst zu sprechen, gilt als eine der wichtigsten Charakteristiken der menschlichen Intelligenz. In den letzten Jahren hat sich in der Forschung viel getan. Durch das maschinelle Lernen sind Softwares ohne vorherige Programmierung dazu in der Lage, eine große Menge an bereitgestellten Daten zu verarbeiten. Durch das maschinelle Lernen schaut das System nicht auf die Satzstruktur oder auf die Grammatik, sondern auf ein riesiges Netzwerk, in dem ihm unzählige Texte zur Verfügung stehen. Das Netzwerk lernt dabei beispielsweise, wie man einen unvollendeten Satz vervollständigen könnte. Im Gegensatz zu Alexa oder Siri bezieht Chat GPT die Informationen nicht direkt aus dem Internet, sondern aus seinem eigenen Netzwerk, das zuvor bereitgestellt wurde. Außerdem hat Chat GPT einen Filter, der ähnlich funktioniert wie ein Bewertungssystem. Das System lernt, Texte mit positiven Bewertungen eher zu nutzen.

Das System wird angeblich auch von Schülern benutzt, um Hausaufgaben oder Referate zu erledigen. Glauben Sie, dass sich Chat GPT auch in Südtirols Schulen bereits durchgesetzt hat?

Ich glaube schon, weil es einfach zur Mode geworden ist. Außerdem ist das System dazu in der Lage, Texte zu formulieren, die sehr leicht verständlich sind, wenn ich beispielsweise nach historischen Ereignissen frage. Wenn ich eine kleine Zusammenfassung zu Napoleon will, kann mir das System einen sehr realistischen Text liefern. Dabei gibt es aber zwei Probleme: Zum einen ist es nicht garantiert, dass die Texte, die produziert werden, auch das widerspiegeln, was in einem Buch steht. Es kann sein, dass bei derselben Frage andere Antworten rauskommen, weil das System verschiedene Antworten ausprobiert. Zum anderen können diese Systeme keine logische Argumentation ausführen. Bei einfachen Aufgaben, die etwas Logik erfordern, kann eine falsche Antwort erfolgen.

Worauf gilt es bei der Nutzung von Chat GPT oder anderen künstlichen Intelligenzen zu achten?

Ich sehe vor allem die zwei bereits genannten Probleme, sprich, dass das System nicht logisch denken kann und Informationen ausgibt, die nicht stimmen. Ein weiteres großes Problem ist die menschliche Verzerrung. Das System verlässt sich auf Texte, die von Menschen geschaffen wurden. Wenn also viele Texte diskriminierende Begriffe oder Ähnliches beinhalten, dann tendiert auch das System dazu, diese Begriffe zu verwenden. Bei einem Vorgängerprogramm wurde das Wort Moslem häufig durch Terrorist ersetzt. Nicht etwa, weil das Programm Probleme mit Moslems hat, sondern weil viele Texte darüber leider mit dem Wort Terrorist in Verbindung standen. Dieses Problem wurde damit behoben, dass das System auf Fragen des Nutzers, die körperliche Details oder die ethnische Herkunft betreffen, nicht antwortet, beziehungsweise nur eine Standardantwort liefert. Ein weiteres Problem ist, dass es Menschen braucht, die die Texte, auf die das System zugreift, auf ihre Korrektheit überprüfen und die Antworten bewerten. Diese Personen sitzen stundenlang vor dem Computer, sind aber angeblich unterbezahlt.

Trotzdem setzen viele Unternehmen große Hoffnungen in künstliche Intelligenzen. Könnten solche Programme künftig Berufe wie jene des Journalisten oder des Lehrers ersetzen?

Hier gilt es meiner Meinung nach sehr vorsichtig zu sein. Natürlich können die Programme anspruchsvolle Texte produzieren und sie können auch bei der Arbeit helfen. Eine ausgebildete menschliche Fachkraft können sie aber nicht ersetzen. Sie machen Fehler, können keine Logik benutzen, können nicht überprüfen, ob die Informationen korrekt sind und können vor allem keine aktuellen Antworten geben. Dass die Systeme also Arbeitskräfte ersetzen, ist nicht realistisch, allerdings können sie die Arbeitskräfte unterstützen. Wenn Sie mich vor zehn Jahren gefragt hätten, kurz zu erklären, was ein Informatiker macht, hätte ich mich hinsetzen und den Text von null auf schreiben müssen. Nun kann ich aber in wenigen Sekunden eine Vorlage erstellen, die ich dann aber natürlich anpassen muss.

Welche Rolle werden diese Systeme und die künstlichen Intelligenzen also künftig haben?

In erster Linie denke ich, dass sie in der Interaktion zwischen Menschen und Maschine zum Einsatz kommen werden. Sie könnten die Interaktion viel flexibler machen. Wenn ich jetzt an Alexa oder Siri denke, dann verstehen diese Systeme häufig nicht, was der Nutzer möchte. Chat GPT kann das deutlich besser. In Zukunft könnte es also möglich sein, über Sprachsteuerung komplexere Anfragen zu stellen und beispielsweise eine genauere Internet-Recherche durchzuführen. Außerdem könnten Programme dabei helfen, Textvorlagen zu liefern, die dann aber noch angepasst werden müssen. Aktuell sind die Programme aber zu vorhersehbar. Wenn Chat GPT beispielsweise ein Gedicht schreibt, das sich reimt, kommt das nie an dem heran, was ein richtiger Poet leisten könnte. Davon sind wir also noch weit weg.

Interview: Markus Rufin