Die Hochschule für Wirtschaft Zürich hat ihre AI-Expert*innen Afke Schouten und Tony Kümin zum Chatbot ‘ChatGPT’ interviewt.
Wir wollten mehr darüber erfahren. Wie das Programm funktioniert, welchen Einfluss es auf die Arbeit von Programmierer haben könnte und weshalb es den Mensch (noch) nicht ersetzen kann – unsere AI-Expert*innen Afke Schouten und Tony Kümin erklären es im Interview.
Alle sprechen vom ChatGPT. Was steckt hinter diesem Hype-Programm?
Tony Kümin: ChatGPT ist ein Chatbot von der Firma OpenAI, der zurzeit durch die erstaunlich gut ausformulierten Antworten viel Aufmerksamkeit in der Tech-Szene als auch in der Medienlandschaft generiert. Man kann diesem Chatbot etliche Fragen zu unterschiedlichen Themen stellen und die Antworten wirken meist sehr kohärent. Auch merkt sich ChatGPT den Kontext der vorherigen Fragen, sodass man nicht immer alles von Anfang an erklären muss.
Und wie genau funktioniert dieser Chatbot? Woher stammen die Informationen seiner Antworten?
Afke Schouten: Das Programm ChatGPT ist auf ein Deep-Learning-Modell (GPT 3.5) feinabgestimmt. Dieses Deep-Learning-Modell wurde auf einem sehr großen Datensatz, möglicherweise dem grössten seiner Art, trainiert. Die Daten stammten aus Webscraping, Büchern, Wikipedia und anderen Textquellen. Das Modell wurde mit dem Ziel trainiert, das nächste Wort vorherzusagen. Wenn man dieses Modell nach jedem Wort, immer wieder anwendet, erhält man Sätze oder grössere Textstücke.
Tony: Die AI merkt sich die Muster und Strukturen der menschlichen Sprache. Da die Antworten stimmig und logisch wirken, hat man das Gefühl, dass der ChatGPT eine eigene «Meinung» hat. Allerdings werden nur Wahrscheinlichkeiten für das nächste Wort ausgerechnet. Das heisst, wie Afke bereits gesagt hat, wird die Antwort word-by-word aufgebaut.
Innert wenigen Tagen haben über eine Million Nutzer den Chatbot getestet. Auch ich gehöre dazu. Auch wenn die Antwort nicht ganz korrekt war, war ich schon etwas beeindruckt, vor allem von der Schnelligkeit des Programms. Wird dieser Chatbot die Google-Suche ersetzen?
Afke: In einigen Fällen kann dieses Programm sehr nützlich sein, aber wir sollten die Grenzen von ChatGPT verstehen. Erstens ist ChatGPT, wie du selbst festgestellt hast, nicht immer korrekt. Zweitens, wenn wir eine «echte» Antwort brauchen, müssen wir immer noch Google und unseren gesunden Menschenverstand benutzen, um zu verstehen, ob eine Quelle wahrheitsgemäss ist. ChatGPT ist zum Beispiel keine verlässliche Quelle, wenn es um Forschungszwecke geht.
Tony: Es gibt einen grossen Unterschied: Bei Suchanfragen auf Google beispielsweise finden wir Websites, Blogs etc., die Leute öffentlich gestellt haben. ChatGPT kann nicht auf das Internet oder auf externe Informationen zugreifen. Deshalb werden die Antworten manchmal sehr vage formuliert: «Es kommt darauf an…», «Bitte nehmen Sie direkt mit dem Unternehmen Kontakt auf.», etc. ChatGPT ist nicht so umfassend und genau wie eine Suchmaschine. Die Google-Suche und andere Suchmaschinen verwenden komplexe Algorithmen und Nutzungsdaten, um umfassende Ergebnisse zu liefern und diese in ihrer Relevanz zu bewerten.
Wie ich gelesen habe, kann der ChatGPT aber auch Computercodes generieren. Könnte dieses Programm in Zukunft die Arbeit von Programmierer übernehmen?
Tony: Der ChatGPT kann zwar Computercodes generieren, die erzeugten Codes können aber oft unvollständig oder fehlerhaft sein. Die Codes müssen im Nachhinein von Programmierern, die die nötige Erfahrung und Skills haben, meist korrigiert werden. Das heisst, das Programm ersetzt die Programmierer nicht, sondern könnte ihre Arbeit effizienter machen.
Was ich persönlich sehr spannend finde, ist die Tatsache, dass sich mit ChatGPT eine neue Möglichkeit bietet, Programmieren zu lernen. Das Programm verfasst nämlich die Sachverhalte oft in einer Sprache für Otto-Normalverbraucher, anders als bei Programmiercommunities oder Dokumentation. Es ist möglich, dass ChatGPT in Zukunft Junior sowie auch Senior Programmierer bei einigen Aufgaben unterstützt. Es scheint mir aber recht unwahrscheinlich, dass das Programm die Programmierer ersetzen wird.
Afke: Ich sehe das ähnlich. Wir können Programme wie ChatGPT verwenden, um unsere Arbeit zu beschleunigen. Aber wir müssen immer noch unser menschliches Urteilsvermögen einsetzen. Wir können dies mit Deepl oder Google Translate vergleichen. Wir alle wissen, dass dies die Arbeit der Übersetzer verändert hat. Ihre Aufgabe besteht nun darin, die von diesen auf KI basierenden Übersetzungsdiensten erzeugte Ausgabe zu korrigieren.
Das Gleiche wird für Programmierer (und viele andere Berufe) gelten, ihre Arbeit wird sich ändern, aber sie muss immer noch von Menschen überprüft werden. Dies ist definitiv etwas, das wir für unsere Organisationen und unsere Gesellschaft in Betracht ziehen müssen. Wie werden sich die Arbeitsplätze verändern und was können wir tun, um sicherzustellen, dass die Menschen sich so weiterbilden, dass sie auch in Zukunft einen Arbeitsplatz haben.
Das Programm kann nicht nur Fragen beantworten oder Codes generieren, sondern auch dichten. Klingt nach einem richtigen Tausendsassa. Was kann der Chatbot nicht?
Tony: Das Programm kann Sachverhalte in einer neuen Form kombinieren, aber nichts Neues erzeugen. Oft reicht das aber schon, um innovativ und originell zu wirken. Je spezifischer die Frage (Beispielsweise: Wie alt bin ich?), desto eher gibt uns das Programm die Antwort, dass es die Frage nicht beantworten kann oder die Informationen nicht genau sind. Behalten wir auch im Hinterkopf, dass nicht alles, was für das Training benutzt wurde, auch wirklich akkurat ist und faktisch stimmt.
Viel stammt aus subjektiven Meinungen von Autor:innen. Dabei könnten z. B. auch Verschwörungstheorien in den Trainingsdaten sein. Weiter gilt zu erwähnen, dass ChatGPT mit Daten bis 2021 trainiert wurde. Das heisst, das Programm weiss beispielsweise nichts vom Einmarsch Russlands in die Ukraine, dem iPhone 14 oder aktuellen Gesetzesänderungen.
Hinzukommt, dass wenn der Bot etwas Falsches sagt, dann sagt er es mit Überzeugung und ohne Unsicherheiten drin. ChatGPT macht Aussagen und wir können nicht einschätzen, was es genau weiss und was nicht. Die Aussagen kommen als Fakten daher.
Das Beispiel unten zeigt dies gut auf: Ohne zu zögern, gibt es an, dass Praktika (Internships) ein Schwerpunkt der HWZ seien. Die allermeisten Studierenden arbeiten aber in regulären Jobs und nicht in Praktika. Gegen solche Falschaussagen sichert sich die Firma hinter ChatGPT, OpenAI, aber mit einigen Disclaimers rechtlich ab.
Quelle: HWZ
