Sollte man intransparente KI trotzdem nutzen? – Ein Gespräch mit Ranga Yogeshwar über ChatGPT und die Folgen (3)

Ranga Yogeshwar ist studierter Experimentalphysiker und freiberuflicher Wissenschaftsjournalist. 2012 erhielt er die Karl-Preusker-Medaille des Deutschen Bibliotheksverbands. In seiner Arbeit hat er sich immer wieder mit künstlicher Intelligenz beschäftigt. Die ersten beiden Teile des Gesprächs drehten sich um die Frage, wie Systeme der KI funktionieren, und ob das Internet jetzt mit automatisch geschriebenen Texten verseucht wird. Diesmal ist das Thema, ob wir uns auf eine Welt zubewegen, in der das Virtuelle immer wichtiger wird. Stehen wir vor einer neuen Völkerwanderung aus der Realität in die Virtualität?

Ranga Yogeshwar
Ranga Yogeshwar, Raimond Spekking CC BY-SA 4.0 (via Wikimedia Commons)

Michael Knoche: Die erste Forderung, die man stellen müsste, wäre: Kennzeichnet bitte alle per ChatGPT erzeugten Texte!

Ranga Yogeshwar: Ich habe neulich im Futurium (Berlin) auf einer Veranstaltung diese Frage ans Publikum gerichtet. Natürlich sagt die große Mehrheit: Ja, wir brauchen die Kennzeichnungspflicht. Also wird das kommen. Ich habe auch gefragt: In welchen Bereichen sollte man KI einsetzen? Antwort: in Schule, Wirtschaft usw. Weiter frage ich: In welchen Bereichen sollte man KI verbieten? Interessanterweise: z.B. in Erziehung, Gericht, Militär. Das sind schon fundamentale Fragen. Ich sehe heute schon Business-Modelle, z.B. für Bewerbungen. Da kann die Personalabteilung die KI fragen: Ist das unser Kandidat? Aber auch der Kandidat selbst wird seine Bewerbung mit Hilfe der KI schreiben. So gerät man in eine Sackgasse, wo am Ende KIs sich miteinander unterhalten. Doch bei alledem vergessen wir eines:  Wir sind Enkel der Aufklärung, und eine Grundsäule der Aufklärung ist Kausalität. Nicht Korrelation. Wenn du morgen verhaftet wirst und ins Gefängnis kommst, dann liegt es im Selbstverständnis eines demokratischen Bürgers zu fragen: Sagt mir bitte, warum? Dann muss die Justiz ziemlich gute Gründe nennen und sie belegen können. Jetzt stell dir eine Welt vor, in der plötzlich ein digitales Orakel anfängt zu sagen: schuldig oder nicht schuldig. Wir würden dann in eine Welt geraten, bei der intransparente Algorithmen über lebenswichtige Dinge entscheiden würden. Auch dieses Problem habe ich bei der Veranstaltung in Berlin thematisiert, und das Ergebnis hat mich aus der Fassung gebracht. Auf die Frage: Viele Ergebnisse der KI sind nicht transparent (also auch im kausalen Sinne) – sollte man die Systeme dennoch nutzen? hatte ich, ehrlich gesagt, erwartet, dass alle Leute sagen: Nein! Weil wir Kinder der Aufklärung sind! Aber hier sagt eine knappe Mehrheit: Ja! Davor habe ich die größte Sorge. In den USA hat man sogar im Bereich Rechtsprechung schon KI eingesetzt, um die Rückfallquote bei Menschen, die verurteilt wurden, zu errechnen. Inzwischen hat man festgestellt, dass diese prädiktiven Systeme offenbar mit rassistischen Vorurteilen gespickt sind.

Man könnte man ja jetzt schon vermuten, dass solche Systeme bei der Prüfung von Kreditwürdigkeit im Einsatz sind. Kein Mensch kennt die Algorithmen.

Kreditwürdigkeit ja, aber vor allem ist Ki im Bereich Recruiting im Einsatz. Da führen Menschen ein Bewerbungsgespräch, die Maschine hört mit, fängt an zu evaluieren und sagt am Ende: Yogeshwar? Der nicht. In der Folge werden wir bei Bewerbungen darauf achten, was die KI hören muss, damit wir den Job bekommen.

Bernhard Schölkopf vom MPI in Tübingen hat ein wunderbares Beispiel dafür, wie schnell sich Systeme täuschen lassen. Hier links sieht man ein Schwein. Auch die KI erkennt in diesem Bild ein Schwein.  Setzt man jedoch ein bisschen Rauschen auf das Bild, kann man die KI täuschen: Das Bild rechts sieht zwar für uns Menschen noch genauso aus wie das Bild links, aber aufgrund der kaum erkennbaren Veränderung der Daten sagt die KI plötzlich: Das ist ein Airliner, und nicht mehr: ein Schwein. Auch hier wird deutlich: Für die KI sind es lediglich abstrakte Daten und nicht wirkliche Entitäten.

Was könnte man in dieser Situation sinnvollerweise machen? Was wären Maßnahmen, um dieses Teufelszeug einzuhegen?

Ich sage nicht, dass es Teufelszeug sei. Es ist eine interessante Entwicklung und wenn sie offen und transparent abläuft, ist das legitim – ein großes Experiment, an dem alle teilnehmen können.  Es begann mit „OPEN“AI, doch inzwischen wurde daraus ein geschlossenes und intransparentes kommerzielles System. Der Rollout findet bereits statt, obwohl das System voller Fehler steckt und das ist problematisch. ChatGPT kann durchaus hilfreich sein, zum Beispiel als Inspirationsquelle für Autoren oder als Hilfe beim Programmieren, doch du musst wissen, was solche Systeme können und was sie nicht können. Bei einigen Anwendungen zum Beispiel beim schnellen und oberflächlichen Übersetzen oder bei Routineaufgaben beim Coden sehe ich schon heute gute Einsatzmöglichkeiten. Was mit wenig Aufwand durch die Maschine ersetzt werden kann, ist besser da aufgehoben als beim Menschen. Wenn jedoch solche Systeme in kritischen Bereichen – zum Beispiel in der Rechtsprechung oder im Personalbereich eingesetzt werden, hebe ich die rote Fahne. Das bringt mich auf eine grundsätzliche Frage: Ist es legitim, die Daten der Welt abzugreifen, um diese für ein privatwirtschaftliches Business-Modell zu nutzen? Ist es legitim, demnächst Bilder zu produzieren, die so sind wie Gemälde von dem Maler XY? Früher hätte man gesagt: Plagiat.

Quelle: httpsthispersondoesnotexist.xyz

Natürlich könnte man sagen: Wenn das Bild von Jan Vermeer stammt, der jetzt 350 Jahre tot ist, sind seine Werke gemeinfrei, und damit darf man spielen. Aber es wird ja nun richtig happig, wenn es um lebende Künstler geht, auf deren Werke es noch ein Copyright gibt.

Das eine ist die juristische Frage, das andere ist: Bestimmte Künstler haben eine gewisse Einzigartigkeit. Die Erosion dieser Einzigartigkeit mündet in die Erosion unserer eigenen Einzigartigkeit.

Das ist natürlich die tiefergehende Frage: Ob man das überhaupt im ethischen Sinne darf.

Na klar. Aber diese Systeme sind, wie man so schön sagt, multimodal, verbinden also Text, Bilder, Musik, Video. Ein Video aus China (Wu Dao 2.0) fand ich völlig schockierend. Alles daran ist künstlich. Die junge Frau, das Lied, der Text. Als Betrachter merkt man das nicht mehr. Ist es also legitim, dass Maschinen uns derart täuschen dürfen?

Es gibt artifizielle Identitäten wie diese: „Hi, my name is Sophie. I am a digital human. In fact, I am the world’s most advanced digital human because I am animated in real time with artificial intelligence …“ Auf Instagram gibt es artifizielle Identitäten mit 2,8 Mio. Followern. Die Deutsche Telekom nutzt das Wesen in der Schnittstelle zu Kunden. Da heißt sie nicht Sophie, sondern Selena. Die emotionale Frage macht mir viel mehr Sorgen, nämlich: Stehen wir schon an der Bruchkante, wo Realität und Künstlichkeit in der Gewichtung plötzlich invertiert sind? Eine Statistik zeigt, wie viel Zeit Menschen im Schnitt im Netz verbringen. Weltweiter Durchschnitt: fast sieben Stunden! Für mich ist die dahinterliegende Frage: Bewegen wir uns in eine Welt, in der das Virtuelle wichtiger wird als das Reale? In dem Moment, in dem du eine 3D-Brille aufsetzt, bist du in einem „schönen“ Umfeld, hast „Menschen“ um dich herum, von denen du meinst, sie würden dich verstehen. Für viele öffnet sich hier die Tür in einen digitalen Eskapismus. Dann stünden wir vor einer neuen Völkerwanderung: aus der Realität in die Virtualität. Das ist natürlich praktisch, weil man Menschen, die in der Virtualität leben, real ziemlich schlecht behandeln kann: Dann kann etwa die Wohnungssituation ganz und gar bescheiden sein, denn mit aufgesetzter Brille wird alles scheinbar erträglicher. Wer aber entwirft die Szenarien dieses neuen Umfelds? Wenn wir nicht aufpassen, steht am Ende eine völlige Selbstentmündigung, ein technologischer Totalitarismus. Und was passiert emotional? Werden wir irgendwann an den Punkt kommen, wo Menschen sich in digitale Avatare verlieben und sich gänzlich aus der Realität verabschieden?  Der reale Lebenspartner ist manchmal launig und reagiert gereizt. Er oder sie altert, doch die KI-Avatare besitzen die ewige Jugend, sind klug und verständnisvoll und kennen dich immer besser … Was passiert demnächst?  Schon jetzt sehen wir auf Instagram, dass sich junge Mädchen Wimpern ankleben, damit es im Netz gut aussieht. Die Maschine verändert uns.  

Ich glaube, Meta Platforms versuchen derzeit schon, diese Idee mit Facebook zu realisieren: die allumfassende Bedüsung in der künstlichen Welt.

Ich weiß nicht, ob Du jemals eine 3D-Brille aufhattest. Probier es aus! Ich habe letztens virtuell Pingpong gespielt. Es ist ein verwirrendes Gefühl, wenn du danach die Brille abziehst: Wo bin ich jetzt? Das ist so ähnlich wie bei ChatGPT: Du musst es selber probieren, und du merkst dann die Verführbarkeit, den Gesang der Sirenen. Ist es schon so weit, dass wir jetzt Petersilie in die Ohren stopfen oder Odysseus an den Mast binden müssen, der geschrien hat, weil die Fabelwesen so schön gesungen haben? Digitalisierung und KI verändert unser Verhalten: Untersuchungen belegen bereits, dass der Zugang zu Pornografie bei Kindern dazu führt, dass das „erste Mal“ heute später liegt als früher. Später! Weil es in der virtuellen Welt ja schon läuft. Was passiert emotional?

Der letzte Teil folgt



OpenEdition schlägt Ihnen vor, diesen Beitrag wie folgt zu zitieren:
Michael Knoche (10. April 2023). Sollte man intransparente KI trotzdem nutzen? – Ein Gespräch mit Ranga Yogeshwar über ChatGPT und die Folgen (3). Aus der Forschungs­bibliothek Krekelborn. Abgerufen am 24. Juli 2024 von https://doi.org/10.58079/lyv8


Michael Knoche

Michael Knoche war von 1991 bis 2016 Direktor der Herzogin Anna Amalia Bibliothek in Weimar. Zu den Buchveröffentlichungen gehört: Die Idee der Bibliothek und ihre Zukunft (Göttingen: Wallstein 2018). Persönliche Website: https://www.knoche-weimar.de/

Das könnte dich auch interessieren …

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.

Suche in OpenEdition Search

Sie werden weitergeleitet zur OpenEdition Search