Bibliotheken als Bollwerke gegen das KI-Business? Ein Gespräch mit Ranga Yogeshwar über ChatGPT und die Folgen (4)

Ranga Yogeshwar ist studierter Experimentalphysiker und freiberuflicher Wissenschaftsjournalist. 2012 erhielt er die Karl-Preusker-Medaille des Deutschen Bibliotheksverbands. In seiner Arbeit hat er sich immer wieder mit künstlicher Intelligenz beschäftigt. Die ersten Teile des Gesprächs drehten sich um die Frage, wie Systeme der KI funktionieren. Bewegen wir uns auf eine Welt zu, in der das Virtuelle immer realer wird? In der letzten Folge kommt die Rolle von Bibliotheken ins Spiel. Wie sollen sie sich zu ChatGPT verhalten? Und: Was ist der Tütensuppen-Effekt?

Michael Knoche: Die Forderung, dass man sich wirklich genau überlegt, was da gerade passiert – und da gibst Du ja wichtige Anstöße, sich das klarzumachen – diese Forderung führt noch nicht zu einer Handlungsaufforderung. Was soll man jetzt tun?

Ranga Yogeshwar: Der Deutsche Ethikrat wird ein Papier herausbringen – Alena Buyx sagte mir das – in der die Forderung der Transparenz festgeschrieben sein wird. Ich sage: Das könnt ihr vergessen, weil diese Systeme gar nicht transparent sind! Wissenschaftler, die die KI entwickelt haben und füttern, sind ja selber überrascht und sagen: Oh, was passiert da? Wir steigen aus der klassischen Betrachtung der Kausalität um in etwas, für das wir noch keine klare Grammatik haben. Kennzeichnungspflicht, ja! Das kann man auf jeden Fall schnell machen. Aber was machst du mit dem Rest? Setzten wir KI ein, obwohl die Systeme nicht transparent sind? In bestimmten Bereichen, für Küchenrezepte und Einkaufslisten, ja, aber vielleicht nicht im Kontext von Strafgerichten.

Auch im Bereich Medizin wird es gefährlich, oder? Wenn man Gesundheitstipps bekommt aufgrund von irgendwelchen Vokabeln, die man vielleicht beim Doktor aufgeschnappt hat und sich dann von ChatGPT erklären lässt, was man therapeutisch tun sollte – das stelle ich mir verheerend vor.

All diese Systeme haben eines gemeinsam, nämlich Prediction, Vorhersagen. In der Medizin hat z. B. Max Little, früher am MIT, jetzt an der Aston University, Birmingham, Stimmen am Telefon evaluiert. Aufgrund von leichten Schwingungen deiner Stimme kann er vorhersagen, ob du gerade am Beginn von Parkinson stehst.

Diagnostik heißt künftig nicht mehr nur Untersuchung von Blut, sondern relevant sind auch Stimmen, Pupillendilatation, Bewegungsmuster. Es geht schon los mit behaviorial pricing policy. Versicherungen sagen: Gib mir deine Aktivitätsdaten, dann kriegst du einen Rabatt. Natürlich macht es was aus, wenn ich weiß, dass meine Versicherung sieht, ob ich heute gar nicht oder viel gelaufen bin, irgendwann kommt der implizite Zwang. In den nächsten Jahren werden wir mit Fragen konfrontiert, die es bisher noch nie gab.  Dann wird die KI wahrscheinlich mit einer sehr guten Trefferquote vorhersagen, wie alt man wird. Die Frage ist, ob man sein Todesjahr wirklich kennen möchte. Natürlich wird es wiederum Ökonomen geben, die sagen: Das ist super, gut für die Lebensplanung. Wenn ich weiß, dass ich zwei Jahre nach Rentenbeginn sterbe, dann höre ich vielleicht früher auf zu arbeiten. Oder: Wenn ich weiß, ich lebe noch zehn Jahre, kann ich vielleicht eher in Urlaub fahren. Wenn ich weiß, ich lebe noch 30 Jahre, muss ich meine Ersparnisse zusammenhalten. Was macht das mit uns?

Das sind aber Entwicklungen, die mit ChatGPT wenig zu tun haben, weil sie überhaupt nicht sprachlich basiert sind.

Sie haben mit einer generalisierten KI zu tun. Hinter allem steckt die Annahme, dass ich das Leben messbar machen kann. Meine Frage ist: Gibt es einen Isomorphismus zwischen Realität und digitaler Welt? Lässt sich das Leben eins zu eins in die Zahlenwelt übersetzen? Ist Sprache womöglich auch ein diffuser Ausdruck von unserer inneren Welt? Ist sie modellierbar, algorithmisierbar, digitalisierbar? Oder gibt es irgendeinen Rest? Was macht Schiller so besonders oder T.S. Eliot?  

Das wollen wir doch hoffen, dass es unerklärbare Reste gibt.

Aber es gibt natürlich die große Fraktion der technischen Solutionisten, die mit vielen Computern und noch mehr Businessmodellen unser Leben bestimmen wollen.

Und da käme es darauf an, solche Tools als Hilfsmittel zu begreifen, die unter strenger Kontrolle stehen?

Ja, aber es ist nicht nur die Kontrolle. Ich habe vor Jahren bei Quarks & Co. einen Test gemacht: Tütensuppe versus echte Suppe, echter Fruchtjoghurt mit Erdbeeren, die manchmal säuerlich schmecken, versus künstliche Pampe. Auf die Frage, was besser schmeckt, antworten die Probanten interessanterweise: die Tütensuppe. Ich nenne das den Tütensuppen-Effekt. Man bevorzugt nicht die natürlichen Erdbeeren im Joghurt, sondern die künstlichen. Wir sind in Gefahr, empfindungslos zu werden für das, was eine echte Erdbeere ausmacht – weil es einen Gewöhnungseffekt, eine Selbstverstärkung in dieser Gewöhnung gibt. Am Ende glauben wir wie kleine Kinder, dass Fische viereckig sind, weil die Fischstäbchen so aussehen. 

Die Verführungskraft ist unglaublich groß bei diesen Systemen.

Wir wissen auch, dass artifizielle Dinge uns immer berührt haben. Ein Buch, ein Roman besteht ja auch aus abstrakten Buchstaben, die plötzlich Herzklopfen verursachen können. Das ist dieselbe Mechanik, aus einer Abstraktion in eine Emotion zu kommen.

Was, würdest Du sagen, hätten Bibliotheken in diesem Spiel für eine Aufgabe?

Weil wir an vielen Stellen konfrontiert werden mit der immateriellen, getäuschten und vortäuschenden Wirklichkeit, brauchen wir Nestoren, Leute, die richtig und falsch unterscheiden können. Wir brauchen Bibliotheken, weil wir tief im Herzen immer noch auf der Suche nach Authentizität und nicht nach Schein-Narrativen sind. Vielleicht setzt eine Bewegung ein, ähnlich wie gegenüber der Nahrungsindustrie, der zumindest ein Teil der Bevölkerung heute entgegenhält: Bio bitte, keine Konservierungsstoffe, alles echt.  Das geht so weit zu sagen: Ich muss genau wissen, woher die Pinienkerne kommen, und am besten muss ich auch noch den Bauern und den Busch kennen. Es ist ein ganz tiefes Bedürfnis in uns, das Bewusstsein für Ehrlichkeit, Wahrhaftigkeit. Insofern kann es sein, dass Bibliotheken diese Rolle bekommen – nach dem Motto: Was das Internet sagt, ist eine Sache, aber in der Bibliothek erfahre ich, ok, es ist so. Aber das ist natürlich at stake, weil die Businessmodelle derart mächtig sind und alle Bereiche infiltrieren wollen. Alle Unternehmen haben ihre take home messages, ihre Ethik for the benefit of the world und anderen Bullshit – man müsste sie eigentlich verklagen, weil sie den benefit for the world im Munde führen, aber in Kenia nur 2 US-Dollar für das Labelling bezahlen.

Wir merken aber, dass überall dort, wo das tief menschliche Kommunizieren oder Nachdenken ökonomisiert wird, der Schuss nach hinten losgeht. Soziale Netzwerke sind das beste Beispiel. Sie schreiben zwar „connecting the world“, aber wollen eigentlich Geschäfte machen. Sie machen es mit Erregungsbewirtschaftung. Am Ende stellen wir fest, dass wir in polarisierten Gesellschaften leben, in denen keiner mehr weiß, was stimmt, weil es für alles im Netz Belege gibt. Dann zerfällt eine Gesellschaft. Sie zerfällt, weil wir sie ökonomisieren. Vielleicht bedeutet das, wenn man es ein bisschen politischer ausdrückt, dass der Kapitalismus seine Kinder frisst – wie Chronos. Eine Bibliothek unterscheidet sich – zumindest in meiner Idealvorstellung – vom Business dadurch, dass sie Wissen zugänglich macht, keine ökonomischen Interessen verfolgt und offen für jeden ist. Ihr Selbstverständnis lautet: Wir teilen Wissen auf der Basis von Vertrauen. Bibliotheken sind Orte der Gemeinschaft und nicht Businessmodelle, die mit ihrem Targeting den Einzelnen anpeilen. Am Ende steht die Frage zwischen dem isolierten „Ich“ oder dem gemeinschaftlichem „Wir“.  

Dann wären Bibliotheken nur ganz kleine Bollwerke in diesem Spiel?

Ich glaube, dass wir irgendwann an den Kipppunkt kommen, wo den Menschen bewusst wird, dass ökonomisches Wachstum nicht implizit zu einer Steigerung des Wohlbefindens des Einzelnen führt.  Überall begegnen wir diesem Widerspruch: Das Geschäft der Lebensmittelindustrie geht zunehmend auf Kosten der Menschen: bei zu viel Zucker, bei Fast Food und zu viel Fett. Adipositas ist laut WHO zu einer Seuche geworden! So zeigt sich ebenfalls, dass der negative Einfluss sozialer Netzwerke zu oft in Krisen junger Menschen mündet, in Depressionen und Selbstzweifeln junger Frauen usw. Wir ahnen allmählich, dass elektronische Medien ein enormes Suchtpotenzial besitzen (sieben Stunden am Tag im Netz!). Allmählich ist die Zeit reif für den großen wake up call: Und wir alle sollten uns die Frage stellen, was das Ziel unseres Fortschritts ist. Worauf kommt es im Leben eigentlich an? Wie viel CO-2 muss ich in die Luft pusten, um glücklich zu sein? Wie viel muss ich kaufen und besitzen, bis eine wirkliche Befriedigung sich einstellt?  Das tiefste Ziel des Fortschritts sollte doch ins Glück aller Menschen münden. Das ist meine tiefe innere Hoffnung.

(Schluss)

---

---

---