In meinem letzten Post habe ich einer Künstlichen Intelligenz (KI) Wissen abgesprochen, weil sie keine Erfahrung im Sinne eines unmittelbaren lebensweltlichen Bezugs machen könne. Man kann den von der KI selbst im Kontext Wissen verwendeten Begriff der Erfahrung (s. Folge 1 dieser kleinen KI-Nachdenkerei) aber auch anders verstehen: Nämlich als Ergebnis eines Lernprozesses, in dem „Erwartungen an Ursache-Wirkungs-Zusammenhänge“ (übrigens Teil der Wissensdefinition von Probst) erfüllt werden oder eben nicht. Im Falle des Lernens der KI bedeutet dies, dass die KI ‚erfährt‘ (!), welche Antworten ihrerseits akzeptiert werden und welche nicht. Die Kumulierung einer solchen Erfahrung von Validität führt zu Überzeugung, führt zu etwas, das man auch als Wissen bezeichnen kann.
Erfahrung kann in diesem Kontext noch von einer anderen Seite betrachtet werden: Der Soziologe Oskar Negt definiert Erfahrung als Verarbeitung von Realität. Erfahrungen sind für Negt „Momente einer durch Begriffe und durch Sprache vermittelten schöpferischen Auseinandersetzung mit der Realität“. D.h. die KI hat einen mittelbaren lebensweltlichen Bezug durch die Nutzung versprachlichter menschlicher Erfahrung. Sie kann also zwar selbst keine Erfahrungen machen, aber die Erfahrungen anderer durchaus nutzen. Genügt dieser mittelbare Zugriff auf Erfahrung, um dann eben doch von einem nicht-personengebundenen Wissen zu sprechen?
Fragen wir doch nochmals die KI, in diesem Fall ChatGPT 3, selbst. Sie erinnern sich? Im letzten Post hatte ich gefragt, ob man bei einer KI von Wissen sprechen kann, was ChatGPT unbedingt bejaht hat. Nun lautet die Frage: Viele Definitionen sagen, Wissen sei an Personen gebunden. Stimmst du dem als KI zu?
Die Antwort – frei nach dem Motto, was interessiert mich mein Geschwätz von gestern:
Als KI-basiertes Sprachmodell habe ich kein eigenes Wissen im menschlichen Sinne, sondern ich bin in der Lage, auf eine enorme Menge von Informationen zuzugreifen und diese zu verarbeiten, um Fragen zu beantworten und Probleme zu lösen. Das von mir verarbeitete Wissen ist jedoch an Menschen gebunden, da es von ihnen erstellt und von ihnen in Sprache und Schrift festgehalten wurde. Das bedeutet, dass das Wissen, das ich verarbeite, von den Menschen geprägt ist, die es erstellt haben, und von den Menschen, die es nutzen, um ihre Entscheidungen zu treffen und ihr Verständnis der Welt zu erweitern.
Es gibt jedoch einige Einschränkungen bei der Fähigkeit von KI, Wissen vollständig zu verstehen, da Wissen oft durch kulturelle und soziale Kontexte geprägt wird, die KI möglicherweise nicht vollständig erfassen oder verstehen kann. Insgesamt würde ich jedoch sagen, dass Wissen eng mit den Erfahrungen und der Interpretation von Menschen verbunden ist und dass KI als Werkzeug genutzt werden kann, um menschliches Wissen zu erweitern und zu verbessern.
Das passt zu dem oben geschilderten Verständnis von mittelbarer, sprachlich vermittelter Erfahrung. In der neuen Aussage erscheint nun ein weiterer interessanter Begriff, der des Verständnisses. Murray Shanahan, Professor für Kognitive Robotik am Imperial College London, schreibt in einem Preprint über Large Language Models: Damit ein Akteur Wissen besitzen könne, müsse er in der Lage sein, selbst Aussagen auf ihre Belastbarkeit hin zu prüfen und damit über die Konzepte von Wahrheit und Falschheit zu verfügen. Für solch eine Prüfung brauche es aber einerseits einen Zugang zur realen Welt. Andererseits müsse der Akteur über all jenes Hintergrundwissen verfügen, das wir Menschen als kulturell geprägte Sprachgemeinschaft teilen und voraussetzen, wenn wir die Gültigkeit von Aussagen beurteilen. Die geteilte Lebensform, die wechselseitigem Verstehen und Vertrauen von Menschen zugrunde liegt, fehle. KI könne auch nicht wirklich argumentieren, sie erwecke nur den Anschein, denn anstelle einer internen Darstellung einer formalen Logik, beruhten ihre Aussagen lediglich auf einer statistisch plausiblen Aneinanderreihung von Wörtern.
Womit wir doch wieder beim unmittelbaren lebensweltlichen Bezug, dem Zugang zur realen Welt wären, und bei einem noch weitergehenden Konzept, dem der Wahrheit. Diese ist keine göttliche, sondern eine kulturell geprägte. Womit wir uns der Frage nach dem Trainingsraum der KI, nach dem Risiko der Reproduktion sozialer Biases usw. nähern. Aber das vertagen wir auf einen nächsten Post!
Zum Abschluss noch ein Gedanke von Lucie Flek, Professorin für Sprachtechnologie Uni Marburg: „Wir haben ein grundsätzliches Problem mit der Definition von Intelligenz. Wir sind uns nicht einig,ob dafür wichtig ist, dass die Maschine tatsächlich über Wissen verfügt wie wir Menschen, oder ob es ausreicht, dass sie sich so verhält, dass es für den Menschen intelligent aussieht.“
Übrigens: Intelligenz kommt vom Lateinischen intellegere: verstehen
Versteht eine KI, was wir fragen und was sie antwortet?
Fortsetzung folgt.
