Unfaire Algorithmen: Warum KI sexistisch ist

Unfaire Algorithmen: Warum KI sexistisch ist
generiert mit Midjourney

Ich möchte gerne den Podcast Mit Herz und KI des DUP Magazins empfehlen, z. B. die sehr hörenswerte Folge Patriarchat.exe läuft im Hintergrund – warum KI schockierend sexistisch ist:
Redakteurin Fanny Rosenberg spricht mit Eva Gengler, einer der führenden Stimmen für faire Algorithmen. Gemeinsam gehen sie der Frage nach, ob mit KI gerade eine Zukunft programmiert wird, die eigentlich längst Vergangenheit sein sollte. Doch warum kommen KI-Technologien überhaupt als digitaler Chauvinist daher? Wie können wir diese maschinelle Diskriminierung erkennen? Und wie können wir uns von diesen tiefsitzenden Vorurteilen von KI-Systemen lösen?

KI und Wissensmanagement – WMOOC Live Session online

Die letzte Live Session unseres letzten Wissensmanagement-MOOC ist nun auch online: Prof.in (FH) Mag.a (FH) Barbara Geyer, PhD von der Hochschule Burgenland nimmt uns mit und gibt Einblick, wie sie persönlich KI-Tools als Unterstützung ihrer Arbeit, auch der wissenschaftlichen Arbeit nutzt.

Vielleicht diejenige Live Session die mein eigenes Arbeiten am konkretesten und praktischsten beeinflusst hat. Vielen Dank, Barbara! Und euch viel Spaß (Dauer 49’44 Min)

Wie KI unser Wissensmanagement verändert

Gerne möchte ich heute auf einen Vortrag meiner lieben ‚Kollegin‘ aus der GfWM, Sabine Wax, hinweisen: Am 17. März wird sie bei einer Online-Veranstaltung der Deutschen Gesellschaft für Information und Wissen e.V. anhand einer von ihr entwickelten Lösung zeigen, wie KI Agents als Teammitglieder in Organisationsstrukturen eingebunden werden können. Ich habe mich schon mal angemeldet:

Vom Tool zum Teamplayer – Wie KI unser Wissensmanagement verändert – Deutsche Gesellschaft für Information & Wissen e.V.

Von der Terminologie zum Knowledge Graph

Es gibt wieder eine Aufzeichnung aus dem WMOOC auf dem open academy-Kanal. Dieses Mal mit Thiemo von Gillhaußen von Congree Language Technologies zu einem im Kontext KI hochaktuellen und spannenden Thema, nämlich Knowledge Graphs. Betrachtet wird die Frage, wie eine Terminologie, die viele Unternehmen seit Jahren bereits pflegen, genutzt werden kann, um Knowledge Graphs zu erstellen, die dann wiederum KI Lösungen ermöglichen. Viel Spaß! (Dauer 47’50 Min).

Übrigens, der WMOOC startet wieder am 3. Oktober. Aktuell stecken wir mitten in der Planung. Ideen und Vorschläge für neue Live Sessions sind immer willkommen! https://www.wissen-kommunizieren.de/kontakt/

Die KI, das implizite Wissen und die Expert:innen

Einige von euch erinnern sich vielleicht noch an die kleine Serie hier in meinem Blog vor fast einem Jahr, in der wir teilweise auch gemeinsam über Künstliche Intelligenz (KI) philosophiert haben (ist sie intelligent? ist sie kreativ? verfügt sie über Wissen?…).

Nun habe ich dazu heute Interessantes gelesen, und zwar von David Autor (Applying AI to Rebuild Middleclass Jobs. NBER Working Paper 32140). Autor geht explizit auf die Polanyischen Kategorien ‚explizites‘ und ‚implizites‘ Wissen ein, wenn er darlegt wie sich Digitalisierung und KI auf den Arbeitsmarkt ausgewirkt haben und aktuell auswirken. Er argumentiert, das explizite Wissen, also das laut Polanyi gut verbalisierbare Wissen, sei bereits in den vergangenen Jahrzehnten der Digitalisierung in Computercodes und Algorithmen übertragen worden, wodurch Berufe der Mittelschicht, in denen es vorrangig um dieses Wissen geht, unter Druck gerieten. Ebenso wie minder qualifizierte Berufe, weil nun mehr Menschen in diese Berufe drängten. Profitiert hätten hoch qualifizierte Wissensarbeitenden: Computer hätten es diesen Expert:innen ermöglicht sich auf die Interpretation und (komplexe, Anm. der Autorin) Verwendung von Informationen zu konzentrieren, wofür es auf das implizite Wissen ankomme, das Computer bisher nicht nachbilden konnten.

Nun könne, so Autor, aber die KI Regeln eigenständig entwickeln und damit implizites Wissen, das schwer weiterzugeben ist, selbst erlernen: „Künstliche Intelligenz kann auf der Grundlage von Training und Erfahrung improvisieren. So kann sie Expertenurteile fällen – eine Fähigkeit, die bisher nur Eliteexperten vorbehalten war. Obwohl sie erst in den Kinderschuhen steckt (…)“.

Autors Theorie eines Statusverlusts von Expert:innen wird durch Studien aus der Praxis bestätigt. So haben beispielsweise Kolleg:innen von Autor am MIT Akademiker:innen unterschiedliche Schreibaufgaben gestellt, die einmal mit, einmal ohne Hilfe einer KI bearbeitet werden sollten. Dabei hat sich gezeigt, dass sich zwar alle mittels der KI verbesserten, sowohl hinsichtlich der Effizienz als auch des Ergebnisses, die schwächeren Schreiber aber deutlich mehr als die bereits guten. D.h. der Abstand zwischen Mittelbau und Elite wird mit KI geringer.

WMOOC Vorschau auf den Januar

WMOOC Vorschau auf den Januar
WMOOC

Mit dem Ende der dritten Woche haben die Teilnehmerinnen und Teilnehmer am WMOOC 2023 nun auch schon das dritte und vorletzte Modul abgeschlossen und sich schöne und erholsame Weihnachtsferien verdient. Die WMOOC-Ferien dauern dieses Mal extra lang, nämlich bis zum 8. Januar, dann startet das vierte und letzte Modul mit dem Schwerpunkt: Praxisbeispiele.

Und natürlich gibt es dazu wieder tolle Live Sessions, die wir schon einmal vor ankündigen:

  • Am 11. Januar um 16 Uhr teilt Laura Rinker von der Universität Hohenheim aktuelle wissenschaftliche Erkenntnisse zum Thema „Motivieren für den Wissenstransfer“ mit uns.
  • Ausnahmsweise erst am 30. Januar um 17 Uhr, also eigentlich schon nach dem offiziellen Ende des WMOOC, gibt uns Barbara Geyer-Hayden von der Hochschule Burgenland Einblick in ihr persönliches Wissensmanagement, und zwar insbesondere wie sie schon heute verschiedene KI-Tools nutzt, um die Produktivität ihrer Wissensarbeit zu steigern. Ich kann nur sagen: Ich habe bereits viele Anregungen diesbezüglich von ihr übernommen.
  • Dazwischen gibt es noch eine weitere Session, deren Termin noch nicht final feststeht: Erik Schulz vom Knowledge Management der DB Engineering nimmt uns mit in die Praxis des Wissensmanagements in seinem Unternehmen und seine Rolle als Wissensmanager.
  • Und schließlich werden Dirk und ich noch eine abschließende interaktive Live Session mit euch machen: Was hat euch am MOOC gefallen? Was sollten wir beim nächsten Mal anders machen? Der genaue Termin steht noch nicht fest. Trotzdem hoffen wir – zum Abschluss – schon mal auf eifrige Teilnahme, gell?

Wie immer sind Gäste bei allen Live Sessions herzlich willkommen. Bei Interesse einfach bei mir melden!

Von der Terminologie zum Knowledge Graph – Live Session im WMOOC

Von der Terminologie zum Knowledge Graph – Live Session im WMOOC
WMOOC

In der nächsten Woche werden wir uns im WMOOC einem hochaktuellen Thema widmen (Stichwort KI):

Von der Terminologie zum Wissensgraph , mit Thiemo von Gillhaußen, Head of Business Unit Congree Content Analytics, Congree Language Technologies GmbH

Wissensgraphen sind zu einer wichtigen Komponente der maschinellen Intelligenz geworden, die allgegenwärtige digitale Assistenten antreibt. Wir zeigen Ihnen, wie Sie toolgestützt einen Wissensgraphen aus vorhandener Terminologie ableiten können.
Stichpunkte zum Inhalt:

  • Was ist eine Terminologie
  • Was ist ein Wissensgraph
  • Warum sollte ich mich mit Wissensgraphen und Ontologien beschäftigen?
  • Warum ist die Terminologie ein geeigneter Startpunkt für den Aufbau eines unternehmensweiten Wissensgraphen

Thiemo von Gillhaußen verantwortet den Unternehmensbereich New Language Technologies bei Congree. Darunter fallen auch die Themen rund um Information Extraction, Content Classification, Text Mining bis hin zum Knowledge- und Ontologieaufbau. Bei seinen früheren Tätigkeiten beschäftigte er sich mit modularer Informationserstellung, der Aufbereitung und Analyse von Massendaten sowie dem bestmöglichen Zugang zu diesen Inhalten. Eines der Kernthemen ist dabei schon immer die Strukturierung von Daten zur Bereitstellung der enthaltenen Informationen.

Termin: Dienstag, 5. Dezember 2023, 11 Uhr

Einwahldaten gibt es wie immer direkt bei mir.

Entwurf einer KI Grundrechtecharta

In letzter Zeit ist viel zu lesen über die EU-Verordnung zu Künstlicher Intelligenz (KI), weniger zu einem Entwurf einer KI Grundrechtecharta (Blueprint for an AI Bill of Rights) der US-Regierung, genauer gesagt des Office of Science and Technology Policy (OSTP), der bereits im Oktober letztes Jahr veröffentlicht wurde.

Dieser wurde unter Beteiligung vieler, auch zivilgesellschaftlicher Akteure erarbeitet. Die fünf Grundrechte, welche die Charta vorschlägt, sind nicht überraschend (deshalb aber noch lange nicht falsch oder unnötig):

  • Schutz vor unsicheren oder ineffektiven Systemen
  • Schutz vor algorithmischer Diskriminierung
  • Selbstbestimmter Umgang mit Daten
  • Transparente Informationen zum Einsatz automatisierter Systeme
  • Menschliche Alternativen zur Korrektur von Entscheidungen

Bemerkenswert ist, dass das Dokument auch konkrete Hinweise zur Anwendung der vorgeschlagenen Maßnahmen sowie einen technischen Leitfaden zu deren Implementierung umfasst.

Noch sind die vorgeschlagenen Maßnahmen nicht verbindlich. Es laufen aber entsprechende politische Initiativen, um eine entsprechende Entscheidung der US-Regierung herbeizuführen.

Und auch in Zeiten von KI gilt: sapere aude

„(,,,) Solche Befürchtungen, das Subjekt könne sich in selbst erzeugten Scheinwelten verlieren, sind nicht unbedingt neu. Neu sind jedoch die Rasanz und Perfektion, mit der in den KI-Maschinen große Teile des Weltwissens zusammenschießen, vermengt und aufbereitet werden. Neu ist ebenso die Selbstverständlichkeit, mit der KI die Fiktionalisierung der Welt vorantreibt, um sie zugleich als unhinterfragbare Objektivität darzubieten. Anders als bei Wikipedia, wo möglichst alle Fakten belegt sein wollen, kommen die Textgeneratoren ohne Quellen aus. Sie wissen alles, auch das, was sie nicht wissen. Sie treten auf wie die Wahrheit selbst. Und erstaunlich viele Menschen sind bereit, dieser Wahrheit zu glauben, wie zahlreiche Studien zeigen. Der Name des Phänomens: Overtrust.

Auch das also motiviert die Warnrufe der KI-Forscher: Sie beobachten, wie leicht dem Menschen der Sinn fürs Wirkliche abhandenkommt. Und damit auch der Sinn für mögliche Risiken, die eine hochgezüchtete Technik mit sich bringt. Während die Maschine sich als Wahrheitshüter geriert, sogar als Subjekt der Geschichte, erfreut sich der moderne Mensch an den schönen Seiten der Unmündigkeit, lässt die Computer für sich schreiben, malen, denken – und den eigenen Geist verkümmern. So verrät er seine Freiheit, ohne es wirklich zu merken. Von Auslöschung zu sprechen ist ganz gewiss übertrieben. Nennen wir es Selbstentmächtigung.“

Hanno Rauterberg in DIE ZEIT N° 26

Ist eine KI kreativ?

Im letzten Blog-Post ging es um die Frage, ob eine Künstliche Intelligenz (KI) tatsächlich intelligent ist oder Intelligenz nur simuliert. Dabei sollten wir es uns nicht zu einfach machen und aus einer gewissen anthropozentrischen Hybris heraus Intelligenz schlicht als eine genuin menschliche Eigenschaft deklarieren. Denn es kommt darauf an, wie man Intelligenz definiert. Aber halt, das stand ja alles schon im letzten Post.

Dieser endete mit der Aussage, KI sei aufgrund ihrer Funktionsweise (Statistik + Stochastik) strukturkonservativ und damit also nicht kreativ (für einige Intelligenz-Konzepte ist Kreativität ein Element von Intelligenz). Fragt man, mal wieder, Chat GPT selbst, ist die Antwort verhalten diplomatisch (in Auszügen):

Als KI-System bin ich in der Lage, bestimmte Formen der Kreativität auf der Grundlage der Daten und des Wissens zu zeigen, die mir zur Verfügung gestellt werden.

Kreativität zeigen ist etwas anderes als kreativ sein, nicht wahr? Man könnte auch wieder das Verb ’simulieren‘ verwenden, das schon in mehreren vorausgegangenen Posts aufgetaucht ist. So hat eine KI wie ChatGPT mittlerweile gelernt, dass Gedichte oder Songtexte dann als besonders kreativ wahrgenommen werden, wenn darin unerwartete Wörter auftauchen, die Wahrscheinlichkeit, auf der die Texte an sich basieren, also durchbrochen wird. Das hier angewandte Verfahren nennt sich temperature sampling:
Dabei wird die Wahrscheinlichkeiten der generierten Texte manipuliert, indem eine ‚Temperatur‘ angewandt wird, die die Entropie oder Unvorhersehbarkeit des generierten Textes steuert. Konkret bedeutet dies, dass bei höheren Temperaturen die Wahrscheinlichkeit der Auswahl von weniger wahrscheinlichen Wörtern erhöht wird, was zu einer größeren Diversität des generierten Textes führt. Bei niedrigeren Temperaturen hingegen werden nur die am wahrscheinlichsten vorausgesagten Wörter ausgewählt, was zu einer höheren Vorhersehbarkeit des Textes führt. Damit wird der Eindruck von Kreativität erzeugt.

Es bleibt aber beim bloßen Eindruck von Kreativität, denn noch immer basiert alles – auch die gewählte ‚Temperatur‘ – auf Mustern und Strukturen, die in Trainingsdaten vorhanden sind. KI trifft keine bewussten Entscheidungen, sie hat keine eigenen Ziele und Motivationen. Die von KI-Systemen erzeugten Werke können originell sein, aber sie sind nicht das Ergebnis von emotionaler Intuition, Selbstausdruck oder Erfahrung wie es bei menschlicher, vor allem tatsächlich künstlerischer Kreativität der Fall ist.

Dies stellt jedoch bereits hohe Ansprüche an Kreativität. Für die – nennen wir es mal – Alltagskreativität taugt die KI durchaus: einen neuen Slogan finden, eine gute Überschrift für einen Text, eine passende Visualisierung für ein Konzept, Multiple-Choice-Fragen für eine Klausur… Auch wir Menschen sind in unseren vermeintlich kreativen Phasen nicht immer disruptiv kreativ, sondern wandeln lediglich Bekanntes ab.

Aber vielleicht ist die Frage weniger, inwieweit uns eine KI in Sachen Kreativität ersetzen kann, sondern wie sie uns dabei helfen kann selbst kreativer zu werden. Diese These vertritt zum Beispiel Ethan Mollick, der Innovation an der Universität von Pennsylvania lehrt: Er plädiert dafür, ChatGPT als Sparingspartner beim Brainstorming zu nutzen, denn ChatGPT produziert viele Ideen. Und unter vielen ist eventuell auch eine gute oder eine, die uns selbst inspiriert. Und hier kommt Go ins Spiel: Am 15. März 2016 schlug zum ersten Mal eine KI den menschlichen Go-Weltmeister. Ein Forscherteam der Universitäten Hongkong, Yale und Princeton ließ fast sechs Millionen menschliche Go-Spielzüge aus der Zeit 1950 bis März 2016 analysieren, mit dem Ergebnis, dass die Züge sich nicht verbessert hatten. Vielmehr war über die Jahre eine große Routine eingekehrt, eine Wiederholung des Bewährten anstatt innovatives Spielen. Und dann kam der Computer und plötzlich wurde das menschliche Spiel wieder kreativer und dadurch qualitativ besser, so die Erkenntnis des Forscherteams, das noch Daten bis 2021 ausgewertet hat. Dabei haben die Menschen keineswegs die neuen Ideen der KI nachgeahmt. Sie haben (wieder) eigene entwickelt. Die KI hat sie herausgefordert: „Das Spiel des Computers war so anders, dass ich mich erst einmal daran gewöhnen musste. Ich habe festgestellt, dass ich noch mehr über Go lernen muss.“ (Sedol Lee, der vom Computer besiegte Go-Weltmeister).

Den Menschen ungewöhnliche Sichtweisen bieten und sie dadurch auf ganz neue Ideen zu bringen – das scheint eine unerwartete Stärke von KI zu sein.