Auf großes Interesse stieß am das Thema des Kommende-Forums „Potentiale und Herausforderungen intelligenter Maschinen“. Zu dem Abend hatte die Kommende Dortmund, das Sozialinstitut des Erzbistums Paderborn, zusammen mit der Komturei St. Meinolphus Dortmund des Ritterordens vom Heiligen Grab zu Jerusalem eingeladen. Es ging um Chancen und Risiken der sogenannten „Künstlichen Intelligenz“ (KI).
„Performative Intelligenz“: Vom Gesundheitsbereich bis zur Automatisierung der Produktion
Zu Beginn präsentierte Kommendedirektor Prälat Dr. Peter Klasvogt die „Geschichte eines Roboters in der Identitätskrise“. Den Text hatte Peter Klasvogt über die Internet-Anwendung ChatGPT erzeugt. Die Formulierungen waren flüssig, erschienen sinnvoll, so als hätte ein Mensch den Text geschrieben. Prof. Dr. Jakob Rehof, Lehrstuhlinhaber Software Engineering an der TU Dortmund, bezeichnet dies als „performative Intelligenz“.
Er und Dr. Anne Weber, Philosophin und Ethikerin am Forschungsinstitut für Philosophie Hannover, referierten und diskutierten an diesem Abend unter der Leitung von Dr. Hans-Jürgen Schlinkert. Professor Rehof erläuterte, dass KI nach heutigem Stand keine menschliche Intelligenz im Sinne einer bewussten Intelligenz sei.
Die „performative Intelligenz“ der KI sei aber nicht mehr von menschlicher Leistung zu unterscheiden und gehe häufig darüber hinaus. „KI verschiebt die Grenzen der Wahrnehmung des speziell Menschlichen“, erklärte er. Aktuell sei KI im Wesentlichen eine Verwendung von klug ausgedachten statistischen Modellen in Verbindung mit massenhaften Daten.
Sowohl im Gesundheitsbereich als auch bei der Automatisierung in der Produktion gebe es viele sehr sinnvolle Anwendungsmöglichkeiten. Zugleich bestünden aber auch erhebliche Risiken, weshalb Professor Rehof einer Regulierung der Anwendungen durch die Europäische Union eine besondere Bedeutung zuwies.
Sozialethik kritisiert „algorithmen-basierte Ungleichbehandlung“ von Menschen
Dr. Anne Weber ging aus sozialethischer Perspektive in ihrem Beitrag dabei noch einen Schritt weiter: „Ich möchte dazu ermutigen, … die realen und konkreten Herausforderungen und ihre bisher nicht ausreichend bearbeiteten Risiken ins Zentrum der ethischen, rechtlichen und gesamtgesellschaftlichen Suche nach sinnvollen normativen Maßgaben für einen vertrauensvollen Einsatz KI-basierter Technologien zu stellen.“
Den Vorwurf der Technikfeindlichkeit wies sie dabei zurück. Potentiale und Risiken von KI-basierten Systemen würden aber sehr nahe beieinander liegen oder sich überlappen. Als Risiken nannte sie unter anderem die „algorithmen-basierte Ungleichbehandlung“ von Menschen aufgrund von mit Vorurteilen behafteter Ergebnisse.
Da KI-Anwendungen auf vorhandene Daten zurückgriffen, würden auch darin enthaltende Vorurteile und Diskriminierungen reproduziert. Das sei unter anderem im Arbeitsleben, in der Kreditwirtschaft oder im Immobilienmarkt besonders problematisch. Darüber hinaus würden durch KI die Risiken von Desinformation und Meinungsmanipulation zunehmen und der gesellschaftliche Diskurs als Erkenntnisort an Bedeutung verlieren.
So gebe es „ernstzunehmende Risiken für die freiheitliche und verantwortliche Lebens- und Weltgestaltung im Sinne christlicher Sozialethik“ bereits durch die aktuellen schwachen Formen der künstlichen Intelligenz.
