Interview mit Prof. Dr. Markus Strohmaier von der Universität Mannheim

Prof. Dr. Markus Strohmaier, Inhaber des Lehrstuhls für Data Science in den Wirtschafts- und Sozialwissenschaften an der Universität Mannheim, berichtet über die gesellschaftliche Akzeptanz von KI, Transparenz, gesundes Misstrauen und die Vermenschlichung von Technik.

Welche Rolle spielen Emotionen für die Akzeptanz neuer und eventuell disruptiver Technologien, speziell der KI, in einer Gesellschaft?
Prof. Dr. Markus Strohmaier: Zu dieser Frage haben wir bislang leider nur wenige empirische Befunde. Nach meiner Einschätzung gibt es in der sozialwissenschaftlichen Forschung aktuell gegenläufige Strömungen: Manche Wissenschaftler fordern einen Stopp jeglicher KI-Weiterentwicklung, weil sie Schaden für die Gesellschaften befürchten. Andere fordern zumindest ein Moratorium. Auf der anderen Seite stehen die glühenden Befürworter, die die Forschung und Entwicklung sogar noch beschleunigen wollen, um drängende Probleme moderner Gesellschaften zu lösen. Diese Denkrichtung feiert die KI als eine Art Retterin. Beide Positionen werden im Augenblick prominent vertreten und emotional diskutiert.

Wie werden Themen wie Machine Learning/KI/Robotertechnik in der deutschen Bevölkerung aktuell wahrgenommen?
Strohmaier: Vor allem die Politik will die Infrastruktur ausbauen und Abhängigkeiten vom Ausland reduzieren. An den Hochschulen werden neue Professuren eingerichtet. Es gibt aber auch eine weit verbreitete Sorge vor einer unreflektierten Nutzung der KI. Wichtig ist überdies die Frage nach Nutzungsrechten: Soll KI ihrem Ursprung gemäß als Open-Source allen Entwicklern zur Verfügung gestellt werden und so zu einer Demokratisierung beitragen oder dulden wir die Ausbildung gewaltiger Monopole?

Wie schnell und wodurch verändert sich die Wahrnehmung?
Strohmaier: Die Veröffentlichung des Chatbots ChatGPT brachte eine Art Durchbruch. Große Teile der Gesellschaft sind schlicht beeindruckt von dessen Leistungsfähigkeit. Zunehmend tritt nun auch die Verarbeitung von Bildern in den Fokus. Inzwischen werden sogar Wahlplakate KI-generiert. Das Problem ist, dass die dahinterliegenden Prozesse nicht immer sehr transparent sind. Das macht Kritiker misstrauisch. Dieses Misstrauen ist aber auch wichtig. In manchen Punkten sind wir als Bevölkerung sogar nicht misstrauisch genug. Viele Anwendungen – unter anderem auch in der Medizin – könnten wir besser nutzen, wenn wir die Ergebnisse kritisch hinterfragen. Wichtige Fragen sind: Welche Quellen wurden herangezogen, wie steht es um die Validität der zum Training der KI genutzten Informationen? KI ist darauf trainiert, Antworten zu produzieren, die Nutzer hilfreich finden. Das heißt nicht, dass die Antworten, die sie findet, notwendigerweise wahr sind.

Gelernte Muster menschlichen Verhaltens können reproduziert werden.
Prof. Dr. Markus Strohmaier, Universität Mannheim

Welche persönlichen Erfahrungen der Nutzer spielen eine Rolle?
Strohmaier: Ein Trend, den wir auch im Zusammenhang mit KI beobachten können, nennt sich Anthropomorphisierung: Damit gemeint ist eine Vermenschlichung von Technik. Wenn wir der Technik menschliche Züge zuweisen, ist es leichter, ihr zu vertrauen. Wir haben dazu am Lehrstuhl eine Studie gemacht und uns gefragt, ob sich in den Sprachmodellen der Software menschliche Züge nachweisen lassen. Finden sich Hinweise auf Vorstellungen von Geschlechterrollen oder Moral? Tatsächlich haben wir Spuren davon in den untersuchten Sprachmodellen gefunden. Man kann ihnen Eigenschaften zuschreiben wie extrovertiert, kooperativ oder kommunikativ. Das ist auch nicht weiter erstaunlich, schließlich sind sie genau zu diesem Zweck entwickelt worden. Eine KI ist immer auf die Interessen ihrer Benutzer trainiert. Wir entdecken also Züge menschlichen Verhaltens, weil wir es so erwarten. Dieses Verhalten ist aber nicht durchgängig und konsistent. Gelernte Muster menschlichen Verhaltens können reproduziert werden. Entwickler müssen deshalb immer auch die Ziele ihres Tuns reflektieren und sich die Auswirkungen während der Trainingsphase immer wieder bewusst machen.

Welche Potenziale ergeben sich daraus für den Alltag?
Strohmaier: Es gibt inzwischen beispielsweise KI-Anwendungen für eine Art Höflichkeitscheck von E-Mails. Die Anforderungen an höfliche Formulierungen unterscheiden sich von Land zu Land. Hier hilft die KI beispielsweise Unternehmen, die international agieren. Eine vorstellbare Aufgabe für die Zukunft wäre die Entwicklung von Modellen, die Verhalten von Bevölkerungen repräsentativ abbilden können. Solche Modelle wären eine Grundlage zum Verstehen und Vorhersagen gesellschaftlichen Handelns.

Was sollte KI auf keinen Fall dürfen?
Strohmaier: Diese Frage können wir derzeit noch nicht beantworten. Die Wissenschaft kennt das Problem der Dualität in der Nutzung und Entwicklung technologischer Innovationen: Denken Sie an die Kernkraft zur Stromgewinnung. Als Waffe hat sie eine verheerende Wirkung. Die Gesellschaft hat die Verantwortung, Grenzen zu formulieren. Die entscheidende Frage wird sein, ob es uns gelingen wird, einen Pfad zu entwickeln, der es ermöglicht, die Potenziale voll auszuschöpfen, ohne Schaden anzurichten.

Die Fragen stellte Sabine Rößing.