Medizinethikerin Alena Buyx bei der Bürger-Uni: Ist KI Horror oder Heilsbringer?

Die Neuigkeit des einen ist der alte Hut des anderen. Mag das Thema Künstliche Intelligenz (KI) und die Frage nach dem Umgang damit seit der Veröffentlichung der Software Chat GPT im November 2022 in der breiten Öffentlichkeit angekommen sein, Alena Buyx beschäftigt sich schon eine längere Zeit mit der Materie. "Meine Damen und Herren, alles, was ich Ihnen jetzt gesagt habe, sind olle Kamellen. Da arbeitet mein Fach seit 15 Jahren dran", resümiert die Professorin für Ethik der Medizin und Gesundheitstechnologien aus München gegen Ende ihres launigen wie anschaulichen Vortrags am Donnerstag bei der jüngsten Heilbronner Bürger-Uni.

Mit "Horror oder Heilsbringer - ethische Aspekte von Künstlicher Intelligenz" ist der Abend überschrieben, einem reißerischen Titel also - und das, obwohl sie als Ethikerin normalerweise mit harten Polarisierungen zurückhaltend sei, wie Buyx erklärt. "Aber in diesem Fall ist es wirklich angemessen." Weil es sich bei KI - wie übrigens auch bei der Kernkraft - um eine Dual-Use-Technologie handele. Soll heißen: Einerseits könne sie fantastische Dinge für den Menschen tun, andererseits habe sie ein zerstörerisches Potenzial.

Der Ethikrat diskutierte: Wird KI ein Bewusstsein entwickeln?

Was bereits den Ethikrat, dessen Vorsitzende Alena Buyx vier Jahre lang gewesen ist, auf den Plan gerufen hat. Im März 2023 veröffentlichte das Expertengremium eine 400-seitige Stellungnahme - "die dickste, die er je geschrieben hat". Und die die gebürtige Osnabrückerin für die rund 480 Besucher in der Aula auf dem Bildungscampus der Dieter-Schwarz-Stiftung in einer simplen ethischen Faustregel auf den Punkt bringt: "Der Einsatz von KI muss menschliche Entfaltung, Autorschaft und Handlungsmöglichkeiten erweitern und darf sie nicht vermindern. KI darf den Menschen nicht ersetzen." Erörtert hatten die Sachverständigen demnach drei relevante Fragen: Kann KI ein Bewusstsein entwickeln? Wird sie der menschlichen Intelligenz gleichkommen oder sogar besser werden? Und kann sie im moralischen Sinne verantwortlich sein?

Nein, lautete jeweils die einstimmige Antwort. "Künstliche Intelligenz wird uns an verschiedenen Stellen ganz klar den Rang ablaufen", ist sich die Direktorin des Instituts für Geschichte und Ethik der Medizin an der Technischen Universität München sicher. Aber, so Buyx weiter, KI wird eine Rechenmaschine ohne Bewusstsein bleiben und nicht "diese Form der übergreifenden, vollständigen, verkörperten, sozialen, emotionalen und auch historischen Intelligenz" haben wie ein Mensch.

Alena Buyx: KI kommt "zu einer wahnsinnig guten zeit für uns"

Für deutlich übertrieben hält die 46-Jährige die Sorge, dass ganze Berufszweige durch KI ersetzbar werden. Vielmehr komme die Technologie gerade "zu einer wahnsinnig guten Zeit für uns", sagt Buyx mit Verweis auf den Fachkräftemangel. "Gott sei Dank werden wir einiges davon mit der KI kompensieren können." Ein Algorithmus werde nicht müde und beharre nicht auf seine Work-Life-Balance, benennt die Bürger-Uni-Referentin Vorteile. Aktuell am meisten Potenzial sieht Buyx überall dort, wo man die Präzision und Schnelligkeit von KI in der Erkennung von Mustern nutzen könne.

Medizin, schulische Bildung, öffentliche Verwaltung, öffentliche Debatte: Anhand von vier Bereichen zeigt die Hochschullehrerin praktische Anwendungsmöglichkeiten auf. Demnach verkürze sich beispielsweise dank eines Algorithmus die Zeit zur Berechnung von Proteinfaltungen in der Medikamentenentwicklung von mehreren Jahren auf wenige Stunden. "Das ist der absolute Hammer. Ich krieg" immer noch Gänsehaut, wenn ich das erzähle. Das ist sozusagen ein zentraler Flaschenhals gewesen in der Medikamentenentwicklung, der ist einfach weg", schwärmt die selbsternannte Techno-Optimistin, die aber auch die Schattenseiten nicht verschweigt.

Algorithmus hilft in der Medikamentenentwiklung oder kann Biowaffen entwerfen

Denn der gleiche Algorithmus habe im vergangenen Jahr auf einer Konferenz für Biowaffen in der Schweiz probeweise 40 000 toxische Stoffe entworfen. Und ein intelligentes, audiovisuelles Tutorsystem zum Vokabellernen, das sich individuell auf Schülerinnen und Schüler einstellen lasse, könne über die Erkennung von Augenbewegungen die Aufmerksamkeit seines Gegenübers messen. "Dieser Schulalgorithmus wird im asiatischen Raum sehr stark eingesetzt, da ist er in Klassenzimmern drin", weiß die Medizinethikerin.

Der Mensch müsse auf das Instrument KI immer noch "die Hand drauf haben", fordert Alena Buyx eine Regulierung der Technologie. "Wir müssen das gestalten, wir können das nicht einfach laufen lassen." Dafür sei es etwa notwendig, dass die Gesellschaft nachdenke über die Ziele, die mit dem Einsatz von KI erreicht werden sollen. Auch dürften Algorithmen keine völligen Blackboxen sein. "Was nicht geht, ist, dass wir überhaupt nicht verstehen, was da passiert. Da brauchen wir eine gewisse Transparenz." Auch plädiert die zweifache Familienmutter für faire, ausgewogene Datensätze, mit denen eine KI trainiert. Und: "Wir müssen immer die Möglichkeit haben, algorithmischen Entscheidungen zu widersprechen. Vor allem, wenn sie in solche Bereiche unserer Gesellschaft hineingehen, wo es wirklich grundrechtlich wird."

Was die Medizinethikerin von einer öffentlich-rechtlichen KI hält

Wie utopisch ist eine globale Regulierung von KI, will Stimme-Moderator Tobias Wieland im anschließenden Gespräch von Alena Buyx wissen. "Es gibt eine Notwendigkeit, dass wir uns da global zusammenraufen", sagt die Medizinethikerin gerade auch mit Blick auf die militärische Nutzung von KI. Eine globale Regulierung gebe die geopolitische Situation aber nicht her, befürchtet Buyx. "Es wird Minimalstandards geben." An die sich bestenfalls selbst Länder oder Regionen halten werden, die nicht unsere Vorstellungen von Menschenrechten und Transparenz teilen.

Und wie sieht es aus mit einer KI in öffentlich-rechtlicher Hand? Über die Idee eines Sprachmodells aus Bayern freue sie sich sehr, so Buyx. "Das ist eine wirklich große politische Gestaltungsaufgabe. Das ist natürlich teuer, das ist herausfordernd. Aber das sollte man auf jeden Fall machen, und zwar dann auch, wenn Sie so wollen, in einer Art öffentlich-rechtlichen Trägerschaft."