KI-Verordnung der EU: Experten sehen viele ungeklärte Fragen

Die EU will Künstliche Intelligenz (KI) regulieren und arbeitet deshalb seit geraumer Zeit an einer KI-Verordnung. Sie soll gegen Ende des Jahres verabschiedet werden, dann bleiben den EU-Ländern noch zwei Jahre Zeit, das Gesetz umzusetzen.

Welche Fragen zu dem Gesetz noch offen sind, haben mehrere Experten bei einer Online-Konferenz des Science Media Centers erklärt. "Wir schreiben gerade Geschichte", sagt Sandra Wachter, Professorin für Technologie und Regulierung an der Universität Oxford.

KI-Juristin fürchtet, dass Beschwerderechte für Bürger gestrichen werden

Nicht optimal findet sie, dass Unternehmen von Hochrisikotechnik selbst bewerten sollen, ob sie sich an die Vorgaben der KI-Verordnung halten. "Das ist nicht super problematisch, aber wir sollten es im Auge behalten." Im Gesetz sei das nur als Übergangslösung gedacht, bis unabhängige Organisationen die Prüfungen durchführen. "Wir sollten das nicht vergessen, damit wir nicht dauerhaft bei der Notlösung bleiben."

---

---

Gut und wichtig findet die Juristin, dass Bürger durch die KI-Verordnung das Recht bekommen, sich gegen den Einsatz bestimmter KI zu wehren, ähnlich wie beim Datenschutzrecht. "Wir sollten sicherstellen, dass diese Rechte erhalten bleiben und nicht doch noch aus der Verordnung genommen werden."

Hochrisiko-KI bleibt kritisch zu sehen: Sollte man sie einsetzen?

Kritisch findet Wachter, dass es zwar viele Regeln für risikoreiche KI-Systeme gibt. Darunter fällt etwa automatische Gesichtserkennung, Software, die von Polizeibehörden eingesetzt wird, um Straftaten vorherzusagen und die automatische Bewertung der Kreditwürdigkeit. Zwar stelle die EU bürokratische Hürden für solche Systeme auf, mache Vorgaben wie Qualitätskontrollen. "Es gibt aber keine Diskussion mehr, ob man solche Software überhaupt einsetzen sollte."

Ohnehin fragwürdig sind die Qualitätskontrollen aus Sicht von Ulrike Luxburg, Professorin für die Theorie des maschinellen Lernens in Tübingen. Es sei zwar schön, wenn Firmen dokumentieren, dass ihre Daten korrekt und vollständig sind. "Aber wer kontrolliert das?" Bisher gebe es keine Behörde, die so etwas beurteilen könne. Bei vielen KI-Systemen seien die Datenmengen aber auch zu groß oder die Art und Weise, wie die KI selbst dazulernt und neue Entscheidungen trifft, zu komplex, um sie einfach zu erklären. "Niemand kann sinnvoll erklären, was diese Systeme eigentlich machen."

Bisher gibt es keine deutsche Behörde, die KI kontrollieren könnte

Doch genau das will die EU für manche KIs vorschreiben: Entwickler müssen erklären, wie sie funktionieren und wie sie zu ihren Entscheidungen gelangt sind. Würde solche KI dann verboten werden, wenn die Vorgaben nicht erfüllt sind? Wer bestimmt das? Welche Strafen gibt es? Diese Fragen seien bisher ungeklärt, sagt Luxburg.

Optimistischer gestimmt ist Matthias Kettemann, Professor für Innovationsrecht an der Universität Innsbruck. "Im Bereich KI steht der Schutz der Menschen in der EU schon immer im Mittelpunkt." Er geht davon aus, dass das Gesetz weltweit beachtet und nachgeahmt werden wird. Deshalb sei es in Ordnung, dass so lange verhandelt wird. "Es dauert einfach, weil es ein wichtiges Gesetz ist." Jetzt sei ein guter Zeitpunkt, KI zu regulieren, weil die Aufmerksamkeit der Öffentlichkeit auf dem Thema liegt. Anders als bei Facebook und anderen Social-Media-Plattformen sei es noch nicht zu spät, politische Vorgaben zu machen.

Bremst die EU Innovationen aus? Experten kontern: Es darf nicht nur um Profit gehen

Sandra Wachter hofft, dass die EU-Politiker bis zum Winter Haftungsfragen noch stärker in den Blick nehmen. Sie vergleicht das mit einer Tonvase, bei der es Hersteller, Verkäufer und Käufer gibt. Bisher ziele die KI-Verordnung fast nur auf die Hersteller von KI-Systemen ab. Wer aber haftet, wenn aus einem Algorithmus eine Software wird, die Diagnosen für Patienten erstellt, Ärzte sich darauf verlassen, die KI aber falsch entscheidet? "Es ist wichtig, dass es eine Verantwortung über den gesamten Lebenszyklus des Produktes gibt." Diese Lücken seien aus Sicht der Expertin leicht zu schließen.

Den oft geäußerten Vorwurf, die EU bremse Innovation und die Entwicklung von KI in Europa aus, teilen die drei Forscher nicht. Die Wissenschaft sei von der Verordnung nicht betroffen, sagt Luxburg und sei deshalb nicht eingeschränkt. Wachter betont, dass es für Start-ups und kleine Unternehmen viele Ausnahmen gibt. Oft gehe es bei solcher Kritik nicht um Innovation, sondern um Profit. Beides sollte klar getrennt werden, findet die Juristin. "Man muss sich schon fragen: Will man Firmen auf dem Markt haben, die sagen: An ethische Richtlinien halten wir uns nicht?"