„Die lernt nicht“: Das fehlt KI-Experten Thomas Bornheim

Schulen stärken den Bereich Medienkompetenz – auch weil es darum geht, dass die Kinder fit darin werden, die Ergebnisse der Künstlichen Intelligenz (KI) stets zu hinterfragen. Thomas Bornheim, der die Programmierschule 42 in Heilbronn als Geschäftsführer aufgebaut hat und jetzt eine weitere, darauf aufbauende IT-Schule etabliert, reicht das längst nicht. KI müsse selbst einschätzen können, sagt er, was der Mensch wolle. Man müsse der KI das Zweifeln beibringen, so sein Wunsch.

„Die großen Sprachmodelle können zweifeln“, sagt Thomas Bornheim. Was er genau mit „Zweifeln beibringen“ meint, beschreibt er mit zwei Beispielen: Die KI rechnet mit Wahrscheinlichkeiten, aber im medizinischen Bereich müssen KI-Ergebnisse stimmen. Anders sehe es aus, wenn man beispielsweise kreative Anregungen brauche und die KI einfach mal drauflos überlegen solle.

Künstliche Intelligenz und Zweifeln: Darauf kommt es beim Nutzer an

Wie stark man sich auf die KI verlassen wolle, hänge eben davon ab, wie man frage, so Thomas Bornheim. „Das müssen wir Menschen lernen“, sagt er: Wo könne man den KI-Ergebnissen vertrauen? „Wie wichtig ist mir Exaktheit?“, darauf kommt es seiner Ansicht nach an.

Zudem geht es Thomas Bornheim darum, dass die KI-Anwendungen ihre eigene Grenzen erkennen sollten. „Wir haben die Erwartung, dass die Sprachmodelle allwissende Menschen sind“, sagt er. Dem sei gerade nicht so: Schön wäre es seiner Ansicht nach deshalb, würde die KI wissen, wonach der Anwender gerade sucht – und ob sie dafür überhaupt die richtige Anwendung sei. 

KI lernt mit allen Datensätzen: Doch wie gut sind die überhaupt?

Künstliche Intelligenz lernt mit jedem neuen Datensatz dazu, doch für Thomas Bornheim ist dieses Lernen viel zu wenig. Was habe sie gestern geleistet, wie gut seien die Ergebnisse gewesen? Hierzu tue sich bei der KI zu wenig. „Damit muss man sich auseinandersetzen.“ Zumal ein Problem bleibt: KI-Anwendungen lernen mit Datensätzen, die ihnen die Anwender zur Verfügung gestellt werden.

Die Sprachmodelle seien auf Nutzer optimiert, so der IT-Experte, der vor seiner Zeit in Heilbronn bei Google gearbeitet hat. Die Sprachmodelle lernen mit allem dazu, was man ihnen zur Verfügung stellt. Wie gut diese neuen Daten aber seien, auch dazu fehlt die Einschätzung durch die KI. Thomas Bornheim wünscht sich eine Qualitätssicherung. „Wir haben ein großes Entwicklungsproblem.“

Trotz der Bedenken und Forderungen, Thomas Bornheim spricht sich fürs Ausprobieren aus und dafür, Fehler zu generieren. Er ist für Offenheit – gerade in der aktuellen Zeit, wo der Wettbewerb bei Künstlicher Intelligenz weltweit enorm groß ist. „Wir müssen wagen“, lautet seine Botschaft.