WDR: Spätestens seit ChatGPT ist "Künstliche Intelligenz" (KI) in aller Munde. Gibt es ein paar Beispiele, wo KI bereits heute im Alltag ganz sang- und klanglos ihren Dienst tut?
Prof. Katharina Zweig: Ja, tatsächlich ist es so, dass wir KI gar nicht mehr wahrnehmen, wenn sie einmal da ist. Wenn Sie heute morgen Ihr Handy mit Ihrem Gesicht entsperrt haben, dann steckt dahinter eine Gesichtserkennung - das ist "Künstliche Intelligenz". Vielleicht haben Sie auch eine Sprachnachricht diktiert oder etwas übersetzt - auch dahinter steckt KI.
Künstliche Intelligenzen sind sehr gut darin, Muster in großen Datenmengen zu erkennen. So gibt es in der Medizin KI, die helfen kann, Krebszellen und Ähnliches auf Bildern zu erkennen. Kann sie das schneller und möglicherweise besser als Menschen?
Zweig: Grundsätzlich funktioniert die heutige KI so, dass man mit sogenanntem Maschinellen Lernen versucht, in Daten aus der Vergangenheit statistische Muster zu finden. Man versucht also, der Maschine ganz viele Beispiele zu zeigen, etwa von Melanomen, also bösartigem Hautkrebs, aber auch von ganz harmlosen Leberflecken. Dann versucht die Maschine, mit Hilfe von statistischem Auszählen herauszufinden, welche Bilder eher auf ein Krebsgeschehen hindeuten und welche nicht. Schneller geht das auf jeden Fall, weil sie nur ein paar Millionen oder Milliarden Berechnungen macht - das ist für eine Maschine nicht viel. Ob das immer gut ist, muss man dann testen: Man gibt der Maschine erst Beispieldaten und danach Testdaten und schaut, ob sie das mit diesen Testdaten wirklich gut hinkriegt oder nicht.
Allerdings: Wenn wir zum Beispiel nur Bilder von weißen Patienten benutzen und deren besonderen Krebssorten, dann wird die Maschine mit Bildern von schwarzer Haut nicht so gut funktionieren. Die Maschine ist nur so gut wie die Daten, die man ihr gibt, und kann auch nur für diese Daten Aussagen treffen.
Vier Kategorien von KI
Zweig: “In meinem letzten Buch “Die KI war’s” habe ich versucht, eine Kategorisierung für KI zu finden. Demnach können KI-Systeme im Wesentlichen in vier verschiedenen Entscheidungssituationen erwogen werden:
- Wenn es um Fakten geht: Ob jemand Krebs hat oder nicht, ist ein Fakt. Wir können das mit alternativen Mitteln feststellen - zum Beispiel einer Gewebeprobe. Erfahrene menschliche Spezialisten können sagen, ob das Krebszellen sind oder nicht. Für so eine Diagnose kann man KI sehr gut verwenden. Das Problem ist: Es ist für Menschen nicht vollständig nachvollziehbar, wie die Maschine zu ihrer Diagnose kommt, aber wir können kontinuierlich testen, ob sie es noch gut genug macht.
- Es gibt Risikovorhersagen. Die Maschine könnte feststellen, ob ein Mensch Diabetes entwickelt oder ob ein bestimmtes Melanom vielleicht in ein paar Jahren bösartig wird. Da kann man in der Zukunft nachprüfen, ob die Maschine recht hatte oder nicht. Wir können dann wieder auf Zuverlässigkeit prüfen und deshalb KI in Erwägung ziehen.
- Dann gibt es sogenannte Werturteile: Das sind Situationen, in denen sich Experten nicht beliebig uneinig sein dürfen, wie zum Beispiel bei Noten in der Schule oder der Universität. Aber auch manche medizinischen Entscheidungen sind Werturteile - zum Beispiel die Frage, ob man einem Patienten eine bestimmte Therapie anbietet oder die Person ohne diese Therapie in Frieden sterben lässt, weil die Therapie kaum noch einen Nutzen hätte. Es geht also hier um das Abwägen von verschiedenen Gütern. Das kann die Maschine heute nicht, und da sollten wir die Finger von lassen.
- Man hofft manchmal, KI könnte ein besserer Politiker, eine bessere Politikerin sein. Aber Politiker stehen oft vor singulären Entscheidungen: Eine Pandemie gibt es glücklicherweise nur sehr selten und dann müssen Politiker und Politikerinnen in dieser Situation erstmalig bestimmte Entscheidungen treffen. Es gibt also keine Datengrundlage, mit der man die KI hätte trainieren können, und außerdem spielen Werturteile eine Rolle. Deshalb kann die Maschine dabei nicht helfen.”
Im Zweifel würden Sie also sagen, dass der Mensch auch noch eingreifen muss?
Zweig: Nein, nicht unbedingt. Es kommt darauf an, wie gut die Performance ist, aber die müssen wir kontinuierlich messen. Man muss immer wieder solche Testdatensets durch die Maschine laufen lassen und gucken, ob sie weiterhin mit einer hohen Rate diese Krebsarten erkennt oder nicht. Wenn Sie das verlässlich immer wieder gut tut, dann kann man dieser Maschine das anvertrauen und nur stichprobenartig Menschen drauf gucken lassen.
Auf der anderen Seite führt das natürlich dazu, dass menschliche Experten gar nicht mehr so häufig sind, denn auch die brauchen ja dieses Training, dass sie wirklich Krebs unter dem Mikroskop erkennen. Insofern müssen wir eine gute Balance finden. In den Studien, die ich zuletzt gelesen habe, ist es immer noch so, dass der Experte oder die Expertin besser ist als die Maschine und die Maschine besser ist als Berufsanfänger. Wenn Menschen und Maschinen gut zusammenarbeiten, dann werden wir wohl die besten Ergebnisse haben.
Viele von uns tragen Fitness-Tracker oder Smartwatches, die rund um die Uhr Daten über unseren Gesundheitszustand sammeln können, wenn wir das möchten. Kann KI vielleicht eine Schlüsseltechnologie für Prävention sein, weil die riesigen Datenmengen, die da entstehen, neue Erkenntnisse liefern können?
Zweig: Die Maschinen können gut aus Daten der Vergangenheit statistische Muster erheben. Damit kann man so eine Art Basislinie bilden. Wie benimmt sich ein Mensch normalerweise? Wann ist er aufgeregt oder macht Sport? Wann erhöht sich die Herzfrequenz und wie schlägt das Herz dann? Wenn sich dann plötzlich Abweichungen von der Normalität ergeben, kann die Maschine das bemerken. Sie erkennt, wenn etwas ganz anders ist als in den Jahren zuvor.
Das ist ein schönes Beispiel dafür, wie wir auch in Europa mit einem hohen Datenschutz gute KI-Systeme bauen können. Diese körpernahen Daten müssen nämlich nicht unbedingt den Fitness-Tracker verlassen, sondern können am Handgelenk bleiben. Die Maschine guckt sich an, was normal ist und wo Abweichungen sind - und dann kann man dem Arzt oder der Ärztin Zugang zu den Daten verschaffen.
Sehen Sie KI in der Medizin also als positiv bzw. als Chance oder sind Sie grundsätzlich eher skeptisch?
Zweig: Wir müssen grundlegend den wissenschaftlichen Verfahren folgen, gute Daten haben und uns Gedanken darüber machen, welche Art von KI-Prozedur am besten passt. Diese müssen wir ständig auf Zuverlässigkeit prüfen. Wenn wir das tun und die Maschine dann besser ist als der Mensch, können wir die KI guten Gewissens nutzen. Es muss uns aber immer im Gedächtnis bleiben, dass die Maschine uns im Gegensatz zu menschlichen Experten nicht beantworten kann, wie sie auf ihre Diagnose kommt. Das ist ein grundlegender Unterschied zwischen menschlichen und maschinellen Methoden. Aber solange die Zuverlässigkeit stimmt und diese regelmäßig geprüft wird, hätte ich persönlich keine Probleme, mich auch von einer KI diagnostizieren zu lassen.
Das Interview führte Urs Zietan.