KI kann wie ein Arzt denken – aber das ist erst der Anfang des Problems
Künstliche Intelligenz erzielt mittlerweile Spitzenwerte bei medizinischen Denktests. Die eigentlich schwierigere Frage ist, was das für Patienten und die Zukunft der Medizin bedeutet.
Noch vor wenigen Jahren galt es als Meilenstein, als ein KI-System das US-amerikanische Staatsexamen für Mediziner bestand. Heute ist das schlicht Mindestanforderung. Modelle wie GPT-4 und seine Nachfolger erzielen bei medizinischen Reasoning-Benchmarks routinemäßig Ergebnisse im oberen Leistungsbereich menschlicher Probanden – und in bestimmten Bereichen, etwa bei der Auswertung radiologischer Bilder oder der Erkennung bestimmter Hautkrebsarten, übertreffen sie bereits den Durchschnitt von Fachärzten. Ein Kommentar in Science zieht Bilanz, wo die Medizin damit steht: nicht mit Antworten, sondern mit einer Reihe drängender, weitgehend offener Fragen.
Die zentrale Unterscheidung, die die Autoren treffen, ist die zwischen dem Denken eines Arztes und dem Verstehen wie ein Arzt. Große Sprachmodelle werden auf enormen Mengen medizinischer Texte trainiert – sie kennen die Zusammenhänge, die klinischen Muster, die Fachterminologie. Doch sie haben keine Beziehung zum Patienten, kein Verantwortungsgefühl für das Ergebnis und keine Fähigkeit, ihre Schlussfolgerungen so zu erläutern, dass ein Kollege sie wirklich hinterfragen und prüfen könnte. Transparenz und Rechenschaftspflicht, beides Grundpfeiler medizinischer Praxis, sind in aktuellen KI-Systemen strukturell unterentwickelt.
Die Lücke zwischen Benchmark und Krankenbett
Hinzu kommt ein methodisches Problem, das ernst genommen werden sollte. Die Tests, anhand derer KI-Systeme bewertet werden, messen größtenteils die Fähigkeit, in klinischen Multiple-Choice-Szenarien die richtige Antwort anzukreuzen. Das ist etwas grundlegend anderes als ein persönliches Patientengespräch, das Lesen nonverbaler Signale, der Umgang mit Unsicherheit in Echtzeit oder das Treffen von Entscheidungen bei unvollständiger Informationslage unter Zeitdruck. Ärzte tun all das ständig. KI-Systeme werden daran kaum systematisch gemessen.
Dazu kommt das Problem des Datenlecks: Große Sprachmodelle wurden möglicherweise auf Material trainiert, das den Fragen, an denen sie später getestet werden, stark ähnelt – was die scheinbare Leistungsfähigkeit künstlich aufbläht. Damit wird es schwer einzuschätzen, ob beeindruckende Benchmark-Ergebnisse auch zu zuverlässigen Leistungen in wirklich neuartigen klinischen Situationen führen – genau jenen, mit denen Ärzte täglich konfrontiert sind.
Integration ohne Leitplanken
Der Kommentar ist keineswegs ein Plädoyer für Vorsicht gegenüber KI in der Medizin – ganz im Gegenteil. Die Autoren sehen erhebliches Potenzial, insbesondere bei der Unterstützung von Ärzten in ressourcenarmen Versorgungsumgebungen, der Beschleunigung von Diagnostik und der Auswertung komplexer medizinischer Fachliteratur im großen Maßstab. Was sie einfordern, ist eine strenge Validierung, klare Regulierungsrahmen und praktikable Strukturen der Verantwortlichkeit.
Gerade dieser letzte Punkt erscheint am wenigsten gelöst. Wenn eine KI-gestützte Empfehlung sich als falsch herausstellt – wer trägt dann die Verantwortung? Der Arzt, der ihr gefolgt ist? Der Entwickler, der das System gebaut hat? Das Krankenhaus, das es eingesetzt hat? Diese Frage ist weder rechtlich noch ethisch geklärt. Und sie wird drängender, je mehr KI-Systeme von einer beratenden Rolle in die direkte Beteiligung an diagnostischen Entscheidungen rücken. Dass KI heute wie ein Arzt denken kann, ist bemerkenswert. Dass die Medizin noch nicht weiß, was sie damit anfangen soll, ist es ebenso.