Dresdner Forscher entwickeln lokalen KI-Entscheidungshelfer
Der Arzt-Agent im simulierten Dialog
Bisherige medizinische KI-Anwendungen wurden meist mit statischen Daten gefüttert. Das Dresdner Forschungsteam um Prof. Jakob N. Kather am Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit wählte im Rahmen seiner in Nature Medicine veröffentlichten Studie einen dynamischeren Ansatz. Die Grundlage bildet der im Juni 2026 vorgestellte KI-Agent MIRA. In einer speziellen Simulationsumgebung ließen die Forschenden zwei KI-Agenten miteinander interagieren: Einer übernahm die Rolle des behandelnden Arztes, der andere die des Patienten.
Anhand anonymisierter elektronischer Patientendaten simulierten die Agenten standardisierte klinische Notfälle – von der Blinddarmentzündung über Lungenembolien bis hin zu Harnwegsinfektionen. Der Clou: Der ärztliche KI-Agent durfte selbstständig Rückfragen stellen, Laborwerte anfordern und Befunde bewerten, um am Ende eine begründete Diagnose zu formulieren. In zwei Testreihen erreichte das beste lokal betriebene Modell eine diagnostische Genauigkeit von 84 beziehungsweise 90 Prozent. Ein zusätzlicher Abgleich mit realen Medizinerinnen und Medizinern zeigte in über 90 Prozent der Fälle eine vollständige Übereinstimmung mit dem ärztlichen Konsens.
Die Entdeckung des Konsistenz-Prinzips
Neben der bloßen Treffsicherheit stand eine fundamentale Frage im Fokus: Wie lässt sich im Klinikalltag erkennen, ob eine KI-Diagnose im konkreten Einzelfall verlässlich ist? Die Entwickler machten dabei eine überraschende Entdeckung. Die vom Modell selbst ausgegebenen, internen Wahrscheinlichkeitswerte erwiesen sich als schlechte Indikatoren. In Stresstests, bei denen dem System absichtlich wichtige klinische Informationen entzogen wurden, sank die Treffsicherheit zwar drastisch, die interne Zuversicht des Modells blieb jedoch fälschlicherweise hoch.
Als hochgradig verlässlich erwies sich stattdessen ein anderes Kriterium: die Konsistenz. Ließen die Forschenden das System denselben Fall mehrfach hintereinander analysieren und kam die KI jedes Mal zum identischen Ergebnis, war die Diagnose mit extrem hoher Wahrscheinlichkeit korrekt. Auf dieser Erkenntnis basiert das neue Konzept der „selektiven Autonomie“: Fälle mit maximal konsistenten KI-Diagnosen könnten künftig automatisiert unterstützt werden, während uneindeutige oder schwankende Ergebnisse sofort an das medizinische Fachpersonal zur manuellen Überprüfung weitergeleitet werden.
„Unser Ziel ist ein KI-Agent mit selektiver Autonomie. Diese Systeme sollen Ärztinnen und Ärzte bei der Entscheidungsfindung unterstützen, diese aber niemals komplett übernehmen. Deshalb ist es wichtig, dass Ergebnisse der KI nachvollziehbar sind und die Systeme transparent machen, wo sie unsicher sind. Die Verantwortung für Diagnose und Therapie wird aber auch in Zukunft immer beim Menschen bleiben.“
Prof. Jakob N. Kather, Professor für Klinische Künstliche Intelligenz an der TU Dresden [1]
Datensouveränität durch lokalen On-Premise-Betrieb
Das System wurde so konzipiert, dass es vollständig „on-premise“, also auf der lokalen Infrastruktur der jeweiligen medizinischen Einrichtung, betrieben werden kann. Es fließen zu keinem Zeitpunkt Daten ab, und die Institution behält die volle Kontrolle über Datensicherheit, Modellversionen und Zugriffsrechte.
Prof. Kather sieht in dieser lokalen Ausrichtung auch den Schlüssel, um die europäische Medizin-IT international konkurrenzfähig zu machen. Statt die Entwicklung aus Sorge um den Datenschutz zu verlangsamen, plädiert er für mehr Tempo – vorausgesetzt, die Systeme werden sicher und datensouverän direkt in den Kliniken betrieben. Dafür müsse Europa jedoch auch verstärkt eigene Sprachmodelle entwickeln, um nicht dauerhaft von außereuropäischer Infrastruktur abhängig zu sein.
Die nächsten Schritte zur klinischen Praxis
Obwohl die Ergebnisse einen Meilenstein markieren, betonen die Autoren, dass vor einem echten Live-Einsatz noch wichtige Fragen gelöst werden müssen. So zeigte die retrospektive Datenanalyse unerwartete Unterschiede zwischen verschiedenen Patientengruppen. Warum das System beispielsweise bei simulierten Fällen älterer Patientinnen und Patienten eine geringere Genauigkeit aufwies, ist derzeit noch unklar und Gegenstand laufender Untersuchungen.
Zudem erfordert das Konsistenz-Prinzip durch die mehrfachen Analysedurchgänge pro Fall derzeit noch einen hohen Rechenaufwand. Das Team arbeitet deshalb intensiv daran, die Effizienz der lokalen Algorithmen weiter zu steigern. Im nächsten Schritt soll die MIRA-Technologie unter realen Bedingungen – im laufenden Betrieb und mit echten Ärztinnen und Ärzten im Entscheidungsprozess – erprobt werden, um die Brücke von der datenwissenschaftlichen Spitzenforschung zur direkten Entlastung am Krankenbett zu schlagen.