idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Indem sie eine personalisierte Diagnose und Behandlung ermöglichen, werden KI-Modelle die Krebsbehandlung verändern. Modelle der sogenannten allgemeinen medizinischen Künstlichen Intelligenz (Generalist Medical Artificial Intelligence – GMAI) stellen den derzeitigen Rechtsrahmen vor große Herausforderungen. In einem Kommentar, der in der Fachzeitschrift Nature Reviews Cancer veröffentlicht wurde, diskutieren Stephen Gilbert und Jakob N. Kather, beide Professoren am EKFZ für Digitale Gesundheit der TU Dresden, wie die Regulierung dieser Modelle in Zukunft gehandhabt werden könnte.
Ob die derzeitigen Rahmenbedingungen radikal angepasst, generalistische Ansätze blockiert oder in enge Bahnen gelenkt werden sollen, müssen politische Entscheidungsträger regeln.
Gegenwärtige KI-Modelle für die Krebsbehandlung werden nur für bestimmte Zwecke trainiert und zugelassen. Im Gegensatz dazu können GMAI-Modelle ein breites Spektrum medizinischer Daten verarbeiten, darunter verschiedene Arten von Bildern und Text. Bei Erkrankten mit Darmkrebs könnte ein einziges GMAI-Modell beispielsweise Endoskopievideos, pathologische Gewebeschnitte und Daten aus der elektronischen Patientenakte interpretieren. Solche Mehrzweck- oder Generalistenmodelle stellen einen Paradigmenwechsel weg von den bisherigen, eng definierten KI-Modellen dar.
Die Zulassungsbehörden stehen bei der Regulierung dieser neuen Modelle vor einem Dilemma, da die derzeitigen Regelungen für Anwendungen mit einem definierten und festen Zweck, bestimmten klinischen Indikationen und einer spezifischen Zielgruppe konzipiert sind. Eine Anpassung oder Erweiterung nach der Zulassung ist nicht möglich, ohne das Qualitätsmanagement und die regulatorischen, administrativen Prozesse erneut zu durchlaufen. GMAI-Modelle mit ihrer Anpassungsfähigkeit und ihrem Vorhersagepotenzial auch ohne zuvor für diese spezifischen Beispiele trainiert worden zu sein – dem sogenannten Zero Shot Reasoning – stellen daher eine Herausforderung für die Validierung und Zuverlässigkeitsbewertung dar. Sie sind derzeit von allen internationalen Regelungen ausgeschlossen.
Die Autoren weisen darauf hin, dass die bestehenden rechtlichen Vorgaben aufgrund der Eigenschaften von GMAI-Modellen nicht für deren Regulierung geeignet sind. „Wenn diese Regelungen unverändert bleiben, könnten hybride Ansätze eine mögliche Lösung sein. GMAIs würden zunächst als Medizinprodukte zugelassen und danach könnte die Bandbreite der zulässigen klinischen Prompts eingeschränkt werden“, sagt Prof. Stephen Gilbert, Professor für Medical Device Regulatory Science an der TU Dresden. „Aber dieser Ansatz schränkt Modelle mit dem Potenzial, neue Fragen und multimodale Daten auf intelligente Weise zu behandeln, stark ein – durch Regeln, die geschrieben wurden, als diese Technologien noch gar nicht absehbar waren. Es sollten spezifische Entscheidungen zum Umgang mit diesen Technologien getroffen werden – ohne dabei ihre Fähigkeit auszuschließen, Fragen zu beantworten, für die sie nicht speziell entwickelt wurden. Neue Technologien erfordern manchmal neue Paradigmen in der Regulierung“, sagt Prof. Gilbert.
Die Forscher argumentieren, dass es unmöglich sein wird, Patientinnen und Patienten sowie medizinisches Fachpersonal davon abzuhalten, generische Modelle oder nicht zugelassene Unterstützungssysteme für medizinische Entscheidungen zu verwenden. Deshalb sei es wichtig, die zentrale Rolle der Ärztinnen und Ärzte zu erhalten und sie als befähigte Übersetzerinnen und Übersetzer von Informationen zu stärken.
Zusammenfassend schlagen die Autoren einen flexiblen Regulierungsansatz vor, der die einzigartigen Merkmale von GMAI-Modellen berücksichtigt und gleichzeitig die Patientensicherheit gewährleistet sowie die Entscheidungsfindung von Medizinerinnen und Medizinern unterstützt. Sie weisen darauf hin, dass ein starrer regulatorischer Rahmen den Fortschritt in der KI-gestützten Gesundheitsversorgung behindern könnte und fordern einen nuancierten Ansatz, der Innovation und Patientenwohl gleichermaßen berücksichtigt.
Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit
Das EKFZ für Digitale Gesundheit an der TU Dresden und dem Universitätsklinikum Carl Gustav Carus Dresden wurde im September 2019 gegründet. Es wird mit einer Fördersumme von 40 Millionen Euro für eine Laufzeit von zehn Jahren von der Else Kröner-Fresenius-Stiftung gefördert. Das Zentrum konzentriert seine Forschungsaktivitäten auf innovative, medizinische und digitale Technologien an der direkten Schnittstelle zu den Patientinnen und Patienten. Das Ziel ist dabei, das Potenzial der Digitalisierung in der Medizin voll auszuschöpfen, um die Gesundheitsversorgung, die medizinische Forschung und die klinische Praxis deutlich und nachhaltig zu verbessern.
Technische Universität Dresden (TUD)
Die Technische Universität Dresden (TUD) zählt als Exzellenzuniversität zu den leistungsstärksten Forschungseinrichtungen Deutschlands. Sie ist mit rund 8.300 Mitarbeitenden sowie rund 29.000 Studierenden in 17 Fakultäten eine der größten technisch ausgerichteten Universitäten. Im Jahr 1828 gegründet, ist sie heute eine global bezogene, regional verankerte Spitzenuniversität, die innovative Beiträge zur Lösung weltweiter Herausforderungen leisten will. In Forschung und Lehre vereint sie Ingenieur- und Naturwissenschaften mit den Geistes- und Sozialwissenschaften und der Medizin. Diese bundesweit herausragende Vielfalt an Fächern ermöglicht der Universität, die Interdisziplinarität zu fördern und Wissenschaft in die Gesellschaft zu tragen.
Kontakt
EKFZ für Digitale Gesundheit
Anja Stübner und Dr. Viktoria Bosak
Presse- und Öffentlichkeitsarbeit
Tel.: +49 351 – 458 11379
news.ekfz@tu-dresden.de
digitalhealth.tu-dresden.de
Stephen Gilbet and Jakob N. Kather: Guardrails for the use of generalist AI in cancer care, Nature Reviews Cancer 2024. Link: https://www.nature.com/articles/s41568-024-00685-8
Merkmale dieser Pressemitteilung:
Journalisten, Wissenschaftler
Informationstechnik, Medizin
überregional
Forschungsprojekte, Wissenschaftliche Publikationen
Deutsch
Sie können Suchbegriffe mit und, oder und / oder nicht verknüpfen, z. B. Philo nicht logie.
Verknüpfungen können Sie mit Klammern voneinander trennen, z. B. (Philo nicht logie) oder (Psycho und logie).
Zusammenhängende Worte werden als Wortgruppe gesucht, wenn Sie sie in Anführungsstriche setzen, z. B. „Bundesrepublik Deutschland“.
Die Erweiterte Suche können Sie auch nutzen, ohne Suchbegriffe einzugeben. Sie orientiert sich dann an den Kriterien, die Sie ausgewählt haben (z. B. nach dem Land oder dem Sachgebiet).
Haben Sie in einer Kategorie kein Kriterium ausgewählt, wird die gesamte Kategorie durchsucht (z.B. alle Sachgebiete oder alle Länder).
