Könnte KI medizinische Fehler reduzieren? Forscher testen Auswirkungen von GPT-4 auf die Patientensicherheit

Wenn es einen Bereich gibt, in dem die Verbreitung von künstlicher Intelligenz (KI) die größten positiven Auswirkungen haben könnte, dann ist es der medizinische Bereich. Hier wird die KI als ein Werkzeug betrachtet, das das Potenzial hat, die Welt der Patientenversorgung völlig zu verändern.

Experten zufolge sind die Möglichkeiten der KI in diesem Bereich endlos, wobei die Anwendungen von der Vorhersage des Krankheitsverlaufs bis hin zu völlig neuen Impfstoffen reichen. Ein Bereich, der auf wachsendes Interesse stößt, ist die Rolle der KI bei der Patientensicherheit, die nach wie vor ein wichtiges Anliegen im Gesundheitswesen ist.

Eine neue Studie von Forschern der Boston University School of Medicine untersuchte, wie KI diesen Bereich verbessern könnte, und analysierte das fortschrittliche KI-Modell GPT-4, um seine Fähigkeit zu bewerten, Fachkräfte im Gesundheitswesen bei der Verbesserung von Sicherheitsergebnissen zu unterstützen.

Das Team testete GPT-4 mit Hilfe der CPPS-Prüfung (Certified Professional in Patient Safety), einem standardisierten Test, mit dem Fachleute ihr Verständnis von Sicherheitsprotokollen nachweisen können. Dabei wurde das Wissen über Patientensicherheit in mehreren Schlüsselbereichen bewertet.

Der Studie zufolge schnitt das KI-Modell bemerkenswert gut ab und beantwortete 88 % der Fragen richtig, was darauf hindeutet, dass KI einen Beitrag zu den Bemühungen leisten kann, medizinische Fehler zu reduzieren und die Ergebnisse für die Patienten zu verbessern. Derzeit wird davon ausgegangen, dass medizinische Fehler allein in den USA jährlich rund 400.000 Todesfälle verursachen.

Es werden mehr Beweise benötigt

Während frühere Studien die Leistung von KI in verschiedenen Tests im Gesundheitswesen bewertet haben, ist dies die erste Studie, die die Technologie speziell im Bereich der Patientensicherheit testet.

"Unsere Studie ist der erste solide Nachweis für ihre Kompetenz speziell im Bereich der Patientensicherheit", sagte Nicholas Cordella, einer der Hauptautoren der Studie. Er fügte hinzu, dass das Modell besonders gut in Bereichen wie Patientensicherheit und Lösungen, Leistungsmessung und -verbesserung sowie Systemdenken und Design/menschliche Faktoren abschneidet, die alle "wesentliche Komponenten für die Verbesserung der Sicherheit im klinischen Umfeld" sind.

Trotz dieser vielversprechenden Ergebnisse hüten sich die Forscher davor, die derzeitigen Fähigkeiten der Technologie überzubewerten. Die Studie deutet zwar darauf hin, dass KI Ärzten und anderen Klinikern helfen kann, Fehler zu erkennen und zu vermeiden, aber es gibt immer noch Grenzen.

Cordella und sein Team wiesen darauf hin, dass KI-Modelle wie GPT-4 immer noch anfällig für Probleme wie Verzerrungen, falsches Vertrauen und die Generierung gefälschter Daten sind, die gemeinhin als "Halluzinationen" bezeichnet werden. Er wies auch darauf hin , dass die Studie nur ein erster Schritt sei, um zu verstehen, wie KI in Gesundheitssysteme integriert werden könnte, und keineswegs abschließend sei.

"Unsere Ergebnisse deuten darauf hin, dass KI das Potenzial hat, die Patientensicherheit erheblich zu verbessern. Dies ist ein wichtiger Schritt auf dem Weg zur Nutzung dieser Technologie, um vermeidbare Schäden zu verringern und bessere Ergebnisse in der Gesundheitsversorgung zu erzielen", sagte Cordella.

"Es ist jedoch wichtig zu erkennen, dass dies nur ein erster Schritt ist, und wir müssen KI-Anwendungen rigoros testen und verfeinern, um die Patientenversorgung wirklich zu verbessern."

-------------------------------------

Quellenhinweis:

Cordella, Nicholas and James Moses. "Artificial Intelligence and the Practice of Patient Safety: GPT-4 Performance on a Standardized Test of Safety Knowledge." The Joint Commission Journal on Quality and Patient Safety, 2024.