Mehr zur Person

Die Herausforderung

Auf Künstlicher Intelligenz (KI) basierende Systeme können Menschen bei komplexen Problemstellungen in ihrer Entscheidungsfindung unterstützen. So können KI-Anwendungen mit hoher Genauigkeit Daten aus bildgebenden Verfahren der medizinischen Diagnostik auswerten und damit in der medizinischen Praxis zur unterstützenden Entscheidungsfindung herangezogen werden. Die Nutzung derartiger Systeme lässt indes neue metakognitive Fragestellungen zu Art und Weise der Interaktion sowie zum Einfluss der KI-Unterstützung auf die menschliche Entscheidungsfindung aufkommen.

Aus dem Vortrag

KI-Systeme für die Medizin haben in den letzten Jahren enorme Fortschritte erzielt, vor allem im Bereich der bildgebenden Diagnostik. Durch die Verfügbarkeit großer Datenmengen sind sie in der Lage, krankheitsbedingte Veränderungen in radiologischen Bildern zuverlässig zu diagnostizieren. Dies geht so weit, dass sich dies einer Studie zufolge mittlerweile negativ auf die Attraktivität des Berufsfelds der Radiologie auswirkt. Dennoch sind es menschliche Entscheidungsträger, die die Resultate unterstützender Systeme überwachen und interpretieren müssen. Dies ist zunächst unproblematisch, sofern die Diagnosen von Ärzten und KI-Systemen übereinstimmen. Hingegen eröffnen sich neue metakognitive Problemfelder in solchen Fällen, in denen KI und Ärzte zu verschiedenen Diagnosen kommen.

Um die Auswirkungen KI-generierter Ratschläge auf die Entscheidungsfindung von Ärzten genauer zu untersuchen, wurde in einem Experiment die diagnostische Leistung von Ärzten mit sowie ohne KI-Unterstützung verglichen. Die Ergebnisse zeigten, dass vor allem Ärzte von der Unterstützung durch die KI profitierten, insbesondere wenn die KI-gestützte Diagnose visuelle Hinweise zu den betroffenen Bereichen enthielt. Die KI-Unterstützung war besonders hilfreich für diejenigen, die nicht Experten auf dem jeweiligen Gebiet waren. Allerdings verschlechterte sich die diagnostische Leistung der Ärzte, wenn die KI selbst eine falsche Diagnose stellte.

Die metakognitiven Herausforderungen, die sich aus der Interaktion mit dem KI-System ergaben, zeigten sich durch unterschiedliche individuelle Reaktionen auf die KI-Unterstützung und beeinflussten die diagnostische Leistung der einzelnen. Hierbei waren Fragen des Abwägens zwischen dem KI-System als auch der eigenen Urteilskompetenz von großer Bedeutung. Bestimmte Strategien im Umgang mit unterstützenden KI-Systemen könnten demnach dabei helfen, die Vorteile dieser unterstützenden Systeme optimal zu nutzen. Hierzu kann es sinnvoll sein, die KI-Systeme dahingehend zu optimieren, dass sie den menschlichen Faktor berücksichtigen, um die diagnostische Qualität zu verbessern.

Perspektiven

Die Forschung im Bereich neuer metakognitiver Herausforderungen bei der Anwendung von KI-Systemen steht erst am Anfang. Ein Desiderat ist vor allem das Wissen über den Einfluss von unterstützenden KI-Systemen auf menschliche Entscheider. Mit Blick auf den Berufsstand der Radiologen zeigt sich derweil, dass diese sich selbst immer mehr zu KI-Experten entwickeln, die die zugrunde liegenden Modelle trainieren und implementieren.