Mensch KI
Metakognitionen in der Mensch-KI-Interaktion
Laufzeit:
06.2023 – 06.2025
Prof. Dr. Monika Undorf | FB 3, Angewandte Kognitionspsychologie
Prof. Dr. Ekaterina Jussupow | FB 1, Wirtschaftsinformatik
---
Projektbeschreibung:
Immer häufiger arbeiten Menschen bei komplexen kognitiven Aufgaben mit Systemen zusammen, die auf künstlicher Intelligenz (KI) basieren. Die KI-unterstützte Entscheidungsfindung stellt menschliche Entscheidungsträger:innen vor neue Anforderungen: Sie müssen neben ihren eigenen Problemlösungen auch die Vorschläge der KI überwachen, interpretieren, bewerten und verfeinern. Für diese Aktivitäten sind menschliche Metakognitionen von entscheidender Bedeutung. In diesem vom Forum interdisziplinäre Forschung geförderten Projekt kombinieren wir methodische und theoretische Ansätze aus Psychologie und Wirtschaftsinformatik, um die Rolle von Metakognitionen bei der KI-unterstützten Entscheidungsfindung zu untersuchen. Unsere Ergebnisse belegen einerseits, dass hohe metakognitive Fähigkeiten ein wichtiger Erfolgsfaktor für KI-unterstützte diagnostische Entscheidungen bei medizinischen Expert:innen sind. Andererseits schätzen Studierende Lösungen, die sie gemeinsam mit einer generativen KI erarbeitet haben, metakognitiv ebenso richtig ein wie die Lösungen, die sie ohne KI-Unterstützung erarbeitet haben. Damit können die Studierenden sehr gut einschätzen, wie gut ihnen das KI-System hilft. Ergebnisse des Projekts wurden auf internationalen und nationalen Konferenzen vorgestellt, sind in drei eingereichte Drittmittelanträge eingeflossen und stellen die Grundlage für zwei eingereichte und vier geplante wissenschaftliche Publikationen dar. Während der Projektlaufzeit ergaben sich Themen für etwa 20 Abschlussarbeiten und für die wissenschaftliche Vernetzung innerhalb und außerhalb der TU Darmstadt. Das geförderte Projekt legt zudem den Grundstein für ein umfassenderes interdisziplinäres Forschungsprogramm zu Metakognitionen in der Mensch-KI Kollaboration
