Biemann, Chris

Informatik: Sprachtechnologie

Mehr zur Person

Die Herausforderung:

Cognitive Computing ist ein neues Paradigma der künstlichen Intelligenz. Programme und Maschinen lernen aus natürlichen Interaktionen und passen sich automatisch an neue Kontexte an. Die Vorteile sind offensichtlich und doch wirken die Möglichkeiten irgendwie unheimlich. Die Angst vor dem Unbekannten fügt sich nicht in technisches Denken über Chancen und Risiken, nicht in ethische Fragen nach Verantwortung.

Aus der Diskussion:

Wenn Maschinen sich immer weiter selbst verbessern, dann folgen sie einer eigenen Dynamik. Ist der Nutzer dann wie der berühmte Frosch im lauwarmen Wasser, das sich langsam erhitzt bis das Wasser kocht? Vielleicht gewöhnen wir uns an Verantwortungsverschiebung und Kompetenzverlust bis unser Arzt eines Tages automatisierte Therapieempfehlungen erhält, ohne die Diagnose selbst nachvollziehen zu können. In einem solchen Fall, wer trägt die Verantwortung für Fehlentscheidungen? Da sich Technik bisher aber nicht selbst entwickelt, sondern gestaltet wird, entscheiden die heutigen Entwickler, welche Rolle der Mensch spielen soll, was genau also delegiert werden sollte an die überlegene Intelligenz der Maschine -- insbesondere bei der Auswertung großer Datensätze. Diese schwierige Gestaltungsaufgabe gehört offenbar in das Pflichtenheften der Technikentwickler.

Perspektiven:

Hier sind nicht nur die Entwickler selbst, sondern auch die Nutzer gefordert. Wie kann der Dialog zwischen ihnen aussehen und welche Rolle spielt hier so etwas wie eine Ethik des Design? Gerade an einer TU sollte dies vielleicht auch Eingang in die Studienpläne finden.