IT Research of Concern
Bewertung von Dual-Use Risiken in der Softwareentwicklung
Laufzeit: 1.2019 – 12.2021
---
Prof. Dr. Christian Reuter | Thea Riebe M.A. Doktorandin | FB 20, Fachgebiet Wissenschaft und Technik für Frieden und Sicherheit (PEASEC)
Prof. Dr. Alfred Nordmann | FB 2, Fachgebiet der Philosophie der Technowissenschaften
---
Projektbeschreibung:
Dual-Use Research of Concern (DURC) bezeichnet in den Lebenswissenschaften jene Forschung, die Wissen, Informationen, Produkte oder Technologien bereitstellen kann, welche großen Schaden anrichten oder ein Risiko für die nationale Sicherheit darstellen können, wenn sie missbräuchlich angewendet wird. Darauf bezugnehmend hat das Forschungsprojekt „IT Research of Concern: Bewertung von Dual-Use Risiken in der Softwareentwick- lung“ Methoden und Indikatoren der DURC- und Technikfolgenabschätzungs- (TA) Forschung für die Informatik in den Bereichen Künstliche Intelligenz (KI), Social Media Analytics (SMA) sowie Open Source Intelligence (OSINT) und Cybersicherheit analysiert. Die Bewertung von Dual-Use wurde anwendungs- und fallorientiert durchgeführt. Dabei werden Methoden der wertorientierten Designforschung, wie Value-Sensitive Design (VSD) auf Dual-Use Indikatoren und auf neue Quellen angepasst und somit für die Bewertung von Dual-Use nutzbar gemacht.
Beispielsweise stellt hier die Verwendung von Netzwerkforschung von Expertennetzwerken einen neuen Ansatz dar (Riebe, Schmid, Reuter, 2021, „Measuring Spillover Effects from Defense to Civilian Sectors – A Quantitative Approach Using LinkedIn“). Expertennetzwerke können sich aber auch in der gegenseitigen Zitation in Patenten äußern. Welche Rolle hier die Diffusion, d.h. die Verbreitung von Innovationen und normativen Konzepten wie Trustworhty AI in der EU und am Fall von KI gespielt haben, untersuchte die Studie "Dual-Use and Trustworthy? A Mixed Methods Analysis of AI Diffusion between Civilian and Defense R&D” (Schmid, Riebe, Reuter, 2022). Die Auswirkung der Regulierung von Dual-Use Gütern bei gleichzeitig globaler Verbreitung von Kommunikati- onstechnologien untersuchte die Studie „U.S. Security Policy: The Dual-Use Regulation of Cryptography and its Effects on Surveillance“ (Riebe, Kühn, Imperatori, Reuter, 2022). Die Ergebnisse dieser Arbeiten sind insb. in folgende erfolgreiche Drittmittelanträge gemündet: das BMBF-Konsortialprojekt CYWARN „Entwicklung von Strategien und Technologien zur Analyse und Kommunikation der Sicherheitslage im Cyberraum“ sowie das Regionale BMBF-Forschungszentrum „Transformations of Political Violence“.
