IT Research of Concern

Bewertung von Dual-Use Risiken in der Softwareentwicklung

Laufzeit: 1.2019 – 12.2021

---

Prof. Dr. Christian Reuter | Thea Riebe M.A. Doktorandin | FB 20, Fachgebiet Wissenschaft und Technik für Frieden und Sicherheit (PEASEC)

Prof. Dr. Alfred Nordmann | FB 2, Fachgebiet der Philosophie der Technowissenschaften

---

Projektbeschreibung:

Dual-Use Research of Concern (DURC) bezeichnet in den Lebenswissenschaften jene Forschung, die Wissen, Informationen, Produkte oder Technologien bereitstellen kann, welche großen Schaden anrichten oder ein Risiko für die nationale Sicherheit darstellen können, wenn sie missbräuchlich angewendet wird. Darauf bezugnehmend hat das Forschungsprojekt „IT Research of Concern: Bewertung von Dual-Use Risiken in der Softwareentwick- lung“ Methoden und Indikatoren der DURC- und Technikfolgenabschätzungs- (TA) Forschung für die Informatik in den Bereichen Künstliche Intelligenz (KI), Social Media Analytics (SMA) sowie Open Source Intelligence (OSINT) und Cybersicherheit analysiert. Die Bewertung von Dual-Use wurde anwendungs- und fallorientiert durchgeführt. Dabei werden Methoden der wertorientierten Designforschung, wie Value-Sensitive Design (VSD) auf Dual-Use Indikatoren und auf neue Quellen angepasst und somit für die Bewertung von Dual-Use nutzbar gemacht.

Beispielsweise stellt hier die Verwendung von Netzwerkforschung von Expertennetzwerken einen neuen Ansatz dar (Riebe, Schmid, Reuter, 2021, „Measuring Spillover Effects from Defense to Civilian Sectors – A Quantitative Approach Using LinkedIn“). Expertennetzwerke können sich aber auch in der gegenseitigen Zitation in Patenten äußern. Welche Rolle hier die Diffusion, d.h. die Verbreitung von Innovationen und normativen Konzepten wie Trustworhty AI in der EU und am Fall von KI gespielt haben, untersuchte die Studie "Dual-Use and Trustworthy? A Mixed Methods Analysis of AI Diffusion between Civilian and Defense R&D” (Schmid, Riebe, Reuter, 2022). Die Auswirkung der Regulierung von Dual-Use Gütern bei gleichzeitig globaler Verbreitung von Kommunikati- onstechnologien untersuchte die Studie „U.S. Security Policy: The Dual-Use Regulation of Cryptography and its Effects on Surveillance“ (Riebe, Kühn, Imperatori, Reuter, 2022). Die Ergebnisse dieser Arbeiten sind insb. in folgende erfolgreiche Drittmittelanträge gemündet: das BMBF-Konsortialprojekt CYWARN „Entwicklung von Strategien und Technologien zur Analyse und Kommunikation der Sicherheitslage im Cyberraum“ sowie das Regionale BMBF-Forschungszentrum „Transformations of Political Violence“.

Website

Mehr Informationen zu allen PEASEC Projekten

Stefka Schmid, Thea Riebe, Christian Reuter (2022) Dual-Use and Trustworthy? A Mixed Methods Analysis of AI Diffusion between Civilian and Defense R&D, Science and Engineering Ethics ;28(12):1–23.  doi:10.1007/s11948-022-00364-7 

Thea Riebe, Stefka Schmid, Christian Reuter (2021) Measuring Spillover Effects from Defense to Civilian Sectors – A Quantitative Approach Using LinkedIn, Defence and Peace Economics ;32(7):773–785.  doi:10.1080/10242694.2020.1755787 

Thea Riebe, Stefka Schmid, Christian Reuter (2020) Meaningful Human Control of Lethal Autonomous Weapon System: The CCW-Debate and its Implications for Value-Sensitive Design, IEEE Technology and Society Magazine ;39(4):36–51.

Thea Riebe, Christian Reuter (2019) Dual Use and Dilemmas for Cybersecurity, Peace and Technology Assessment, In: Christian Reuter: Information Technology for Peace and Security – IT-Applications and Infrastructures in Conflicts, Crises, War, and Peace. Wiesbaden, Germany: Springer Vieweg, , 165–184.  doi:10.1007/978-3-658-25652-4_8 

Thea Riebe, Stefka Schmid, Christian Reuter (2020)
Meaningful Human Control of Lethal Autonomous Weapon System: The CCW-Debate and its Implications for Value-Sensitive Design
IEEE Technology and Society Magazine ;39(4):36–51.  doi:10.1109/MTS.2020.3031846 

Thea Riebe, Amanda Langer, Marc-André Kaufhold, Nina Katharina Kretschmer, Christian Reuter (2019)
Werte und Wertekonflikte in sozialen Medien für die Vernetzung ungebundener Helfer in Krisensituationen – Ein Value-Sensitive Design Ansatz Mensch und Computer 2019 – Workshopband Hamburg, Germany.  doi:10.18420/muc2019-ws-133-05 

Markus Lederer, Alfred Nordmann, Christian Reuter (2018)
IANUS im FiF und darüber hinaus: Die Bedeutung natur- und ingenieurwissenschaftlicher Friedensforschung für die TU Darmstadt
In: Andreas Großmann, Heike Krebs, Josef Wiemeyer: Zwischendrin. 10 Jahre Forum interdisziplinäre Forschung der TU Darmstadt. Darmstadt: , , 71–89.