Im Projekt „Gemeinwohlorientierung im Zeitalter der Digitalisierung“ haben das FraunhoferInstitut für System- und Innovationsforschung (ISI) und das Ethikzentrum der Universität Tübingen (IZEW) anthropologische und ethische Konzepte mit Fokus auf Künstliche Intelligenz (KI) analysiert und entwickelt, sowie darauf aufbauend neue Einstiege in Narrative für gesellschaftliche Transformationen geschaffen. Zehn Anwendungsfelder für KI, die mit grundlegenden Veränderungen der Mensch-Technik-Umwelt-Beziehungen einhergehen können, wurden identifiziert und beschrieben. Dabei stand die Differenzierung zwischen empirisch beobachtbaren Entwicklungen und spekulativen Visionen im Zentrum der Analyse. Für zwei Themen wurden ethische Analysen durchgeführt: Affective Computing und Autonome Systeme zur Erschließung von für Menschen (bislang) unverfügbaren Räumen. Ethisch relevante zu berücksichtigende Punkte sind
(1) KI-basierte Manipulation und Täuschung von Emotionen,
(2) Beteiligung und Zugangsgerechtigkeit inklusive der Rolle privater Unternehmen,
(3) Extended Reality als besseres Lernen versus Entfremdung durch Entpersonalisierung und Entkörperlichung,
(4) Privatheit persönlicher Daten,
(5) Natürlichkeit versus Künstlichkeit und Authentizität hinsichtlich Emotionen,
(6) Autonome Systeme als Teil der Frontier-Ideologie der nutzenorientierten Technisierung der Natur versus Forderungen nach (partieller) Unverfügbarkeit von Räumen, (7) rein symptomorientierte Techno-Fix-Zugänge versus Suffizienzförderung durch KI,
(8) Modifikation von Verantwortungsrelationen durch KI,
(9) Dual use beziehungsweise starke militärische Beteiligung und Interessen an KI-Forschung.
Anknüpfungspunkte für die ethischen Befunde sind die Arenen Bildung für Nachhaltige Entwicklung und nachhaltiges Verhalten, die Unverfügbarkeit von Räumen im Anthropozän sowie Governance der Technikentwicklung. Mit Storyboards wurde ein Einstieg für neue Narrative zur Verfügung gestellt, der Umweltinteressierte und Medienschaffende dazu anregen soll, sich mit normativen Fragen der KI zu befassen. Der Abschlussbericht schließt mit der Formulierung von aktuellem Forschungsbedarf.
Link zur Publikation