Die zunehmende Digitalisierung führt zwangsläufig zu ethischen Abwägungen. Es stellen sich Fragen zur Transparenz der Datenverarbeitung, zur Fairness in der KI, zur Sicherheit von IT und zum Datenschutz. Softwareexperten stehen daher zunehmend in der ethischen Verantwortung. Zertifizierungen, Standards und Methoden können helfen, Werteprinzipien einzuhalten, schreibt das IT-Profimagazin iX in der Ausgabe 8/2020.
Digitale Ethik wird oft mit Datenschutz gleichgesetzt. Es geht aber um mehr: In der Fachwelt hat sich der Begriff ELSI für Ethical, Legal, and Social Implications durchgesetzt. Er beschreibt die umfassenden Auswirkungen einer digitalen Anwendung auf ihren Kontext – rechtlich, sozial und ethisch-moralisch. „Bei dem ELSI-by-design-Ansatz werden mögliche Nutzeffekte und Risiken einer digitalen Anwendung in einer Matrix erfasst. Im nächsten Schritt formuliert man dann konkrete Anforderungen an das System, mit deren Hilfe man entweder ein Risiko vermeidet oder einen Nutzeffekt realisiert“, erläutert iX-Redakteurin Nicole Bechtel.
Darüber hinaus helfen gesetzlich verankerte Mindeststandards bei der Herstellung und dem Betrieb digitaler Güter und Dienstleistungen, Wertprinzipien einzuhalten, so wie es mit der DSGVO im Datenschutzbereich bereits umgesetzt ist. Auch der Ingenieursverband IEEE erarbeitet zurzeit ein Prozessrahmenwerk, das ethische Innovations- und Technikgestaltung beinhaltet. All diese Checklisten können aber nur eine Richtschnur sein, schreibt das iX-Magazin. Wichtig sei auch die Einstellung des Unternehmens, beispielsweise wie vertrauensvoll mit Kundendaten umgegangen wird. Ein gutes Beispiel ist hier die Corona-Warn-App.
„Eine Auseinandersetzung mit potenziellen ethischen Auswirkungen sollte auch bei scheinbar einfachen und Standard-Softwarelösungen stattfinden, sodass ungeplante ethische Nebenwirkungen frühzeitig erkannt, berücksichtigt und transparent gemacht werden können“, empfiehlt Bechtel. Noch besser sei es, wenn Ethikfachleute Entwicklungsprojekte kontinuierlich begleiten und beispielsweise in Form von iterativen Workshops zum Hinterfragen des eigenen Vorgehens, zum Eingrenzen von Problemen und zur Ableitung möglicher Lösungen auffordern. Dabei könnte man auch dem Dilemma algorithmischer Diskriminierung entgegenwirken. „Das Thema Gender-Bias in KI-Systemen wird bereits in großen Unternehmen wie Porsche, Microsoft und Accenture diskutiert“, sagt Bechtel.
Für die Redaktionen: Gerne stellen wir Ihnen die Artikelstrecke kostenlos zur Verfügung.
Digitale Ethik wird oft mit Datenschutz gleichgesetzt. Es geht aber um mehr: In der Fachwelt hat sich der Begriff ELSI für Ethical, Legal, and Social Implications durchgesetzt. Er beschreibt die umfassenden Auswirkungen einer digitalen Anwendung auf ihren Kontext – rechtlich, sozial und ethisch-moralisch. „Bei dem ELSI-by-design-Ansatz werden mögliche Nutzeffekte und Risiken einer digitalen Anwendung in einer Matrix erfasst. Im nächsten Schritt formuliert man dann konkrete Anforderungen an das System, mit deren Hilfe man entweder ein Risiko vermeidet oder einen Nutzeffekt realisiert“, erläutert iX-Redakteurin Nicole Bechtel.
Darüber hinaus helfen gesetzlich verankerte Mindeststandards bei der Herstellung und dem Betrieb digitaler Güter und Dienstleistungen, Wertprinzipien einzuhalten, so wie es mit der DSGVO im Datenschutzbereich bereits umgesetzt ist. Auch der Ingenieursverband IEEE erarbeitet zurzeit ein Prozessrahmenwerk, das ethische Innovations- und Technikgestaltung beinhaltet. All diese Checklisten können aber nur eine Richtschnur sein, schreibt das iX-Magazin. Wichtig sei auch die Einstellung des Unternehmens, beispielsweise wie vertrauensvoll mit Kundendaten umgegangen wird. Ein gutes Beispiel ist hier die Corona-Warn-App.
„Eine Auseinandersetzung mit potenziellen ethischen Auswirkungen sollte auch bei scheinbar einfachen und Standard-Softwarelösungen stattfinden, sodass ungeplante ethische Nebenwirkungen frühzeitig erkannt, berücksichtigt und transparent gemacht werden können“, empfiehlt Bechtel. Noch besser sei es, wenn Ethikfachleute Entwicklungsprojekte kontinuierlich begleiten und beispielsweise in Form von iterativen Workshops zum Hinterfragen des eigenen Vorgehens, zum Eingrenzen von Problemen und zur Ableitung möglicher Lösungen auffordern. Dabei könnte man auch dem Dilemma algorithmischer Diskriminierung entgegenwirken. „Das Thema Gender-Bias in KI-Systemen wird bereits in großen Unternehmen wie Porsche, Microsoft und Accenture diskutiert“, sagt Bechtel.
Für die Redaktionen: Gerne stellen wir Ihnen die Artikelstrecke kostenlos zur Verfügung.
