Algorithmen sind diskriminierend – Digitale Ethik als Prävention

Ein US-Kunde erhob Ende 2019 Sexismus-Vorwürfe gegen Apple Card. Sein Kreditrahmen wurde 20-mal höher eingestuft als der seiner Frau. Steve Wozniak, Mitbegründer von Apple, meldete, dass ihm und seiner Frau dasselbe passiert sei, obwohl sie keine getrennte Bankkonten oder Vermögen hätten. Apple konnte die ungleiche Einstufung nicht erklären und war unverhofft mit einer behördlichen Untersuchung konfrontiert – wegen Diskriminierung (nau.ch / bbc.com).

Solche Schlagzeilen sind vermeidbar. Verantwortungsvolle datengestützte Unternehmen lassen sich von Digitalethik leiten und setzen deren Werkzeuge (Ethical CanvasEthics by DesignEthik-Kodex) ein. Sie wissen, was sie und ihre Algorithmen tun. Prävention und Werte generieren. Schwierig und machbar. 

Digitale Ethik erreicht das Bewusstsein von Mitarbeitenden und Führungskräften

Digitale Ethik (oder Digitalethik) schafft wertbasierte Leitlinien bei der Frage nach «richtigem» und «falschem» Verhalten im Umgang mit datengestützten Geschäftsmodellen und der Automatisierung interner Prozesse. Das Stimmungsbarometer 2022 Digitale Ethik der HWZ und des Center for Digital Responsibility zeigt, dass „Digitale Ethik“ im Bewusstsein von Mitarbeitenden und Führungskräften angekommen ist. Digitale Ethik wird als reputationsrelevant taxiert. Es gelingt erst einzelnen Unternehmen, dieses Bewusstsein in Taten umzusetzen und in ihre Geschäftstätigkeit zu integrieren.

Folgende Werkzeuge beschreiben, wie datengestützte Geschäftsmodelle die Balance zwischen Chancen und Herausforderungen der Digitalisierung finden.

Ethical Canvas analysiert ethische Aspekte von Produkten und Dienstleistungen

Für Details: Klick auf’s Bild (threebility.com)

 

In Analogie zum Business Model Canvas strukturiert und visualisiert das Ethical Canvas die ethischen Auswirkungen von Produkten und Services. Das Ethical Canvas beschreibt Chancen, identifiziert Risiken und initiiert passende Mitigationsmassnahmen.

Ethics by Design stellt Nutzer:innen ins Zentrum des Denkens

Ethics by Design zeigt, wie ethische Überlegungen in verschiedenen Phasen der Entwicklung miteinbezogen werden. Ethics by Design offenbart Wege, um ethische Richtlinien in konkrete Designpraktiken zu übersetzen und zu operationalisieren (by Law Insider). Produkte und Services werden wertbasiert entwickelt.

Ethik-Kodex für datengestützte Wertschöpfung gibt entlang des Daten-Lebenszyklus Empfehlungen, die sich an ethischen und prozeduralen Werten orientieren

Für Details: Klick auf’s Bild (data-innovation.org)

Der Ethik-Kodex adressiert Unternehmen und Organisationen, die datengestützte Services oder Produkte anbieten. Er bearbeitet systematisch ethische Fragen, die sich beim Entwicklen der Entwicklung oder Nutzung solcher Produkte und Services ergeben.  

Die drei ethischen Grundorientierungen SCHADENVERMEIDUNG, GERECHTIGKEIT, AUTONOMIE stehen für Werte, die in der Debatte um datenbasierte Wertschöpfung regelmässig auftreten​. Das Ziel dieser Grundorientierungen ist der Aufbau und Erhalt von Vertrauen in datenbasierte Produkte und Services. Dabei können Zielkonflikte auftreten, d.h. die Verwirklichung eines Wertes kann die Verfolgung anderer Werte einschränken.

Die drei prozeduralen Werte KONTROLLE, TRANSPARENZ, RECHENSCHAFT bilden Bindeglieder zwischen den ethischen Grundorientierungen und den konkreten Empfehlungen des Kodex. Die prozeduralen Werte behandeln nicht die Frage, was in ethischer Hinsicht getan werden sollte, sondern wie man diese Ziele erreicht. Sie sind Ausdruck gängiger Grundsätze für die Sicherung der Qualität von Produkten und Services sowie der Kontrolle von Unternehmensrisiken.

Bewusste Unternehmensführung unter Einbezug der Digitalethik ist umsetzbar. Digitale Services und Produkte dienen so den Benutzer:innen und nicht umgekehrt. Think big, start small, learn fast.


Links

Beitrag teilen

Jürg Hutter

Jürg Hutter arbeitet als Senior Produkt Manager bei der Schweizerischen Post im Bereich Digital Health. Er bloggt im Zusammenhang mit dem CAS Business Intelligence & Analytics. Die Post verfolgt konsequent ihr Ziel, Menschen, Unternehmen und Behörden intuitive digitale Interaktionen sowie den einfachen und sicheren Umgang mit ihren Daten zu ermöglichen. Dieser Beitrag beleuchtet das übergeordnete Thema der «Digitale Ethik».

Alle Beiträge ansehen von Jürg Hutter →

Schreibe einen Kommentar