Eine Entscheidung impliziert das Ende der Reflexion und den Beginn des Handelns. Wie sich Mensch und Maschine im Entscheidungsprozess unterscheiden und wie ein hybrider Ansatz helfen kann, zu besseren Entscheiden zu kommen, beleuchtet dieser Artikel.
Das Leben als Summe unserer Entscheidungen
Jeden Tag treffen wir tausende Entscheidungen. Für Albert Camus ist das Leben an sich die Summe all unserer Entscheidungen. Entscheidungen benötigen immer mehr oder weniger Zeit und Energie. Langsame Entscheidungen verlangsamen unser Leben. Andererseits verursachen schlechte Entscheidungen Probleme, die wir nicht haben wollen.
Vom menschlichen…
Der Entscheidungsprozess besteht darin, Alternativen zu benennen und Informationen zu sammeln, um dann Wahlmöglichkeiten zu bewerten. Darauf basierend kommt es zu einer Handlungsabsicht, zu einer Entscheidung. Dabei spielt der erwartete Nutzen eine zentrale Rolle. Komplexe Umstände, begrenzte Zeit und unzureichende mentale Rechenleistung bringen uns jedoch in einen Zustand «begrenzter Rationalität». Studien mit gehirngeschädigten Patienten zeigen, dass es ohne Emotionen unmöglich ist, Entscheidungen zu treffen. Kahnemann wiederum unterscheidet zwei Denksysteme in unserem Gehirn. Das erste System («schnelles Denken») arbeitet automatisch, assoziativ und ohne direkte Steuerung. Das zweite System («langsames Denken») prüft, rechnet nach und vergleicht. Der Wirtschaftsnobelpreisträger kommt zum Schluss, dass unser Gehirn faul ist und vom schnellen Denken dominiert wird. Weil es einfacher ist, bearbeiten wir oft nur Teilbereiche eines Problems und treffen folglich Entscheidungen, die auf zu wenig Fakten beruhen. Zudem neigen wir dazu, vorgefasste Meinungen bestätigt sehen zu wollen. Schliesslich besteht eine Gefahr, dass wir oft von wenigen Eigenschaften auf das grosse Ganze schliessen. Für Kahnemann lohnt es sich deshalb, bei schwierigen Entscheidungen bewusst dem langsamen Denken den Vorzug zu geben.
…zum algorithmisierten Entscheidungsprozess
Wir sind heute an einem Punkt, wo wir Rechenkapazität, Algorithmen aber auch ausreichend Daten haben, um die Komplexität unserer Welt mit algorithmisierten Entscheidungssystemen besser in den Griff zu bekommen. Zahlreiche Studien belegen mittlerweile kausal die relative Performanz datengetriebener Entscheidungsprozesse. Datenanalysen helfen, die finanzielle Leistung zu verbessern, die Produktivität zu steigern, die Risiken zu verringern und Entscheidungen schneller zu treffen.
Doch wie entscheiden Maschinen? Algorithmen des maschinellen Lernens bekommen Daten und Informationen über ein zu lernendes Verhalten und leiten daraus Entscheidungsregeln ab. Im Beispiel sind Alter und Geschlecht von Autofahrern angegeben und die Information, ob sie in den letzten drei Jahren einen selbstverursachten Unfall hatten (grün: nein; rot: ja). Der Algorithmus findet nun Regeln, welche die Daten möglichst gut so in zwei kleinere Mengen aufteilen, so dass in der gleichen Menge fast alle entweder einen Unfall hatten oder fast alle keinen. Diese Regeln können dann dazu benutzt werden, die Unfallgefährdung für neue Versicherungsnehmer abzuschätzen.
Algorithmische Entscheidungen: Transparenz und Kontrolle (Katharina A. Zweig, 2019)
Das Resultat ist jedoch stark von den verwendeten Daten abhängig. Darüber hinaus lässt sich das Zustandekommen der Ergebnisse in der Regel nicht nachvollziehen. Für Befürworter von «Algorithm Accountability» bedürfen selbstlernende Systeme daher einer speziellen Kontrolle, wenn sie Entscheidungen über Menschen treffen und Fehlentscheidungen einzelne Individuen bzw. die Gesellschaft als Ganzes schädigen können. Untersuchungen des Phänomens «Algorithm Aversion» zeigen, dass Menschen eher bereit sind, sich auf Algorithmen einzulassen, wenn sie auch nur etwas Kontrolle im Entscheidungsprozess behalten. Die marginale Verschlechterung des Algorithmus durch die menschliche Einflussnahme ist also der Akzeptanz der Zweifler gegenüberzustellen.
Das Beste aus beiden Welten
KI-Experten wie Gentsch gehen davon aus, dass wir uns daran gewöhnen werden, die Kontrolle abzugeben. Persönlich bin ich von den Chancen datengetriebener, algorithmisierter Entscheidungsprozesse für mathematisch beschreibbare Probleme überzeugt. Die menschliche Intelligenz und Intuition spielen ihre Vorteile bei Entscheidungen aus, welche Kreativität und Synthese erfordern. Gleichzeitig anerkenne ich die Notwendigkeit, die wachsende Macht der Technologie ernst zu nehmen und Rahmenbedingungen zu schaffen, damit wir Menschen weiterhin steuernd eingreifen können, wenn wir das für notwendig erachten.
