Wie ein Trolley dem selbstfahrenden Auto in die Quere kommt

Machen Sie ein Experiment: starten Sie ein Gespräch zum Thema „Selbstfahrende Autos“. Ich kann Ihnen versichern, dass Sie 5 Minuten später in einer hitzigen Diskussion sind, die sich um Strassenbahnen, Moral und die Frage ‘Wen soll das Auto umbringen?’ dreht. Hier finden Sie heraus, warum.

Das Trolley-Problem

Der Ursprung liegt in einem Gedankenexperiment der Ethik: dem Trolley-Problem. Die gängige Version von 1967 lautet wie folgt:

Eine Straßenbahn ist außer Kontrolle geraten und droht, fünf Personen zu überrollen. Durch Umstellen einer Weiche kann die Straßenbahn auf ein anderes Gleis umgeleitet werden. Unglücklicherweise befindet sich dort eine weitere Person. Darf (durch Umlegen der Weiche) der Tod einer Person in Kauf genommen werden, um das Leben von fünf Personen zu retten?

Das Gedankenexperiment führt also zu genau zwei Ausgängen, nämlich:

• Nichts zu tun und den Tod von fünf Personen geschehen zu lassen
• Die Weiche umzustellen und den Tod einer Person herbeizuführen

Einen „richtigen“ Ausgang gibt es nicht. Es ist immer ein Abwägen von Minimierung der Opferzahl und eigener Unschuld, also den eigenen Moralvorstellungen.

Vom Trolley zum mordlüsternen Auto

Das Trolley-Problem wurde 2016 von Patrick Lin in einem skeptischen Beitrag in zahlreiche Szenarien abgewandelt, unter anderem in die Form, dass das Auto zwischen dem Überfahren eines 8-jährigen Mädchens oder einer 80-jährigen Grossmutter entscheiden muss, weil es sonst beide erwischt. Er wirft damit die Frage auf, ob es ethisch vertretbar ist, überhaupt eine Entscheidung herbeizuführen. Es würde bedeuten, eine Altersgruppe als mehr lebenswert einzuschätzen als die andere.

Diese Szenarien haben durch die Veröffentlichung des Beitrags in einem White Paper der Daimler und Benz Stiftung in der Industrie grosse Verbreitung erlangt, und werden seit einigen Jahren immer wieder fälschlicherweise bemüht, um aufzuzeigen, welche schwerwiegenden Entscheidungen selbstfahrende Fahrzeuge angeblich fällen müssen.

Das Auto als Lernmaschine

Dadurch verbreitet sich die grundlegende Falschannahme, dass selbstfahrende Fahrzeuge bewusst auf spezifische Szenarien programmiert werden:

Einerseits wäre es moralisch unrecht, diese Szenarien überhaupt auszuprogrammieren, da es zwangsläufig zu einer Diskriminierung, respektive Bevorteilung von gewissen Verkehrsteilnehmern führen würde. (Das ist die Aussage, welche Lin ursprünglich angestrebt hatte.)

Andererseits wäre es schlichtweg zu aufwändig, tausende möglicher Szenarien zu beschreiben und einen genauen Reaktionsablauf zu definieren. Stattdessen füttert man einen lernenden Algorithmus mit Hilfe von Testfahrten mit möglichst vielen Erfahrungen aus der echten Welt. Anhand dieser Testfahrten lernt das Fahrzeug, welche Objekte, Bewegungen und Muster wichtig sind, und welche Auswirkungen sie haben (sollen). Lehrer ist dabei der Mensch, welcher die Testfahrten durchführt, und so dem Auto einen gewissen moralischen Kompass mitgibt.

Das führt zur Erkenntnis, dass ein selbstfahrendes Fahrzeug heute in einer Trolley-ähnlichen Situation genau das macht, was es kennt und kann: Rasch(er) reagieren und bremsen. Und das so effizient wie möglich, in einer geraden Linie, ohne riskantes, im wahrsten Sinne des Wortes unberechenbares Ausweichmanöver, und ohne wertvolle Millisekunden auf Erkennungs- und Entscheidungsalgorithmen zu verschwenden.

Fazit

Selbstfahrende Fahrzeuge werden nicht auf gewisse explizite, ethisch fragwürdige Szenarien programmiert, sondern lernen durch möglichst viele erlernte Erfahrungen auf kritische Situationen wie ein Mensch zu reagieren.

Es ist daher nicht nötig, dass eine künstliche Intelligenz anhand fixer Muster dazu gezwungen wird, über Leben und Tod zu entscheiden. Den moralischen Kompass lernt das Auto, indem es den Menschen imitiert. Dadurch sollte das selbstfahrende Auto auch nicht zu einer höheren Verantwortung gezogen werden als der Mensch.

Leider wird durch diese unsachliche Diskussion autonomes Fahren stark problematisiert, und verlangsamt in klassischer Trolley-Problem-Manier die Verbreitung einer Technologie, welche bereits heute mehr Menschenleben schützen könnte als sie „vernichtet“.

Weiterführende Links:

• Heather M. Roff (2018): The folly of trolleys: Ethical challenges and autonomous vehicles
• ZME Science: How a self-driving car sees the world