Eine Frage der Moral
5 min

Eine Frage der Moral

Ein selbstfahrendes Uber-Auto tötet eine Fussgängerin, was die Diskussion um die Sicherheit von selbstfahrenden Autos wieder anheizt. Noch ungelöst sind allerdings die moralischen Fragen: Wie soll die künstliche Intelligenz im Zweifelsfall entscheiden?

Die Frage ist einfach: «Sind Sie dafür, dass Software bei selbstfahrenden Autos die Zahl der Opfer bei einem unvermeidbaren Unfall minimiert, auch wenn das bedeutet, die Insassen des Autos zu opfern?» Die Antwort der Teilnehmer an einer gross angelegten Umfrage in den USA ist klar: Die Mehrheit äusserte sich zustimmend. Die zweite Frage ist – im Prinzip – ebenfalls einfach: «Würden Sie ein solches Auto kaufen?» Eher nein, findet die Mehrheit. Es ist halt doch kompliziert.

Selbstfahrende Autos sind – soweit sind sich alle einig – grundsätzlich sicherer als von Menschen gesteuerte Fahrzeuge. Sie schauen nicht aufs Handy, sind nicht müde, betrunken, wütend oder leichtsinnig. Sie sind im besten Fall in Kontakt mit anderen Fahrzeugen und können so potenziell gefährliche Situationen früh erkennen. Doch Unfälle werden nach wie vor passieren. Vielleicht rennt ein Kind auf die Strasse, ein zu schnelles Fahrzeug kann nicht mehr ausweichen oder ein wichtiger Sensor ist mit Schlamm verschmiert. Dann muss die KI (künstliche Intelligenz) des Autos entscheiden, was zu tun ist. Menschen entscheiden in solchen Momenten nicht bewusst, sondern handeln reflexartig. Die möglichen Toten sind Opfer eines Unfalls. Die KI dagegen kann abwägen: Wer soll sterben, wer leben? Und: Muss das Fahrzeug von den Software-Programmierern auf diese Situation vorbereitet werden?

Soll man der Maschine sagen, sie soll den Mann anstatt die Kinder töten? Sie hat die Möglichkeit, das zu entscheiden.

Hier geht es nicht mehr um Physik (oder zumindest nicht in erster Linie), sondern um Ethik: Wie entscheidet ein Algorithmus, wer stirbt? Es gibt zu diesem Thema zahlreiche Gedankenexperimente, die man auch selber nachspielen kann, sehr eindrücklich beispielsweise mit der «Moral Machine» des MIT (Massachusetts Institute of Technology). Im Grunde lässt sich das Problem so reduzieren: Das Auto gerät in eine Situation, in dem es entscheiden muss, ob es in eine Gruppe mit 5 Kindern fährt oder in einen einzelnen Mann. Welches ist die richtige Entscheidung? Intuitiv würden sich die meisten Menschen für den einzelnen Mann entscheiden.

 

Wer wird zum Opfer: die Auto-Insassen oder die Fussgänger? Diese Entscheidung müssen künftig vielleicht selbstfahrende Autos fällen. Bild: Youtube/Scalable Cooperation.

Aber wie gesagt: Es ist kompliziert. Um das Dilemma zu illustrieren, ändern wir das Gedankenexperiment leicht ab: Nehmen wir an, wir haben fünf Kinder, die unheilbar krank sind. Eine Organtransplantation würde alle fünf retten. Und da ist dieser gesunde Mann, der praktischerweise über all diese Organe verfügt. Sollte man ihn töten, um die 5 Kinder zu retten? Hier fände sich wohl keine Mehrheit, die für den Tod des Mannes stimmen würde. Unser ethisches Empfinden ist klar: Es ist schlimmer, jemanden zu töten, als jemanden sterben zu lassen. Genau darum geht es aber: Soll man der Maschine sagen, sie soll den Mann anstatt die Kinder töten? Denn sie hat die Möglichkeit, zu entscheiden.

Die Software könnte beispielsweise ausrechnen, mit welchen Toten beispielsweise der geringste wirtschaftliche Schaden entstünde.

Die rechtliche und auch ethische Diskussion zu diesem Thema ist in vollem Gang, zumindest in den USA und in der EU. Den Algorithmus so zu programmieren, dass er die Zahl der Todesopfer optimiert oder diese eventuell sogar noch nach Alter, Geschlecht, Ausbildung, Ethnie oder Einkommen gewichtet, wäre ein Leichtes. Theoretisch wäre es problemlos möglich, dass das Auto alles über die Insassen weiss (Smartphone und Apps sei Dank). Die Software könnte also beispielsweise ausrechnen, mit welchen Toten beispielsweise der geringste wirtschaftliche Schaden entstünde. Doch die Verfassungen aller westlichen Demokratien halten fest: Das Leben von fünf Menschen ist nicht mehr wert als das Leben eines einzelnen. Und ein Greis gilt nicht weniger als ein Kind. Alles andere würde die Menschenwürde verletzen.

Ein Dilemma für Autohersteller

Wie gehen die Autohersteller mit diesem moralischen Dilemma um? Die einen blenden es aus oder tun die oben angeführten Gedankenexperimente als «intellektuelle Selbstbefriedigung» ab. Andere setzen sich ehrlich bemüht mit der Problematik auseinander und ringen um Lösungen. Und einige versuchen, einen Vorteil gegenüber der Konkurrenz zu erreichen. So preist ein grosser deutscher Hersteller seine Autos damit an, dass sie in jedem Fall die Rettung der Insassen über alles andere stellen. Ein Marketing-Argument, das zögernde Käufer durchaus überzeugen kann. Die negativen Auswirkungen auf die Marke liegen aber ebenfalls auf der Hand: Der reiche Manager entgeht einer Verletzung auf Kosten einiger armer Kinder? Ernsthaft?

Bis selbstfahrende Autos solche Entscheidungen vornehmen müssen, werden die halbautonomen Fahrzeuge weiterentwickelt. Sie können selbstständig Parken, auf der Autobahn ihre Fahrweise an andere Fahrzeuge anpassen, vor Gefahren warnen und selbstständig bremsen oder lenken. Aber immer muss ein Fahrer bereit sein, einzugreifen. Die Autos werden auch mittelfristig noch nicht selbstständig entscheiden können, wie in einer potenziell tödlichen Situation zu reagieren ist. Vor den Programmierern (denen man die Beantwortung einer solchen Frage nicht überlassen möchte) sind jetzt erstmal Ethiker, Politiker und Juristen gefragt. Das kann dauern. Denn wie gesagt: Es ist kompliziert.

Weiterführende Informationen

 

Zu diesem Thema wurde schon viel geschrieben. Hier eine Auswahl von empfehlenswerten weiterführenden Artikeln in NZZ, «Die Zeit» und Forbes.com, die zum Teil auch als Quellen zum vorliegenden Text verwendet wurden.

Gefakte Autowerbung: Wenn Autos Gefahren frühzeitig erkennen. Video: Youtube/HD Trailers

Diskutieren Sie mit

Was denken Sie dazu? Würden Sie eher ein Auto

kaufen, das die Sicherheit seiner Insassen über alles stellt, oder eines

das die Opfer eines Unfalls minimiert?

Schreiben Sie einen Kommentar

Ihre E-Mail-Adresse wird nicht veröffentlicht.

Jetzt lesen