Dossier
Der Mensch im automatisierten Fahrzeug
Digitale Ethik im Alltag

Wir sitzen da, das Auto macht den Rest, der "fehlerhafte Mensch" hinter dem Steuer ist abgeschafft - autonomes Fahren verspricht eine stressfreie Zeit im Automobil und weniger Unfälle. Doch wie soll sich ein "selbstdenkendes" Fahrzeug im Fall eines Unfalls verhalten? Und wie kann digitale Ethik bei diesen Fragen helfen? Dieses Dossier sensibilisiert für diese zukünftig relevanten Fragen und zeigt am konkreten Beispiel selbstfahrender Fahrzeuge, was digitale Ethik ist.

Stellen Sie sich vor, Sie würden in ein selbstfahrendes Fahrzeug einsteigen, das Sie bequem an Ihren Wunschort fährt. Danach würde es sich selbständig einen Parkplatz suchen oder weitere Fahrer zum Transport einsammeln. Dank autonomer Fahrzeuge gäbe es keine überfüllten Städte, Parkplatzprobleme oder Staus mehr. Oder nicht?
Noch immer sterben viele Menschen bei Unfällen im Straßenverkehr. 2021 nahm die Polizei rund 2,3 Millionen Unfälle auf. In Deutschland starben 2.562 Menschen bei Unfällen im Straßenverkehr. (Quelle: Destatis).
Autonome Fahrzeuge schüren die Hoffnung, die Fehlerquelle "Mensch" auszumerzen und so zum Beispiel tödliche Unfälle öfter vermeiden zu können. Jede neue Technologie birgt die Vorstellung davon, wie ein „besseres“ Leben aussehen könnte. Das autonome oder vollautomatisierte Fahren könnte zum Beispiel Teil der Lösung unserer Mobilitätsprobleme sein. Aber neue Technologien werfen auch Fragen auf.
- Welchen Weg sollte ein Auto nehmen, wenn es unvermeidlich zum Tod von Menschen kommt?
- Welche Leben dürfen dann geopfert werden?
- Wie kann die Privatsphäre geschützt werden, wenn Fahrzeuge alle Fahrtwege und Gespräche protokollieren?
Diesen und weiteren Fragen widmet sich die digitale Ethik. Sie möchte Wege aufzeigen, wie ein gutes Leben im digitalen Zeitalter gelingen kann.
Automatisiert und autonom
Wo liegt der Unterschied?
Automatisierte Fahrzeuge
- ... können bestimmte, definierte Handlungsabläufe selbstständig bewältigen.
- Verantwortung: Der Mensch muss unter Umständen in den Ablauf eingreifen oder bestimmte Aufgaben komplett übernehmen, welche die Maschine nicht allein bewältigen kann. Die Aufgabe des Fahrens teilen sich Mensch und Maschine zwar, doch der Mensch bleibt in der Verantwortung.
Autonome oder vollautomatisierte Fahrzeuge
- ... benötigen, sobald sie eingeschaltet sind, keine weitere menschliche Hilfe. Ihre Programmierung muss es ihnen daher ermöglichen, dass sie in allen Situationen eigenständig Entscheidungen treffen. Autonome Fahrzeuge brauchen aus diesem Grund keine Steuerelemente wie ein Lenkrad oder ein Gaspedal.
- Verantwortung: Autonome Fahrzeuge wären alleine verantwortlich. Der Mensch gäbe die Kontrolle komplett ab. Es müssen daher erst Lösungen gefunden werden, wie Maschinen Verantwortung übernehmen können.
(Weitere Informationen zur SAE J3016 Norm. Autonome Fahrzeuge entsprächen der SAE Stufe 5)
Digitale Ethik und Mobilität

Um die Mobilität 4.0 und die Diskussion um autonomes Fahren verstehen zu können, ist es aus ethischer Perspektive von Bedeutung, die feinen Unterschiede zwischen dem so genannten autonomen oder auch vollautomatisierten Fahren und den Vorstufen der teil-, bedingt und hochautomatisierten Fahrzeuge zu verstehen.
Liegt die Kontrolle beim Menschen?
Es macht einen großen Unterschied, ob Sie als Fahrer noch in das Fahrgeschehen eingreifen können oder sogar müssen, oder ob Sie nur Beifahrer und Zuschauer der eigenständigen Maschine sind. Hochautomatisierte Fahrzeuge belassen den Menschen ohne Zweifel in der Verantwortung, während sich bei „autonomen“ also vollautomatisierten Fahrzeugen ganz andere Verantwortungsverhältnisse ergeben.
Was ist Ethik?
Was ist Ethik?
Ethik versucht, die Frage: „Wie sollten wir handeln und leben?“ rational und möglichst allgemeingültig zu beantworten. In der Technik und bei Innovationen sollte Ethik immer mitbedacht werden. Technologien sollen so gestaltet werden, dass sie unsere Zukunft nachhaltig verbessern. Ethik ist deshalb so wichtig und hilfreich: Sie ermöglicht die Entwicklung neuer Technologien, die für alle Menschen gut und wünschenswert sind.
Was ist digitale Ethik?
Die digitale Ethik möchte eine Orientierung für ein gutes, gelingendes Leben im digitalen Zeitalter geben. Sie stellt die Grundfragen der Ethik und berücksichtigt dabei die Auswirkungen der Digitalisierung: Wie sollen bzw. wollen wir leben? Wie soll der Mensch handeln? Welche Werte bestimmen unser Leben? Wie lassen sich moralische Urteile rational begründen? Komplexer ausgedrückt ist digitale Ethik die wissenschaftlich orientierte Reflexion über Moral und Wertvorstellungen von einem guten Leben in einer digitalen Welt.
Privatheit und Datenschutz: Was hört und sieht das Auto mit?

Ein Wert, der durch automatisierte, vernetzte oder autonome Fahrzeuge angegriffen wird, ist das Recht auf Privatheit. Technische Innovationen wie Spracherkennung und Sprachsteuerung verwandeln das Auto in ein Abhörgerät. Zahllose Sensoren im und am Automobil erfassen die unterschiedlichsten Daten, aus denen sich Rückschlüsse über das Verhalten und die körperlichen und mentalen Zustände der Insassen ziehen lassen.
"Privatsphäre ist eine Voraussetzung für persönliche Freiheit und Autonomie (...). Sich privat sicher zu fühlen und gleichzeitig von Dritten umfassend beobachtet zu werden, ist ein unvergleichlicher Vertrauensbruch."
Sabine Leutheusser-Schnarrenberger, 2019 auf netzpolitik.org.
Privacy by Design: Eingebauter Datenschutz
Wir Konsumenten müssen uns die Frage stellen, mit wem wir unsere Geheimnisse in Zukunft teilen möchten. Würden Sie es wirklich begrüßen, dass Ihre Versicherung zu jedem Zeitpunkt wissen könnte, dass Sie im Berufsverkehr immer 15 km/h zu schnell fahren und im Kreisverkehr nicht immer ordnungsgemäß den Blinker betätigen?
Technische Maßnahmen wie Privacy by Design sollen den Datenschutz schon während der Entwicklung ermöglichen. "Privacy by design“ bedeutet „Datenschutz durch Technikgestaltung“. Wenn ein technisches Produkt entwickelt wird, soll der Datenschutz gleich integriert sein und Daten zum Beispiel von Beginn an verschlüsselt oder anonymisiert werden.
Ohne ein Bewusstsein der Nutzer ist ein wirksamer Datenschutz jedoch nur ungenügend zu bewerkstelligen. Eine der Hauptaufgaben der Ethik ist deshalb die Aufklärung und die Aufforderung zum gemeinsamen Gespräch. Politik, Wirtschaft, Gesellschaft und Wissenschaft müssen im Sinne der Privatsphäre in einen Dialog treten.
Charta der Grundrechte der Europäischen Union
Art. 8: Schutz personenbezogener Daten
(1) Jede Person hat das Recht auf Schutz der sie betreffenden personenbezogenen Daten.
Das moralische Dilemma
Wer entscheidet in Unfallsituationen über Leben und Tod anderer?

Vollautomatisierte Fahrzeuge könnten so programmiert werden, dass sie immer die höchstmögliche Anzahl an Leben schützen, aber ist das ethisch vertretbar? Welche Leben dürften dann geopfert werden?
Ein Beispiel für das moralische Dilemma
Ein Beispiel für das moralische Dilemma
Ein Auto fährt auf der Bundesstraße durch ein Waldstück mit 100 km/h. Plötzlich betritt eine junge Mutter mit Kinderwagen die Fahrbahn. Der Bremsweg ist zu kurz und ohne Ausweichen wäre die Kollision unvermeidlich. Auf der Gegenfahrbahn kommt allerdings ein PKW entgegen und bei einem Frontalzusammenstoß würden höchstwahrscheinlich alle Insassen aus beiden Fahrzeugen getötet. Das Fahrzeug könnte nur nach Links ausweichen. Höchstwahrscheinlich würde es dann gegen einen Baum prallen. Das Fahrzeug ist ein SUV mit nur einem Insassen. Welches Leben soll geschützt werden?
Müsste man als Fahrer eines SUVs beispielsweise bereit sein, sein Leben zu opfern, weil man ein robusteres Fahrzeug fährt?
Das moralische Dilemma hat viel mediale Aufmerksamkeit erhalten, weil es in der Tat eine schwierige Frage ist. Es beschreibt Unfallszenarien, in denen alle möglichen Handlungsabläufe mit dem Tod von Menschenleben verbunden werden. Das heißt, der Tod von Personen wäre in jedem Fall unvermeidlich. Die Frage aus ethischer Perspektive lautet: Was wäre, wenn man eine vorhersehbare Situation beeinflussen könnte?
Schnelleres Denken erfordert Regeln
Ein vollautomatisiertes Fahrzeug könnte in Zukunft dank der hohen Rechenleistung und seiner zahlreichen Sensoren Situationen schneller erfassen als es Menschen können. Das Fahrzeug erkennt Szenarien und muss dafür programmiert werden, dass es eine Entscheidung treffen kann.
Fahrzeuge treffen im Gegensatz zum Menschen keine spontanen und unbedachten Entscheidungen. Ein Programmierer muss darüber nachdenken, wie sich ein Fahrzeug in bestimmten Situationen verhalten soll.

Wie soll sich ein Fahrzeug verhalten?
- Wie soll man ein autonomes Fahrzeug für eine Dilemma-Situation vorprogrammieren?
- Dürfte man beispielsweise am Unfall unbeteiligte ältere Fußgänger opfern, um eine junge Mutter mit ihrem Kind zu retten, die unachtsam die Fahrbahn betreten hat?
- Hat der einzelne Programmierer das Recht, im Voraus über Leben und Tod und den Wert von unterschiedlichen Menschen zu entscheiden?
- Dürfen Unbeteiligte geopfert werden?
- Dürfen wir Maschinen oder dem Zufall die Entscheidung über den Tod überlassen? Und wer soll darüber entscheiden dürfen?
Aus ethischer Perspektive ist der Wert jedes einzelnen Menschen unantastbar: Fünf Menschenleben wiegen nicht das Eine auf. Die Geschichte hat in sehr dunklen Kapiteln gezeigt, wo es hinführen kann, wenn der Wert von bestimmten Menschengruppen oder Individuen herabgesetzt wurde.
Lösungen: Die Regeln der Ethikkommission
Mit dem Problem des moralischen Dilemmas hat sich auch die Ethikkommission zum autonomen und vernetzten Fahren beschäftigt, die von der deutschen Bundesregierung berufen wurde. Der Bundesminister für Verkehr und digitale Infrastruktur brachte insgesamt 14 Wissenschaftler und Experten zusammen, die sich mit ethischen Fragen des automatisierten Fahrens beschäftigt haben. Das Ergebnis sind 20 ethische Regeln, die weltweit die ersten Leitlinien für Fahrcomputer darstellen und im nächsten Abschnitt vorgestellt werden.
Ethische Regeln für automatisierten und vernetzen Fahrzeugverkehr
Die ethische Reflexion über neue Technologien ist notwendig. Nur so können wir rechtzeitig mögliche negative Folgen bedenken und Technologien so entwickeln, dass sie uns ein gutes, gelingendes Leben ermöglichen.
Der Traum eines autonomen oder vollautomatisierten Fahrzeugs begleitet den Menschen bereits seit vielen Jahren. Es sind grundsätzliche Fragen zu unserer Zukunft und dem Leben, die nun aus einer ethischen Perspektive betrachtet und diskutiert werden müssen. Verschiedene Problemstellungen wie das moralische Dilemma oder der Datenschutz sollten in den Entwicklungs- und Forschungsprozessen von Unternehmen von Anfang an mitgedacht werden. Hierfür können die Regeln der Ethikkommission oder Ethik-Experten herangezogen werden. Eine Auswahl zum Durchklicken:
Ein Blick in die Fiktion: Zukunftsentwürfe autonomer Fahrzeuge
Betrachtet man den gesellschaftsgeschichtlichen Kontext, zeichnet sich eine fast hundertjährige Geschichte selbststeuernder Fahrzeuge ab.
Beispiel: Das Auto KITT aus Knight Rider
Beispiel: Das Auto KITT aus Knight Rider
Werbung 1956
Eine der detailliertesten Imaginationen des selbstfahrenden Automobils zeigt eine Werbeanzeige aus dem Jahr 1956 aus dem LIFE Magazin. Die Zeichnung zeigt den Innenraum eines Fahrzeugs mit einem großzügig geschnittenen Panoramadach. Eine Familie sitzt um einen Tisch. Ein Lenkrad ist zu sehen, doch der Vater ist dem Lenkrad abgewandt. Mutter und Kinder haben Zeit für ein gemeinsames Spiel.
Die Insassen sind nicht angeschnallt, offenbar ist die Fahrt so sicher, dass es einen Gurt nicht mehr benötigt. Die Bildunterschrift wirbt damit, dass die neuen Technologien sichere Highways ohne Staus, Unfälle und Müdigkeit des Fahrers.
KITT in Knight Rider
Ein weiteres populäres Beispiel ist die Serie Knight Rider (1982-1986). Sie handelt von Michael Knight und seinem Auto KITT, das sowohl autonom fahren als auch manuell gesteuert werden kann. Der Fahrer entscheidet selbst welche Option er bevorzugt. Allerdings zeigen manche Filmszenen auch Momente, in welchen das Fahrzeug den Fahrer übersteuert.
KITT wohnt damit das Potenzial zur Rebellion inne, wenn auch für einen guten Zweck. So konnte KITT seinen Fahrer in Ausnahmefällen überstimmen, z.B. als er sagt „ich kann nicht zulassen, dass Sie Ihr Leben in Gefahr bringen. Ich übernehme die Kontrolle“ (Staffel 1, Folge "Trust doesn‘t trust").
Das Fahrzeug KITT ist nicht nur der Ausdruck des Traums vom autonomen Fahren. Es ist zugleich der Traum eines sprechenden Autos – die Imagination von einem künstlich erschaffenen Freund, der antwortet.
Selbstfahrende Fahrzeuge im Playstation-Spiel Detroit: Become human
Selbstfahrende Fahrzeuge im Playstation-Spiel Detroit: Become human
Auch in aktuellen Medienprodukten finden sich Zukunftsentwürfe vollautomatisierter Fahrzeuge. Im Playstation-Spiel Detroit: Become human, das im Mai 2018 erschienen ist, werden zahlreiche autonome Autos und Busse gezeigt und von den Spielfiguren genutzt.
In einer Zeitschrift innerhalb des Spiele-Universums findet sich auch ein journalistischer Artikel, der sich den fahrerlosen Automobilen widmet. In diesem heißt es, dass Autos im Falle eines Unfalls mit unvermeidbarem Personenschaden eine Entscheidung treffen, welche Personen geopfert werden. Anhand einer Bilderkennungssoftware werden Daten über das Alter, Geschlecht und die Lebenserwartung innerhalb eines Sekundenschlags ausgewertet. Anschließend werden die Daten in ein öffentliches Verzeichnis eingespeist, um den Familienstand, die Beschäftigungsbilanz, die Lebenserwartung und die Kinderzahl festzustellen.
Wer ist wertvoll genug, um zu überleben?
Das Auto ermittelt einen Wert zu jedem möglichen Opfer, der auf den genannten Kriterien beruht. Die Menschen werden zudem nach ihrem Beitrag, den sie zur Gesellschaft leisten hoch- oder runter gestuft. Dieser Artikel wirft zwei Fragen auf: Die erste lautet: Darf eine Maschine über Leben und Tod entscheiden? Die zweite Frage ist: Dürfen die genannten Parameter Einfluss auf diese Entscheidung haben? Die genannten Fragen stehen in Zusammenhang mit dem sogenannten moralischen Dilemma.
Linksammlung
Weiterführende Informationen
Gesetze, Statistiken, Literatur und mehr
Gesetze, Statistiken, Literatur und mehr
Gesetzeslage in Deutschland
Deutsche Straßenverkehrsgesetz: www.gesetze-im-internet.de
Wahrnehmungsbereitschaft und die unverzügliche Wiederaufnahme der Steuerung in §1b Abs. 2 Nr. 2 StVG: http://www.gesetze-im-internet.de
Statistiken zu autonomen Fahrzeugen
www.de.statista.com/themen/2561/autonome-fahrzeuge/
www.de.statista.com/statistik/studie/id/30065/dokument/autonome-fahrzeuge-statista-dossier/
Artikel
www.heise.de/thema/autonomes-Fahren
www.br.de/autonomes-fahren/autonomes-fahren-auto-selbstfahrendes-automatisiertes-fahrzeug-100.html
www.20min.ch/motor/fahrberichte/story/Spioniert-Tesla-Fahrer-und-Beifahrer-mit-Kamera-aus--31465784
www.20min.ch/schweiz/bern/story/Tesla-Autopilot-ist-nicht-schuld-an-Unfall-27490756
www.20min.ch/finance/news/story/-Ich-bin-nicht-gefahren--das-Auto-wars--11543407
Spiegel Interview mit dem Erfinder der Moral Maschine: /www.spiegel.de/auto/aktuell/autonomes-fahren-moral-machine-gewissensfragen-zu-leben-und-tod-a-1108401.html
Informationen von Unternehmen:
www.bmw.com/de/automotive-life/autonomes-fahren.html
Pressemappe BMW: www.press.bmwgroup.com/deutschland/article/detail/T0271369DE/automatisiertes-fahren-bei-der-bmw-group?language=de
Daimler autonomes Fahren und Interieur: www.mercedes-benz.com/de/mercedes-benz/next/automation/wie-autonomes-fahren-das-interieur-revolutioniert/
Werbespot von Audi zum autonomen Fahren: www.youtube.com/watch?v=I2j2-DqcPfM
Literatur- und Medienverzeichnis
Bundesministerium für Verkehr und digitale Infrastruktur (2017): Ethik-Kommission Automatisiertes und Vernetztes Fahren. Bericht Juni 2017. Hg. v. BMVI Bundesministerium für Verkehr und digitale Infrastruktur.
Detroit: Become Human (2018): Studio: Quantic Dream, Publisher: Sony Interactive Entertainment, Director: David Cage. USA.
Knight Rider (1982-1986): Glen A. Larson Productions Universal Television. Director: Glen A. Larson. USA.
Dossiers zu Netzpolitik und Digitalisierung der LpB BW

Netzpolitik
Politik über, mit und durch das Netz
Von der Breitbandabdeckung über Datenschutz zu Cybermobbing: Dieses Dossier vermittelt ein netzpolitisches Grundverständnis. Es beschreibt aktuelle Entwicklungen wie zum Beispiel die Frage nach Medienkompetenz als Unterrichtsfach, erklärt politische Entscheidungen und listet netzpolitische Akteure auf.
mehr
Fake News
Definition, Verbreitung und Auswirkung
Was es mit Fake News genau auf sich hat, welche teils gefährlichen Auswirkungen sie haben können, wer sie verbreitet, wie sie strafrechtlich einzuordnen sind und wie man Fake News erkennt erfahren Sie unter anderem in diesem Dossier.
mehr

Verschwörungstheorien
Was sind Verschwörungstheorien und wie funktionieren sie? Welche Rolle spielt das Internet bei der Verbreitung von Verschwörungstheorien? Worin bestehen die Gefahren von Verschwörungstheorien? Und wie können sie entkräftet werden? Das sind die Kernthemen dieses Dossiers.
mehr

Hate Speech
Was können wir gegen Hass im Netz tun?
Hasspostings enthalten Äußerungen, die Einzelne oder Gruppen diskriminieren, zum Beispiel wegen ihrer Herkunft, Religion oder sozialen Zugehörigkeit. Wie können wir damit umgehen? Wo gibt es Hilfe im Netz?
mehr
Digitale Demokratie
E-Partizipation, Open Government, Online-Wahlen
Politik findet zunehmend digital statt. Was bedeutet digitale Demokratie? Reicht es, demokratische Prozesse ins Digitale zu verlagern? Wie können wir das Netz zu einem demokratischen Raum gestalten? Das Dossier gibt Antworten auf diese Fragen und erklärt die wichtigsten Begriffe rund um das Thema digitale Demokratie, Open Government und Online-Wahlen.
mehr
Datenschutz am Smartphone
Praktische Tipps und Ihre Rechte
Das Smartphone ist ein Instrument zur demokratischen Teilhabe. Doch haben wir die digitalen Spuren im Blick, die wir auf dem Smartphone hinterlassen? Welche Handy-Einstellungen schützen uns? Diese Seite dient als praktische Hilfe, das eigene Smartphone zu sichern, und klärt über die Rechte von Nutzerinnen und Nutzern auf.
mehr

Digitaler Unterricht mit Moodle, H5P und BigBlueButton
Handreichung für Lehrkräfte
Die Nachfrage an Wissen über digitale Lehrmöglichkeiten ist durch die Corona-Pandemie enorm gestiegen. Diese Seite bietet einen Überblick über die Plattform Moodle, das Videokonferenzsystem BigBlueButton und die interaktiven Softwarelösungen von H5P für Lehrkräfte.
mehr
Autonomes Fahren und digitale Ethik
Der Mensch im automatisierten Fahrzeug
Wie soll sich ein "selbstdenkendes" Fahrzeug im Fall eines Unfalls verhalten? Digitale Ethik kann und muss bei diesen Fragen helfen. Dieses Dossier sensibilisiert für die ethischen Fragen im Bereich der Technikentwicklung und zeigt am konkreten Beispiel autonomen Fahrens, was digitale Ethik ist.
mehr

Digitaler Wahlkampf
Auf Stimmenfang im Netz
Wegen der Corona-Pandemie verlagert sich der Wahlkampf überwiegend ins Netz. Doch was heißt digitaler Wahlkampf über soziale Medien? Und was bedeutet das für Parteien, Kandidierende und die Wählerschaft? Unser Dossier bietet einen Überblick.
mehr

Digitalpolitik der EU
Auf dem Weg zu Europäischer Souveränität?
Die Themen Digitalpolitik und Digitalisierung beschäftigen die Europäische Union (EU) seit vielen Jahren. Der Bereich umfasst komplexe Fragen und Probleme sowie ganz unterschiedliche wirtschaftliche Chancen und politische Herausforderungen.
mehr
Autoren: Nadine Hammele & Susanne Kuhnert. Institut für Digitale Ethik, Hochschule der Medien Stuttgart
Redaktionell Überarbeitet: Stand: 2022 von der LpB BW Internetredaktion
Susanne Kuhnert ist Mitarbeiterin am Institut für Digitale Ethik in Stuttgart. Sie arbeitet dort im vom Bundesministerium für Bildung und Forschung geförderten Verbundprojekt zum automatisierten Fahren KoFFI (Kooperative Fahrer-Fahrzeug-Interaktion).