Autonome Autos und Ethik

Im Folgenden eine Zusammenstellung von Beiträgen zu Fahrerassistenzsystemen und autonomen Autos aus Sicht der Maschinenethik und der Ethik im Allgemeinen. Die meisten sind online verfügbar. Ein Schwerpunkt sind automatische Bremsungen für Tiere und Menschen.

Bendel, Oliver. Die Parkbucht des Karneades: Viereinhalb Dilemmata der Robotik. In: inside-it.ch, 17. März 2015. Über http://www.inside-it.ch/articles/39531.

Bendel, Oliver. Die Maschinenstürmer des Informationszeitalters. In: ICTkommunikation (Online-Ausgabe), 5. März 2015. Über https://ictk.ch/inhalt/die-maschinenst%C3%BCrmer-des-informationszeitalters.

Bendel, Oliver. Überlegungen zur Disziplin der Tier-Maschine-Interaktion. In: gbs-schweiz.org, 14. Februar 2015. Über http://gbs-schweiz.org/blog/ueberlegungen-zur-disziplin-der-tier-maschine-interaktion/.

Bendel, Oliver. Neun Thesen zu autonomen Autos. In: ICTkommunikation (Online-Ausgabe), 6. Februar 2015. Über https://ictk.ch/inhalt/neun-thesen-zu-autonomen-autos.

Bendel, Oliver. Selbstständig fahrende Autos. Beitrag für das Gabler Wirtschaftslexikon. Gabler/Springer, Wiesbaden 2015. Über http://wirtschaftslexikon.gabler.de/Definition/selbststaendig-fahrende-autos.html.

Bendel, Oliver. Advanced Driver Assistance Systems and Animals. In: Künstliche Intelligenz, Volume 28, Issue 4 (2014). S. 263 – 269.

Bendel, Oliver. Wirtschaftliche und technische Implikationen der Maschinenethik. In: Die Betriebswirtschaft, 4/2014. S. 237 – 248.

Bendel, Oliver. Towards Machine Ethics. In: Technology Assessment and Policy Areas of Great Transitions. 1st PACITA Project Conference, March 13 – 15, 2013. Prague, Czech Republic. S. 321 – 326. Auch als PDF erhältlich.

Bendel, Oliver. Für wen bremst das Roboterauto? In: Computerworld.ch, 16. Mai 2014. Über http://www.computerworld.ch/marktanalysen/studien-analysen/artikel/.

Bendel, Oliver. Fahrerassistenzsysteme aus ethischer Sicht. In: Zeitschrift für Verkehrssicherheit, 2/2014. S. 108 – 110.

Bendel, Oliver. Fahrerassistenzsystem. Beitrag für das Gabler Wirtschaftslexikon. Gabler/Springer, Wiesbaden 2014. Über http://wirtschaftslexikon.gabler.de/Definition/fahrerassistenzsystem.html.

Bendel, Oliver. Das Tier als Objekt der Moral der Maschine: Zum Verhältnis von Tier- und Maschinenethik. In: Telepolis, 2. Januar 2014. Über http://www.heise.de/tp/artikel/40/40684/.

Bendel, Oliver. Considerations about the Relationship between Animal and Machine Ethics. In: AI & SOCIETY, Dezember 2013 („Online-First“-Artikel auf SpringerLink).

Bendel, Oliver. Ich bremse auch für Tiere: Überlegungen zu einfachen moralischen Maschinen. In: inside-it.ch, 4. Dezember 2013. Über http://www.inside-it.ch/articles/34646.

Bendel, Oliver. Buridans Robot: Überlegungen zu maschinellen Dilemmata. In: Telepolis, 20. November 2013. Über http://www.heise.de/tp/artikel/40/40328/1.html.

Bendel, Oliver. Einfache moralische Maschinen. In: KMU Business World, 30. August 2013. Über http://www.kmu-businessworld.ch/de/content/einfache-moralische-maschinen.

Bendel, Oliver. Asimovs Automatobile: Selbstständig fahrende Autos in Fiktion und Realität und als Gegenstand der Maschinenethik. In: Telepolis, 27. August 2013. Über http://www.heise.de/tp/artikel/39/39728/1.html.

Bendel, Oliver. Über gute und böse Maschinen: Möglichkeiten und Grenzen der Maschinenethik. In: ICTkommunikation, 5/2013. S. 28 – 30. Auch als PDF erhältlich.

Bendel, Oliver. Die Moral der Maschinen: Überlegungen zur Maschinenethik. In: inside-it.ch, 24. Oktober 2012. Über http://www.inside-it.ch/articles/30517.

Bendel, Oliver. Maschinenethik. Beitrag für das Gabler Wirtschaftslexikon. Gabler/Springer, Wiesbaden 2012. Über http://wirtschaftslexikon.gabler.de/Definition/maschinenethik.html.

Beuth, Patrick. Wenn Software über Leben und Tod entscheidet. In: ZEIT ONLINE, 13. Mai 2014. Über http://www.zeit.de/digital/internet/2014-05/unfall-fahrerlose-autos-ethik.

Büchel, Stephanie. Wie viel Moral braucht eine Maschine? In: Liewo, 2. Juni 2013. S. 12. Auch als PDF erhältlich (mit freundlicher Genehmigung der Autorin).

Hevelke, Alexander; Nida-Rümelin, Julian. Responsibility for Crashes of Autonomous Vehicles: An Ethical Analysis. In: Science and Engineering Ethics, 11. Juni 2014.

Holzer, Holger. Das Autonomie-Dilemma: Wenn Maschinen über Menschenleben entscheiden. In: Focus, 28. Januar 2015. Über http://www.focus.de/auto/news/wenn-maschinen-ueber-menschenleben-entscheiden-das-autonomie-dilemma_id_4437354.html.

Kaeser, Eduard. Das „moralische“ Auto. In: NZZ.ch, 17. April 2014. Über http://www.nzz.ch/wissenschaft/uebersicht/das-moralische-auto-1.18284699.

Mertens, Frank. Kind oder Rentner: Für wen bremst das Roboterauto? In: Autogazette, 1. April 2015. Über http://www.autogazette.de/daimler/ethik/autonom/kind-oder-rentner-fuer-wen-bremst-das-roboterauto-512035.html.

Nüesch, Danja. Das Zähmen der Maschinen. In: Schweizer Radio und Fernsehen SRF, 17. November 2014. Über http://www.srf.ch/kultur/gesellschaft-religion/das-zaehmen-der-maschinen.

Rauch, Christian. Cloud am Steuer. In: GDI Impuls, 2/2014. S. 40 – 45. Auch als PDF erhältlich (mit freundlicher Genehmigung des Autors).

modern_car

Abb.: Ein modernes Auto

Moral und Maschine

In einem Artikel in der Welt am Sonntag (Sonderausgabe Industrie 4.0) finden sich Aussagen von Oliver Bendel zu moralischen Maschinen. Vorausgegangen war ein intensiver Austausch mit dem Redakteur Jürgen Bröker. Die Industrie und manche Wissenschaftler wollen nach Meinung von Bendel möglichst viele Roboter und Maschinen bauen und verkaufen, möglichst viele teilautonome und autonome Systeme, die selbstständig handeln. In einigen Bereichen sei das tatsächlich sinnvoll, etwa wenn etwas für Menschen zu gefährlich, zu zeitraubend oder zu aufwändig und zugleich eine gewisse Urteilskraft vonnöten wäre. In der intelligenten Fabrik nehmen Roboter dem Menschen anstrengende Tätigkeiten ab und arbeiten mit ihm Hand in Hand. Das ist u.a. ein Thema der sozialen Robotik. Bedauerlicherweise werden die Roboter auch Menschen ersetzen. In der Industrie 4.0 braucht es kaum noch Arbeiter. Im Militär erträumt man sich Drohnen und Kampfroboter, die selbstständig technische und menschliche Ziele identifizieren und eliminieren. Die Drohnen müssen dabei sehr komplexe moralische Entscheidungen treffen. Bendel ist nicht in der militärischen Forschung tätig. Und er wehrt sich gegen eine massenhafte Ausbreitung der Maschinen. Wenn man eine gewisse Anzahl in übersichtliche Situationen entlässt und sie besser im doppelten Sinne macht, findet er das nicht schlecht. Er fordert einfache moralische Maschinen. Komplexe moralische Maschinen wie Roboterautos, die im Straßenverkehr selbstständig entscheiden, ob sie die Frau, den Mann oder die Gruppe spielender Kinder töten sollen, wenn die Bremsen versagen und keine Ausweichmöglichkeit mehr besteht, seien keine gute Idee. Manche Industrievertreter möchten aber genau das haben, hochgetunte Maschinen mit einer komplexen Moral. Der Forscher glaubt, dass die Gesellschaft das nicht akzeptieren wird. Der Artikel mit dem Titel „Moral und Maschine“ ist am 12. April 2015 erschienen. Zusätzlich zur Papierversion gibt es eine Online-Version mit dem Titel „Wie viel Moral muss eine Maschine haben?“.

 

Auto, Motor, Spaß

Lustiges und Ernstes war beim Auto-Motor-Sport-Kongress 2015 in Stuttgart zu vernehmen. Winfried Hermann, seines Zeichens Verkehrsminister in Baden-Württemberg, sorgte sich um sein bestes Stück: „Autonomes Fahren ist die Entmannung des deutschen Autofahrers“, sagte der grüne Politiker laut der Süddeutschen Zeitung vom 11. April 2015. Rafael Capurro, Informationsethiker, begab sich auf das Gebiet der Maschinenethik und ging auf die Moral des Autos ein, oder genauer auf die des Menschen, die auf sein bestes Stück übertragen wird. Er bemerkte laut auto-motor-sport.de, man könne die Philosophie „Ich bremse auch für Tiere“ in solch ein System einbetten. Wer sich für Fahrerassistenzsysteme und Roboterautos nicht nur mit Blick auf Menschen interessiert, sei u.a. auf die Artikel „Das Tier als Objekt der Moral der Maschine“ (Telepolis, 2014), „Fahrerassistenzsysteme aus ethischer Sicht“ (Zeitschrift für Verkehrssicherheit, 2013) und „Considerations about the Relationship between Animal and Machine Ethics“ (AI & SOCIETY) von Oliver Bendel verwiesen. Und natürlich auf seinen Beitrag „Ich bremse auch für Tiere: Überlegungen zu einfachen moralischen Maschinen“ von 2013, erschienen in der Schweizer Zeitschrift inside-it.ch.

volkswagen

Abb.: Friede und Liebe den Tieren

Drohnen, Roboter, Avatare

Die Ideen- und Entwicklungsgeschichte ist reich an künstlichen Kreaturen. In Mythos und Fiktion sind Talos und Pandora zu verorten, die Geschöpfe des Gottes der Schmiede, als Hephaistos bekannt, die Automatenmenschen des Daidalos, die Skulptur des Pygmalion, berühmt geworden als Galatea, die eiserne Jungfrau des Nabis; die Puppe Olimpia aus Hoffmanns Erzählung „Der Sandmann“, der Homunculus aus Goethes „Faust“, Handygirl aus der gleichnamigen Handyromanserie von Oliver Bendel; die künstliche Maria aus „Metropolis“, die Replikanten aus „Blade Runner“. Die Realität war zunächst verbunden mit der Illusion. Von ca. 1500 bis 1850 wurden tier- und menschenähnliche Automaten erdacht bzw. vorgeführt. Dann, nach weiteren 150 Jahren, plötzlich die Realität ohne doppelten Boden: Es werden Roboter erschaffen, die den Menschen nicht nur zum Verwechseln ähnlich sehen, sondern auch selbstständig Entscheidungen mit sozialen und moralischen Implikationen treffen. Sie werden von sozialer Robotik und Maschinenethik gezähmt, dressiert und zivilisiert. Oliver Bendel macht am 21. April 2015 am Deutschen Seminar der Universität Zürich deutlich, dass manche Chatbots, Serviceroboter und Fotodrohnen die falsche Entscheidung treffen werden. Oder eine Entscheidung, die interessengeleitet ist. Roboterautos, die Kinder schonen und Rentner umfahren, werden seiner Ansicht nach für Diskussionen sorgen. Der Vortrag findet von 10.15 bis 12.00 Uhr im Rahmen der Vorlesung „Angewandte Linguistik“ von Prof. Dr. Christa Dürscheid statt (Schönberggasse 9, 8001 Zürich, Raum SOD-1-101) und trägt den Titel „Drohnen, Roboter, Avatare. Künstliche Wesen zwischen Ethik und Ästhetik“.

girls

Abb.: Mädchen beim Lesen

Professur für Maschinenethik et al.

Die Universität Hamburg schreibt eine W3-Universitätsprofessur für Ethik in der Informationstechnologie aus. „Die Professur soll in interdisziplinäre Zusammenhänge in Forschung und Lehre an der Universität Hamburg eingebunden werden. Insbesondere wird eine Kooperation mit der zeitgleich am Fachbereich Philosophie ausgeschriebenen Professur für Ethik in Kultur und Gesellschaft sowie mit dem Kompetenzzentrum Nachhaltige Universität erwartet.“ (Ausschreibungstext der Uni Hamburg) Besonders interessant ist, dass nicht nur die Informationsethik, sondern auch die Maschinenethik abgedeckt werden soll. Man unterscheidet in der Ausschreibung u.a. „Gestaltungsethik: nachhaltige gesellschaftsverträgliche Technikgestaltung, Robotik, smarte Technologien, Automatisierung und Arbeit, Virtualisierung von Gütern“ und „Informations- und Kommunikationsethik: Auswirkungen der Digitalisierung, informationelle Selbstbestimmung, informationsbasierte Individualisierung und Diskriminierung, technische Aspekte geistigen Eigentums und damit zusammenhängende Veränderungsprozesse“ (Ausschreibungstext der Uni Hamburg). Bewerbungen werden bis zum 14. Mai 2015 per E-Mail oder Snail-Mail erbeten. Für nähere Auskünfte steht Prof. Dr. Hannes Federrath zur Verfügung. Weitere Informationen sind über die Website der Universität Hamburg (Rubrik Stellenangebote) verfügbar.

Daimler entdeckt die Maschinenethik

Im Jahre 2013 hielt man sich bei Daimler noch sehr bedeckt. Die Abteilung Research & Development, Center Vehicle Concepts and Future Trends, Society and Technology Research Group, informierte auf Anfrage: „Unser Nachtsichtsystem ist ein rein informierendes System. Bremsungen auf vom Nachtsystem detektierte Objekte werden nicht eingeleitet.“ (E-Mail vom 8. August 2013) Man kann mit dem Gesamtsystem in der Dunkelheit sowohl Menschen als auch Tiere identifizieren. Eine automatische Notbremsung liegt nahe. Inzwischen hat der Konzern die Maschinenethik entdeckt. „Recht und Ethik im Fokus bei Daimler“ lautet der Titel eines Artikels, der am 1. April 2015 in der elektroniknet.de erschienen ist. Darin heißt es: „Im Herbst veranstaltet Daimler erstmals eine Fachkonferenz zu ‚Autonomes Fahren, Recht und Ethik‘. Ziel der Konferenz ist es, den Dialog mit Vertretern aus Wirtschaft, Wissenschaft, Politik und NGOs weiterzuführen. Die Keynote wird Prof. Dr. Julian Nida-Rümelin halten, Professor für Philosophie an der LMU München … Er arbeitet unter anderem an Fragen der Roboter- und Maschinenethik.“ Es zeichnet sich ab, dass Daimler eine extreme Position in der Diskussion einnimmt und dem Auto weitgehende Entscheidungsmöglichkeiten einräumt. Die Gesellschaft muss die Diskussion gut informiert und sehr intensiv führen und darf mobilitätsfreundlich und wirtschaftskritisch zugleich sein.

Mercedes

Abb.: Logo von 1902 (Quelle: commons.wikimedia.org)