Schlagworte: Selbstständig fahrende Autos

Wie gefährlich sind Roboter?

Den Chancen und Risiken von Robotern widmet sich die Bild am Sonntag am 10. Juli 2016 auf einer Doppelseite. „Wie viel Roboter ist gut?“ fragt der Autor, Florian Zerfaß, im Titel. Am 7. Juli sprach er mit Oliver Bendel, Wirtschaftsinformatiker, Informationsethiker und Maschinenethiker, der zu den Chancen zählt, dass Roboter die Menschen unterstützen und entlasten. Konkret erwähnte er gegenüber dem Journalisten das BMW-Werk in Spartanburg, wo Leichtbauroboter die Türdichtungen eindrücken und so die Handgelenke der Arbeiter entlasten, die unmittelbar daneben ihren weniger beschwerlichen Aufgaben nachgehen. Auch Pflegeroboter führte er an, die zusammen mit Pflegern im Tandem die Patienten umbetten und -lagern – Prototypen wie Robear, die in Bälde in Pflegeheimen und Krankenhäusern einsatzbereit sein sollen. Mit Risiken behaftet seien selbstlernende Systeme in offenen Welten. In der BamS wird Oliver Bendel mehrfach zitiert. Unter anderem weist er als Maschinenethiker darauf hin, dass man Maschinen eine Art von Moral beibringen kann. Der Artikel wird auf der Titelseite mit der Frage „Wie gefährlich sind Roboter?“ angeteasert und ist auf den Seiten 8 und 9 abgedruckt. Die Seiten 4 und 5 gehören dem Bundesverkehrsminister Alexander Dobrindt, der über seine „großen Baustellen“ reden soll. Eine davon ist die Ethikkommission, die die Entscheidungen automatischer und autonomer Autos aus ethischer Sicht beurteilen und sie in moralischer Hinsicht bestimmen soll. Ob ihr dies gelingen wird, steht in den Sternen. Oliver Bendel warnt davor, dass Autos über Leben und Tod von Menschen bestimmen.

Robot_and_Girl

Abb.: Ist das Mädchen sicher?

Interview zu Roboterautos

Deutschlandradio Kultur ist am Dienstag, 12. April 2016, im Gespräch mit Oliver Bendel. Der Wirtschaftsinformatiker und Maschinenethiker lebt in Zürich und forscht und publiziert seit Jahren über moralische Maschinen, seien es selbstständig fahrende Autos, Pflege- und Therapieroboter, zivile Drohnen oder Chatbots. Nana Brink ist als Autorin und Moderatorin unterwegs, für taz, SPIEGEL, Focus und Deutschlandradio. Ab 7.40 Uhr wird sie Fragen stellen zu autonomen Autos und deren Möglichkeiten, vor und während der Fahrt etwas zu lernen. Oliver Bendel ist skeptisch gegenüber komplexen moralischen Maschinen, die in offenen Welten verkehren und über Tod und Leben von Menschen entscheiden. Sein Interesse gilt einfachen moralischen Maschinen, ob im Haushalt oder in der Fabrikhalle. Dort sollen Geräte und Roboter besser sein als vorher, auch im moralischen Sinne. Beispiele sind Saugroboter, die Marienkäfer verschonen, und 3D-Drucker, die keine Waffen produzieren. Das Interview wird live geführt. Weitere Informationen gibt es über www.deutschlandradiokultur.de – dort ist zum gegebenen Zeitpunkt auch der Podcast zu finden.

printer

Abb.: Der 3D-Drucker kann sich weigern, eine Waffe auszudrucken

Maschinenethik im SPIEGEL

Der SPIEGEL beleuchtet in seiner Titelstory der Ausgabe 9/2016 das autonome Auto („Steuer frei“). Markus Brauck, Dietmar Hawranek und Thomas Schulz lassen u.a. Daimler-Vorstand Wolfgang Bernhard, Daimler-Chef Dieter Zetsche, Google-Forscher Sebastian Thrun und Wirtschaftsinformatiker und Maschinenethiker Oliver Bendel zu Wort kommen. „Das können wir nicht dem Google überlassen“, wird Bernhard zitiert, und gemeint ist das Geschäft mit dem Roboterauto. Das Magazin wird grundsätzlich: „Technologische Umbrüche, wie sie in der Automobilindustrie jetzt anstehen, haben schon viele Firmen hinweggefegt, die unsterblich schienen. Den Fernsehhersteller Telefunken, den Schreibmaschinenfabrikanten Triumph-Adler, die Fotofirma Kodak.“ (SPIEGEL, 27. Februar 2016) „Wir haben uns aufgemacht“, so Zetsche laut SPIEGEL, „diese Statistik zu schlagen“. „Buchstäblich Hunderte Menschen wollten mir weismachen, dass man kein fahrerloses Auto bauen kann“, sagt Thrun. Der Forscher gilt als Pionier in diesem Bereich. Bendel verbindet Maschinen- und Tierethik. Erwähnt wird seine Konzeption eines tierfreundlichen Saugroboters namens LADYBIRD, aber auch seine Arbeit zu Roboterautos. „Er ist Spezialist für Maschinenethik und setzt sich seit Jahren mit den moralischen Dilemmata auseinander, die das selbstfahrende Auto mit sich bringt. … Für Bendel hängt die Akzeptanz von selbstfahrenden Autos auch davon ab, ob diese ethischen Fragen zur Zufriedenheit der Bürger beantwortet werden. Bendel misstraut den optimistischen Visionen der Industrie. Es sei fatal, Maschinen komplexe moralische Entscheidungen zu überlassen.“ (SPIEGEL, 27. Februar 2016)

Oldtimer_Auto

Abb.: Das Auto schaut dich an, bevor es dich tötet

Telepolis-Buch „Die Moral in der Maschine“

Die Maschinenethik hat die Moral von Maschinen zum Gegenstand. Die meisten ihrer Vertreter und Anhänger sitzen in den USA, doch auch in Europa wächst das Interesse am Thema. Philosophen, Robotiker oder Experten für Künstliche Intelligenz stellen sich Fragen dieser Art: Können Maschinen gut oder böse sein? Kann man von einer Moral der Maschinen sprechen? Verwendet man Regeln oder Fälle? Hat die Maschinenethik eine Existenzberechtigung? Ist sie Konkurrenz oder Pendant zur Menschenethik? Letzten Endes geht es darum, ob bzw. wie man (teil-)autonomen Systemen so etwas wie Moral beibringen kann. Untersucht und erweitert werden unter anderem Chatbots, Serviceroboter, autonome Drohnen, ob zivil oder militärisch genutzt, und selbstständig fahrende Autos. Im Telepolis-Buch „Die Moral in der Maschine“ (Heise Medien), erschienen im Februar 2016, finden sich (populär-)wissenschaftliche und journalistische Beiträge von Oliver Bendel aus den Jahren 2012 bis 2016 zur Roboterethik und zur Maschinenethik. Sie sind in ganz unterschiedlichen schweizerischen und deutschen Zeitungen und Zeitschriften sowie auf einschlägigen Plattformen erschienen und widmen sich technischen Implementierungen, vor allem aber philosophischen Implikationen.

Metropolis

Abb.: Der Roboter aus „Metropolis“ vor seiner Verwandlung

Das Roboterauto zwischen den Kulturen

Prof. Dr. Mark Coeckelbergh vom Centre for Computing and Social Responsibility De Montfort University, Leicester, UK hält am 21. Oktober 2015 einen Vortrag zum Thema „Die Ethik selbstfahrender Autos“. Im Ankündigungstext heißt es: „Sollten wir völlig automatisierte, intelligent selbstfahrende Autos ohne menschliche Fahrer entwickeln und verwenden? Können solche Autos jemals sicher sein? Können sie ethisch sein? Stellen solche Autos eine Bedrohung von Menschen dar oder ist das Weglassen von Menschen als Fahrer die Lösung?“ (Website ots.at) Es geht demnach um Fragen der Technik- und Informationsethik, aber auch der Maschinenethik. Auch die Frage nach der kulturellen Adaption wird aufgeworfen: „Ein weiteres Problem könnte hinsichtlich der kulturellen Unterschiede entstehen: wenn Fahrverhalten in Gesellschaften und Kulturen verschieden ist, wie kann das beim Design solcher autonomer Systeme berücksichtigt werden?“ Der Vortrag findet am Österreichischen Forschungsinstitut für Artificial Intelligence in Wien statt und beginnt um 18.30 Uhr. Weitere Informationen über www.ots.at.

kuh

Abb.: Für die Kuh wird gebremst, ob in Indien oder in Texas

Auch Maschinen brauchen Moral

Im Beitrag „Auch Maschinen brauchen Moral“ von Marlene Nowotny wird auf die Forschung von Matthias Scheutz, Professor für Cognitive and Computer Science und Direktor des Human-Robot Interaction Laboratory an der Tufts University in Massachusetts, eingegangen. „Je selbstständiger diese Maschinen in sozialen Kontexten agieren, desto besser müssen sie mit Konfliktsituationen umgehen können.“ (Website ORF, 1. September 2015) Scheutz arbeite „daran, Robotern genau diese Fähigkeit zu geben“. „Eine solche ethische Kontrollarchitektur für Roboter könnte auch bei selbstfahrenden Autos zum Einsatz kommen. Die entsprechende Robotertechnologie ist hier bereits vorhanden – die Fahrzeuge können u.a. einschätzen, ob der Fahrer vor ihnen risikoaffin ist oder nicht -[,] aber die selbstfahrenden Autos sind nicht in der Lage, in Krisensituationen Entscheidungen zu treffen.“ (Website ORF, 1. September 2015) Im Gegensatz zu Autos mit Notbremsassistenten – die Technik ist also teilweise verfügbar, an der Moral wird noch gefeilt. Interessant ist der Hinweis auf aktuelle Forschungsergebnisse von Scheutz: „In solchen Situationen ein Urteil zu bilden, ist kompliziert genug. Doch es kommt erschwerend hinzu, dass Menschen an Roboter höhere ethische Erwartungen haben als an ihre Mitmenschen.“ Der Beitrag ist am 1. September 2015 erschienen und kann über science.orf.at/stories/1762399/ abgerufen werden.

Auto mit Moral

In einem ganzseitigen Artikel über selbstständig fahrende Autos mit dem Titel „Auto mit Moral“ stellt der Autor, Michael Baumann, promovierter Wissenschaftler an der ZHAW, die Einschätzungen von zwei Experten gegenüber. Oliver Bendel, Informations- und Maschinenethiker von der Hochschule für Wirtschaft FHNW, hat nichts gegen Autos dieser Art. Er will ihnen aber bestimmte Zonen zuweisen, etwa umfunktionierte Standstreifen auf der Autobahn, und bestimmte Uhrzeiten, etwa die Stunden der Nacht. Zudem hält er eine Geschwindigkeitsbegrenzung für notwendig. Frank M. Rinderknecht, Gründer und CEO der Autokonzeptschmiede Rinspeed, will die Autos immer und überall sehen. Die Einstellung der Gesellschaft ihnen gegenüber müsse sich ändern. Die Gesellschaft ist auch für Oliver Bendel zentral. Er geht im Moment davon aus, dass sie maschinelle Entscheidungen über Leben und Tod von menschlichen Verkehrsteilnehmern kaum hinnehmen wird. Als Maschinenethiker ist er an solchen Entscheidungen durchaus interessiert. Allerdings konzentriert er sich in seiner Forschung auf das Tierwohl. Dabei sind ebenfalls moralische Urteile relevant; nur sind die Risiken bei der Umsetzung viel geringer und die Chancen offensichtlicher. Der Artikel ist am 17. Mai 2015 in der Wochenzeitung Schweiz am Sonntag erschienen und als PDF verfügbar.

Schild

Abb.: Was soll das Auto tun?

Entscheidungsbäume für moralische Maschinen

Immer mehr teilautonome und autonome Maschinen müssen Entscheidungen treffen, die moralische Implikationen haben. Die Maschinenethik, die als Pendant zur Menschenethik aufgefasst werden kann, untersucht Möglichkeiten und Grenzen moralischer Maschinen. Oliver Bendel hat seit 2014 diverse Designstudien erarbeitet und damit Vorschläge für Aussehen und Funktionen unterbreitet. Noch wenig benutzt werden Entscheidungsbäume zur Konzeption von moralischen Maschinen. Ein neuer Beitrag von Oliver Bendel konzentriert sich auf einfache moralische Maschinen, die tierfreundlich sein sollen, und es wird für jede ausgewählte Aufgabe ein annotierter Entscheidungsbaum modelliert. Beispielsweise wird dargestellt, welche Bremsungen ein Roboterauto für wen durchführen soll. Der Beitrag erscheint nach endgültiger Annahme durch den Arbeitskreis Wirtschaftsinformatik (AKWI) im Herbst dieses Jahres. Tagungs- und Erscheinungsort ist Luzern.

Baum

Abb.: Kein Entscheidungsbaum

Autonomes Fahren

Bei Springer ist im Frühjahr 2015 der Herausgeberband „Autonomes Fahren: Technische, rechtliche und gesellschaftliche Aspekte“ erschienen. Folgende Fragen werden aufgeworfen: „Ist das voll automatisierte, autonom fahrende Auto zum Greifen nah? … Wie werden autonome Fahrzeuge in das aktuelle Verkehrssystem integriert? Wie erfolgt ihre rechtliche Einbettung? Welche Risiken bestehen und wie wird mit diesen umgegangen? Und welche Akzeptanz seitens der Gesellschaft sowie des Marktes kann hinsichtlich dieser Entwicklungen überhaupt erwartet werden?“ (Info auf springer.com) Experten aus Deutschland und den USA „beschreiben aus ingenieur- und gesellschaftswissenschaftlicher Sicht zentrale Themen im Zusammenhang mit der Automatisierung von Fahrzeugen im öffentlichen Straßenverkehr“ und versuchen aufzuzeigen, welche Entscheidungen einem autonomen Fahrzeug abverlangt werden bzw. welche Moral programmiert werden muss. Gefördert wurde die Publikation durch die Daimler und Benz Stiftung. Das breite Themenspektrum gefällt. Es fällt auf, dass in den Beiträgen zentrale Begriffe wie „Maschinenethik“ und „Moralische Maschinen“ fehlen (die in den Literaturangaben vorkommen) und dass man auf diesen Gebieten tätige Wissenschaftler aus der Schweiz und aus Österreich nicht einbezogen hat; zudem sind führende Experten aus Informatik, Robotik und Rechtswissenschaft nicht dabei, etwa Raúl Rojas (Berlin) und Eric Hilgendorf (Würzburg), die sich seit Jahren mit dem autonomen Fahren beschäftigen. Das Buch kann über http://www.springer.com/de/book/9783662458532 heruntergeladen werden.

Smart Cars made in Switzerland

„Die Schweiz kann wieder eine bedeutende Rolle im Automobilbau und in der Zulieferindustrie spielen. Es braucht nur die richtigen Weichenstellungen. Die Bahn wird nicht aufs Abstellgleis geraten, sondern kann sogar Synergien schaffen.“ Um diese scheinbar gewagte These zu begründen, holt Oliver Bendel in seinem Artikel „Made in Switzerland: Smart Cars“ ein bisschen aus. Er erzählt die Geschichte des Automobils in der Eidgenossenschaft, erklärt im Detail, was autonome Autos sind, und kommt dann zur Sache. „Was spricht dafür, dass die Schweiz in diesem boomenden Markt der Car IT, der Assistenzsysteme und der autonomen Autos eine Chance hat? Dass sie mitspielt, sozusagen mitfährt, im Mittelfeld oder an der Spitze?“ Mehrere Argumente werden genannt, und am Ende wird klar, dass es wirklich sein könnte, wenn man nur wollte, wenn Einrichtungen und Personen einmal über den Tellerrand hinausschauen würden, wenn sie einmal visionär wären, dann … Der Beitrag ist im Mai 2015 in der UnternehmerZeitung erschienen und kann hier als PDF heruntergeladen werden.

Messer

Abb.: Made in Switzerland

Autonome Autos und Ethik

Im Folgenden eine Zusammenstellung von Beiträgen zu Fahrerassistenzsystemen und autonomen Autos aus Sicht der Maschinenethik und der Ethik im Allgemeinen. Die meisten sind online verfügbar. Ein Schwerpunkt sind automatische Bremsungen für Tiere und Menschen.

Bendel, Oliver. Die Parkbucht des Karneades: Viereinhalb Dilemmata der Robotik. In: inside-it.ch, 17. März 2015. Über http://www.inside-it.ch/articles/39531.

Bendel, Oliver. Die Maschinenstürmer des Informationszeitalters. In: ICTkommunikation (Online-Ausgabe), 5. März 2015. Über https://ictk.ch/inhalt/die-maschinenst%C3%BCrmer-des-informationszeitalters.

Bendel, Oliver. Überlegungen zur Disziplin der Tier-Maschine-Interaktion. In: gbs-schweiz.org, 14. Februar 2015. Über http://gbs-schweiz.org/blog/ueberlegungen-zur-disziplin-der-tier-maschine-interaktion/.

Bendel, Oliver. Neun Thesen zu autonomen Autos. In: ICTkommunikation (Online-Ausgabe), 6. Februar 2015. Über https://ictk.ch/inhalt/neun-thesen-zu-autonomen-autos.

Bendel, Oliver. Selbstständig fahrende Autos. Beitrag für das Gabler Wirtschaftslexikon. Gabler/Springer, Wiesbaden 2015. Über http://wirtschaftslexikon.gabler.de/Definition/selbststaendig-fahrende-autos.html.

Bendel, Oliver. Advanced Driver Assistance Systems and Animals. In: Künstliche Intelligenz, Volume 28, Issue 4 (2014). S. 263 – 269.

Bendel, Oliver. Wirtschaftliche und technische Implikationen der Maschinenethik. In: Die Betriebswirtschaft, 4/2014. S. 237 – 248.

Bendel, Oliver. Towards Machine Ethics. In: Technology Assessment and Policy Areas of Great Transitions. 1st PACITA Project Conference, March 13 – 15, 2013. Prague, Czech Republic. S. 321 – 326. Auch als PDF erhältlich.

Bendel, Oliver. Für wen bremst das Roboterauto? In: Computerworld.ch, 16. Mai 2014. Über http://www.computerworld.ch/marktanalysen/studien-analysen/artikel/.

Bendel, Oliver. Fahrerassistenzsysteme aus ethischer Sicht. In: Zeitschrift für Verkehrssicherheit, 2/2014. S. 108 – 110.

Bendel, Oliver. Fahrerassistenzsystem. Beitrag für das Gabler Wirtschaftslexikon. Gabler/Springer, Wiesbaden 2014. Über http://wirtschaftslexikon.gabler.de/Definition/fahrerassistenzsystem.html.

Bendel, Oliver. Das Tier als Objekt der Moral der Maschine: Zum Verhältnis von Tier- und Maschinenethik. In: Telepolis, 2. Januar 2014. Über http://www.heise.de/tp/artikel/40/40684/.

Bendel, Oliver. Considerations about the Relationship between Animal and Machine Ethics. In: AI & SOCIETY, Dezember 2013 („Online-First“-Artikel auf SpringerLink).

Bendel, Oliver. Ich bremse auch für Tiere: Überlegungen zu einfachen moralischen Maschinen. In: inside-it.ch, 4. Dezember 2013. Über http://www.inside-it.ch/articles/34646.

Bendel, Oliver. Buridans Robot: Überlegungen zu maschinellen Dilemmata. In: Telepolis, 20. November 2013. Über http://www.heise.de/tp/artikel/40/40328/1.html.

Bendel, Oliver. Einfache moralische Maschinen. In: KMU Business World, 30. August 2013. Über http://www.kmu-businessworld.ch/de/content/einfache-moralische-maschinen.

Bendel, Oliver. Asimovs Automatobile: Selbstständig fahrende Autos in Fiktion und Realität und als Gegenstand der Maschinenethik. In: Telepolis, 27. August 2013. Über http://www.heise.de/tp/artikel/39/39728/1.html.

Bendel, Oliver. Über gute und böse Maschinen: Möglichkeiten und Grenzen der Maschinenethik. In: ICTkommunikation, 5/2013. S. 28 – 30. Auch als PDF erhältlich.

Bendel, Oliver. Die Moral der Maschinen: Überlegungen zur Maschinenethik. In: inside-it.ch, 24. Oktober 2012. Über http://www.inside-it.ch/articles/30517.

Bendel, Oliver. Maschinenethik. Beitrag für das Gabler Wirtschaftslexikon. Gabler/Springer, Wiesbaden 2012. Über http://wirtschaftslexikon.gabler.de/Definition/maschinenethik.html.

Beuth, Patrick. Wenn Software über Leben und Tod entscheidet. In: ZEIT ONLINE, 13. Mai 2014. Über http://www.zeit.de/digital/internet/2014-05/unfall-fahrerlose-autos-ethik.

Büchel, Stephanie. Wie viel Moral braucht eine Maschine? In: Liewo, 2. Juni 2013. S. 12. Auch als PDF erhältlich (mit freundlicher Genehmigung der Autorin).

Hevelke, Alexander; Nida-Rümelin, Julian. Responsibility for Crashes of Autonomous Vehicles: An Ethical Analysis. In: Science and Engineering Ethics, 11. Juni 2014.

Holzer, Holger. Das Autonomie-Dilemma: Wenn Maschinen über Menschenleben entscheiden. In: Focus, 28. Januar 2015. Über http://www.focus.de/auto/news/wenn-maschinen-ueber-menschenleben-entscheiden-das-autonomie-dilemma_id_4437354.html.

Kaeser, Eduard. Das „moralische“ Auto. In: NZZ.ch, 17. April 2014. Über http://www.nzz.ch/wissenschaft/uebersicht/das-moralische-auto-1.18284699.

Mertens, Frank. Kind oder Rentner: Für wen bremst das Roboterauto? In: Autogazette, 1. April 2015. Über http://www.autogazette.de/daimler/ethik/autonom/kind-oder-rentner-fuer-wen-bremst-das-roboterauto-512035.html.

Nüesch, Danja. Das Zähmen der Maschinen. In: Schweizer Radio und Fernsehen SRF, 17. November 2014. Über http://www.srf.ch/kultur/gesellschaft-religion/das-zaehmen-der-maschinen.

Rauch, Christian. Cloud am Steuer. In: GDI Impuls, 2/2014. S. 40 – 45. Auch als PDF erhältlich (mit freundlicher Genehmigung des Autors).

modern_car

Abb.: Ein modernes Auto

Auto, Motor, Spaß

Lustiges und Ernstes war beim Auto-Motor-Sport-Kongress 2015 in Stuttgart zu vernehmen. Winfried Hermann, seines Zeichens Verkehrsminister in Baden-Württemberg, sorgte sich um sein bestes Stück: „Autonomes Fahren ist die Entmannung des deutschen Autofahrers“, sagte der grüne Politiker laut der Süddeutschen Zeitung vom 11. April 2015. Rafael Capurro, Informationsethiker, begab sich auf das Gebiet der Maschinenethik und ging auf die Moral des Autos ein, oder genauer auf die des Menschen, die auf sein bestes Stück übertragen wird. Er bemerkte laut auto-motor-sport.de, man könne die Philosophie „Ich bremse auch für Tiere“ in solch ein System einbetten. Wer sich für Fahrerassistenzsysteme und Roboterautos nicht nur mit Blick auf Menschen interessiert, sei u.a. auf die Artikel „Das Tier als Objekt der Moral der Maschine“ (Telepolis, 2014), „Fahrerassistenzsysteme aus ethischer Sicht“ (Zeitschrift für Verkehrssicherheit, 2013) und „Considerations about the Relationship between Animal and Machine Ethics“ (AI & SOCIETY) von Oliver Bendel verwiesen. Und natürlich auf seinen Beitrag „Ich bremse auch für Tiere: Überlegungen zu einfachen moralischen Maschinen“ von 2013, erschienen in der Schweizer Zeitschrift inside-it.ch.

volkswagen

Abb.: Friede und Liebe den Tieren