Alle Maschinen sind gleich

“Die Literaturgeschichte ist eine Fundgrube für Ökonomen, Ingenieure und Informatiker. Sie können Perlen und Plunder in ihr finden. Sie können sich inspirieren lassen und Parallelen ziehen. Und sie mögen, nach dem Durcheilen der Technikgeschichte, frei nach George Orwell zitieren: ‘Alle Maschinen sind gleich.'” Mit diesen Worten beginnt ein Artikel, der am 18. Mai 2015 in der Zeitschrift ICTkommunikation erschienen ist. Er geht der Frage nach, ob manche Maschinen, um mit dem Schriftsteller zu sprechen, gleicher sind, und stellt die “Evolution der Maschinen” dar. Diese beginnt mit den tätigen Maschinen, die uns unterstützen und entlasten. Auf die denkenden Maschinen, die Tablets und Notebooks, die modernen Wasch- und Kaffeemaschinen, folgen die sozialen und moralischen. Am Ende überraschen uns die vernetzten Maschinen mit ihren kommunikativen Fähigkeiten, und die Maschinen, die sich selbst verbessern und ihresgleichen bauen, etwa tätige Maschinen, womit ein Kreislauf entsteht, dessen Folgen nicht abzusehen sind. Der Beitrag von Oliver Bendel mit dem Titel “Alle Maschinen sind gleich” kann über ictk.ch/content/alle-maschinen-sind-gleich heruntergeladen werden.

maschine

Abb.: Auch eine Maschine

Auto mit Moral

In einem ganzseitigen Artikel über selbstständig fahrende Autos mit dem Titel “Auto mit Moral” stellt der Autor, Michael Baumann, promovierter Wissenschaftler an der ZHAW, die Einschätzungen von zwei Experten gegenüber. Oliver Bendel, Informations- und Maschinenethiker von der Hochschule für Wirtschaft FHNW, hat nichts gegen Autos dieser Art. Er will ihnen aber bestimmte Zonen zuweisen, etwa umfunktionierte Standstreifen auf der Autobahn, und bestimmte Uhrzeiten, etwa die Stunden der Nacht. Zudem hält er eine Geschwindigkeitsbegrenzung für notwendig. Frank M. Rinderknecht, Gründer und CEO der Autokonzeptschmiede Rinspeed, will die Autos immer und überall sehen. Die Einstellung der Gesellschaft ihnen gegenüber müsse sich ändern. Die Gesellschaft ist auch für Oliver Bendel zentral. Er geht im Moment davon aus, dass sie maschinelle Entscheidungen über Leben und Tod von menschlichen Verkehrsteilnehmern kaum hinnehmen wird. Als Maschinenethiker ist er an solchen Entscheidungen durchaus interessiert. Allerdings konzentriert er sich in seiner Forschung auf das Tierwohl. Dabei sind ebenfalls moralische Urteile relevant; nur sind die Risiken bei der Umsetzung viel geringer und die Chancen offensichtlicher. Der Artikel ist am 17. Mai 2015 in der Wochenzeitung Schweiz am Sonntag erschienen.

Schild

Abb.: Was soll das Auto tun?

Robot Cars from the Fifties

Im Sommer 2013 wurde der Artikel “Asimovs Automatobile: Selbstständig fahrende Autos in Fiktion und Realität und als Gegenstand der Maschinenethik” von Oliver Bendel in der Online-Zeitschrift Telepolis (über http://www.heise.de/tp/artikel/39/39728/1.html) veröffentlicht. Er nimmt Bezug auf einen anderen Artikel, der 2012 mitsamt einer Geschichte um den New Autonomous Car (NAC) erschienen war, und auf einen Konferenzbeitrag aus dem selben Jahr (Abstract über http://pacita.strast.cz/en/conference/documents). Unter dem Titel “Robot Cars from the Fifties” wurde der Artikel nun gekürzt, ergänzt und in englischer Sprache zur Verfügung gestellt. Der Teaser deutet an, worum es im Kern geht: “In his short story ‘Sally’ from 1953, Isaac Asimov envisioned the functions, chances and risks of unmanned, self-driving cars. Now, advanced driver assistance systems increasingly take over actions from the driver, and fully autonomous prototypes seek to become an everyday feature on our roads. Asimov’s story already confronts the reader with some problems discussed in machine ethics today.” Den englischen Artikel kann man über gbs-schweiz.org/blog/robot-cars-from-the-fifties/ aufrufen.

Brauchen Maschinen eine Moral?

Brauchen Maschinen eine Moral? Zu diesem Thema führte der Hessische Rundfunk am 23. April 2015 ein Interview mit dem Maschinenethiker und Wirtschaftsinformatiker Oliver Bendel. Gesprochen wurde im Studio in Zürich (SRF) bzw. Frankfurt über selbstständig fahrende Autos, aber auch über tierfreundliche Staubsauger. Moralisieren – so der Sprachgebrauch des Vertreters der relativ neuen Disziplin – kann man unterschiedliche Maschinen. Insbesondere einfache sind geeignet, und aus ihnen kann man einfache moralische Maschinen machen. Sie werden sozusagen etwas klüger und etwas besser auch im moralischen Sinne. Oliver Bendel ist in seiner Forschung bereits ganz konkret und praktisch geworden. Er hat annotierte Entscheidungsbäume entwickelt und stellt diese im Herbst 2015 auf einer Wirtschaftsinformatikkonferenz in Luzern vor. Ein Preprint ist über www.oliverbendel.net erhältlich. Der Beitrag im Hessischen Rundfunk wird voraussichtlich im September 2015 ausgestrahlt. Weitere Informationen folgen.

Entscheidungsbäume für moralische Maschinen

Immer mehr teilautonome und autonome Maschinen müssen Entscheidungen treffen, die moralische Implikationen haben. Die Maschinenethik, die als Pendant zur Menschenethik aufgefasst werden kann, untersucht Möglichkeiten und Grenzen moralischer Maschinen. Oliver Bendel hat seit 2014 diverse Designstudien erarbeitet und damit Vorschläge für Aussehen und Funktionen unterbreitet. Noch wenig benutzt werden Entscheidungsbäume zur Konzeption von moralischen Maschinen. Ein neuer Beitrag von Oliver Bendel konzentriert sich auf einfache moralische Maschinen, die tierfreundlich sein sollen, und es wird für jede ausgewählte Aufgabe ein annotierter Entscheidungsbaum modelliert. Beispielsweise wird dargestellt, welche Bremsungen ein Roboterauto für wen durchführen soll. Am 10. Mai 2015 wurde ein Preprint des Beitrags “Einfache moralische Maschinen: Vom Design zur Konzeption” veröffentlicht. Das Original mitsamt größeren Grafiken erscheint nach endgültiger Annahme durch den Arbeitskreis Wirtschaftsinformatik (AKWI) im Herbst dieses Jahres. Tagungs- und Erscheinungsort ist Luzern.

Baum

Abb.: Kein Entscheidungsbaum

Die intelligenten Roboter kommen

“Das Internet verändert viele Bereiche des täglichen Lebens radikal. Vor einem fundamentalen Wandel stehen auch die Fabriken. Massenproduktion war gestern. In der Fabrik der Zukunft wird sich vieles um personalisierte Produkte drehen.” Mit diesen Worten beginnt ein Artikel von Philipp Bürkler mit dem Titel “Die intelligenten Roboter kommen”, der bereits am 20. Februar 2015 im St. Galler Tagblatt, im Toggenburger Tagblatt und in der Appenzeller Zeitung erschienen ist. Es geht um die Robotik im 21. Jahrhundert und die Industrie 4.0. “Die Zahl 4.0 deutet auf die vierte industrielle Revolution, die jetzt die Fabriken erfasst.” (Tagblatt, 20. Februar 2015) Zitiert werden Aussagen von Joachim Seidelmann, Wissenschaftler beim Fraunhofer IPA, Ian Roberts, Technologiechef bei Bühler, und von Oliver Bendel. Seine Ausführungen werden mit den Sätzen eingeleitet: “Etwas kritischer beobachtet die Entwicklung der deutsche Maschinenethiker Oliver Bendel. Er doziert in Olten an der Fachhochschule Nordwestschweiz.” Er anerkennt die faszinierenden Fortschritte und Möglichkeiten, beklagt aber den drohenden Verlust von handwerklichen Fähigkeiten. Auch Arbeitsplätze sind nach seiner Meinung bedroht; zwar kann es zunächst zu einer Zunahme von Beschäftigung kommen, aber mittel- und langfristig drohen Gefahren, erst für die Arbeiter, dann auch für die Manager und Informatiker. Der Artikel kann über www.tagblatt.ch aufgerufen werden.

Intelligente_Roboter

Abb.: Ein intelligenter Roboter

Autonomes Fahren

Bei Springer ist im Frühjahr 2015 der Herausgeberband “Autonomes Fahren: Technische, rechtliche und gesellschaftliche Aspekte” erschienen. Folgende Fragen werden aufgeworfen: “Ist das voll automatisierte, autonom fahrende Auto zum Greifen nah? … Wie werden autonome Fahrzeuge in das aktuelle Verkehrssystem integriert? Wie erfolgt ihre rechtliche Einbettung? Welche Risiken bestehen und wie wird mit diesen umgegangen? Und welche Akzeptanz seitens der Gesellschaft sowie des Marktes kann hinsichtlich dieser Entwicklungen überhaupt erwartet werden?” (Info auf springer.com) Experten aus Deutschland und den USA “beschreiben aus ingenieur- und gesellschaftswissenschaftlicher Sicht zentrale Themen im Zusammenhang mit der Automatisierung von Fahrzeugen im öffentlichen Straßenverkehr” und versuchen aufzuzeigen, welche Entscheidungen einem autonomen Fahrzeug abverlangt werden bzw. welche Moral programmiert werden muss. Gefördert wurde die Publikation durch die Daimler und Benz Stiftung. Das breite Themenspektrum gefällt. Es fällt auf, dass in den Beiträgen zentrale Begriffe wie “Maschinenethik” und “Moralische Maschinen” fehlen (die in den Literaturangaben vorkommen) und dass man auf diesen Gebieten tätige Wissenschaftler aus der Schweiz und aus Österreich nicht einbezogen hat; zudem sind führende Experten aus Informatik, Robotik und Rechtswissenschaft nicht dabei, etwa Raúl Rojas (Berlin) und Eric Hilgendorf (Würzburg), die sich seit Jahren mit dem autonomen Fahren beschäftigen. Das Buch kann über http://www.springer.com/de/book/9783662458532 heruntergeladen werden.

Smart Cars made in Switzerland

“Die Schweiz kann wieder eine bedeutende Rolle im Automobilbau und in der Zulieferindustrie spielen. Es braucht nur die richtigen Weichenstellungen. Die Bahn wird nicht aufs Abstellgleis geraten, sondern kann sogar Synergien schaffen.” Um diese scheinbar gewagte These zu begründen, holt Oliver Bendel in seinem Artikel “Made in Switzerland: Smart Cars” ein bisschen aus. Er erzählt die Geschichte des Automobils in der Eidgenossenschaft, erklärt im Detail, was autonome Autos sind, und kommt dann zur Sache. “Was spricht dafür, dass die Schweiz in diesem boomenden Markt der Car IT, der Assistenzsysteme und der autonomen Autos eine Chance hat? Dass sie mitspielt, sozusagen mitfährt, im Mittelfeld oder an der Spitze?” Mehrere Argumente werden genannt, und am Ende wird klar, dass es wirklich sein könnte, wenn man nur wollte, wenn Einrichtungen und Personen einmal über den Tellerrand hinausschauen würden, wenn sie einmal visionär wären, dann … Der Beitrag ist im Mai 2015 in der UnternehmerZeitung erschienen und kann über die Website des Instituts für Wirtschaftsinformatik der Hochschule für Wirtschaft FHNW heruntergeladen werden.

Messer

Abb.: Made in Switzerland

IT 2020

Das Swiss ICT Symposium ist laut eigenen Angaben seit “35 Jahren der Treff von IT-Entscheidern und Managern mit persönlichem Austausch im exklusiven Kreise” (Website swissict.ch). Weiter heißt es: “Ein einzigartiger Mix von Referenten aus Wirtschaft, Forschung, Politik und Gesellschaft bietet Inspiration und Know-how.” Bei der aktuellen Durchführung geht es um technische und wirtschaftliche Innovationen, u.a. um den digitalisierten Kunden, das Internet der Dinge, die Maschine-Maschine-Kommunikation, um Cloud Computing und Big Data. Keynote-Speaker sind Sascha Lobo und Sven Gabor Janszky. Eines der 12 Kurzreferate wird Oliver Bendel (Hochschule für Wirtschaft FHNW) halten, zu sozialer Robotik und Maschinenethik. Die Veranstaltung findet am 11. und 12. November 2015 im Kultur- und Kongresszentrum Luzern statt. Die Anmeldung ist über www.swissict.ch möglich.

kundin

Abb.: Eine digitalisierte Kundin?

Autonome Autos und Ethik

Im Folgenden eine Zusammenstellung von Beiträgen zu Fahrerassistenzsystemen und autonomen Autos aus Sicht der Maschinenethik und der Ethik im Allgemeinen. Die meisten sind online verfügbar. Ein Schwerpunkt sind automatische Bremsungen für Tiere und Menschen.

Bendel, Oliver. Die Parkbucht des Karneades: Viereinhalb Dilemmata der Robotik. In: inside-it.ch, 17. März 2015. Über http://www.inside-it.ch/articles/39531.

Bendel, Oliver. Die Maschinenstürmer des Informationszeitalters. In: ICTkommunikation (Online-Ausgabe), 5. März 2015. Über http://ictk.ch/content/die-maschinenst%C3%BCrmer-des-informationszeitalters.

Bendel, Oliver. Überlegungen zur Disziplin der Tier-Maschine-Interaktion. In: gbs-schweiz.org, 14. Februar 2015. Über http://gbs-schweiz.org/blog/ueberlegungen-zur-disziplin-der-tier-maschine-interaktion/.

Bendel, Oliver. Neun Thesen zu autonomen Autos. In: ICTkommunikation (Online-Ausgabe), 6. Februar 2015. Über http://ictk.ch/content/neun-thesen-zu-autonomen-autos.

Bendel, Oliver. Selbstständig fahrende Autos. Beitrag für das Gabler Wirtschaftslexikon. Gabler/Springer, Wiesbaden 2015. Über http://wirtschaftslexikon.gabler.de/Definition/selbststaendig-fahrende-autos.html.

Bendel, Oliver. Advanced Driver Assistance Systems and Animals. In: Künstliche Intelligenz, Volume 28, Issue 4 (2014). S. 263 – 269.

Bendel, Oliver. Wirtschaftliche und technische Implikationen der Maschinenethik. In: Die Betriebswirtschaft, 4/2014. S. 237 – 248.

Bendel, Oliver. Towards Machine Ethics. In: Technology Assessment and Policy Areas of Great Transitions. 1st PACITA Project Conference, March 13 – 15, 2013. Prague, Czech Republic. S. 321 – 326. Auch als PDF erhältlich.

Bendel, Oliver. Für wen bremst das Roboterauto? In: Computerworld.ch, 16. Mai 2014. Über http://www.computerworld.ch/marktanalysen/studien-analysen/artikel/.

Bendel, Oliver. Fahrerassistenzsysteme aus ethischer Sicht. In: Zeitschrift für Verkehrssicherheit, 2/2014. S. 108 – 110.

Bendel, Oliver. Fahrerassistenzsystem. Beitrag für das Gabler Wirtschaftslexikon. Gabler/Springer, Wiesbaden 2014. Über http://wirtschaftslexikon.gabler.de/Definition/fahrerassistenzsystem.html.

Bendel, Oliver. Das Tier als Objekt der Moral der Maschine: Zum Verhältnis von Tier- und Maschinenethik. In: Telepolis, 2. Januar 2014. Über http://www.heise.de/tp/artikel/40/40684/.

Bendel, Oliver. Considerations about the Relationship between Animal and Machine Ethics. In: AI & SOCIETY, Dezember 2013 (“Online-First”-Artikel auf SpringerLink).

Bendel, Oliver. Ich bremse auch für Tiere: Überlegungen zu einfachen moralischen Maschinen. In: inside-it.ch, 4. Dezember 2013. Über http://www.inside-it.ch/articles/34646.

Bendel, Oliver. Buridans Robot: Überlegungen zu maschinellen Dilemmata. In: Telepolis, 20. November 2013. Über http://www.heise.de/tp/artikel/40/40328/1.html.

Bendel, Oliver. Einfache moralische Maschinen. In: KMU Business World, 30. August 2013. Über http://www.kmu-businessworld.ch/de/content/einfache-moralische-maschinen.

Bendel, Oliver. Asimovs Automatobile: Selbstständig fahrende Autos in Fiktion und Realität und als Gegenstand der Maschinenethik. In: Telepolis, 27. August 2013. Über http://www.heise.de/tp/artikel/39/39728/1.html.

Bendel, Oliver. Über gute und böse Maschinen: Möglichkeiten und Grenzen der Maschinenethik. In: ICTkommunikation, 5/2013. S. 28 – 30. Auch als PDF erhältlich.

Bendel, Oliver. Die Moral der Maschinen: Überlegungen zur Maschinenethik. In: inside-it.ch, 24. Oktober 2012. Über http://www.inside-it.ch/articles/30517.

Bendel, Oliver. Maschinenethik. Beitrag für das Gabler Wirtschaftslexikon. Gabler/Springer, Wiesbaden 2012. Über http://wirtschaftslexikon.gabler.de/Definition/maschinenethik.html.

Beuth, Patrick. Wenn Software über Leben und Tod entscheidet. In: ZEIT ONLINE, 13. Mai 2014. Über http://www.zeit.de/digital/internet/2014-05/unfall-fahrerlose-autos-ethik.

Büchel, Stephanie. Wie viel Moral braucht eine Maschine? In: Liewo, 2. Juni 2013. S. 12. Auch als PDF erhältlich (mit freundlicher Genehmigung der Autorin).

Hevelke, Alexander; Nida-Rümelin, Julian. Responsibility for Crashes of Autonomous Vehicles: An Ethical Analysis. In: Science and Engineering Ethics, 11. Juni 2014.

Holzer, Holger. Das Autonomie-Dilemma: Wenn Maschinen über Menschenleben entscheiden. In: Focus, 28. Januar 2015. Über http://www.focus.de/auto/news/wenn-maschinen-ueber-menschenleben-entscheiden-das-autonomie-dilemma_id_4437354.html.

Kaeser, Eduard. Das “moralische” Auto. In: NZZ.ch, 17. April 2014. Über http://www.nzz.ch/wissenschaft/uebersicht/das-moralische-auto-1.18284699.

Mertens, Frank. Kind oder Rentner: Für wen bremst das Roboterauto? In: Autogazette, 1. April 2015. Über http://www.autogazette.de/daimler/ethik/autonom/kind-oder-rentner-fuer-wen-bremst-das-roboterauto-512035.html.

Nüesch, Danja. Das Zähmen der Maschinen. In: Schweizer Radio und Fernsehen SRF, 17. November 2014. Über http://www.srf.ch/kultur/gesellschaft-religion/das-zaehmen-der-maschinen.

Rauch, Christian. Cloud am Steuer. In: GDI Impuls, 2/2014. S. 40 – 45. Auch als PDF erhältlich (mit freundlicher Genehmigung des Autors).

modern_car

Abb.: Ein modernes Auto