30 Beiträge zur Maschinenethik

Im Folgenden eine Zusammenstellung von 30 Artikeln und Buchbeiträgen, die Oliver Bendel seit 2012 zur Maschinenethik und zu verwandten Bereichen geschrieben hat. Die meisten sind online verfügbar (manche über Fachdatenbanken wie WISO). Publikationen zur Informationsethik sind an dieser Stelle nicht aufgeführt.

Comic_ScareBot-5000

Abb.: Comic von Reza Farazmand (Quelle: http://poorlydrawnlines.com)

Die Roboter sind unter uns. In: Netzwoche, 22 (2014). S. 28. Auch als PDF erhältlich.

Advanced Driver Assistance Systems and Animals. In: Künstliche Intelligenz, Volume 28, Issue 4 (2014). S. 263 – 269.

Surgical, Therapeutic, Nursing and Sex Robots in Machine and Information Ethics. In: van Rysewyk, Simon Peter; Pontier, Matthijs. Machine Medical Ethics. Series: Intelligent Systems, Control and Automation: Science and Engineering. Springer, Berlin, New York 2014.

Wirtschaftliche und technische Implikationen der Maschinenethik. In: Die Betriebswirtschaft, 4/2014. S. 237 – 248.

Towards Machine Ethics. In: Technology Assessment and Policy Areas of Great Transitions. 1st PACITA Project Conference, March 13 – 15, 2013. Prague, Czech Republic. S. 321 – 326. Auch als PDF erhältlich.

Maschinenethik in der Industrie 4.0: Plädoyer für einfache moralische Maschinen. In: Wissenschaftsjahr 2014 – Die Digitale Gesellschaft, 12. Juni 2014. Über http://www.digital-ist.de/experten-blog/maschinenethik-in-der-industrie-40.html.

Robot selfies, and the road to self-recognition. In: Robohub, 9. Juni 2014. Über http://robohub.org/robot-selfies-and-the-road-to-self-recognition/.

Für wen bremst das Roboterauto? In: Computerworld.ch, 16. Mai 2014. Über http://www.computerworld.ch/marktanalysen/studien-analysen/artikel/.

Fahrerassistenzsysteme aus ethischer Sicht. In: Zeitschrift für Verkehrssicherheit, 2/2014. S. 108 – 110.

Wenn Roboter Selfies schiessen. In: ICTkommunikation (Online-Ausgabe), 8. April 2014. Über http://ictk.ch/content/wenn-roboter-selfies-schiessen.

Das Tier als Objekt der Moral der Maschine: Zum Verhältnis von Tier- und Maschinenethik. In: Telepolis, 2. Januar 2014. Über http://www.heise.de/tp/artikel/40/40684/.

Considerations about the Relationship between Animal and Machine Ethics. In: AI & SOCIETY, Dezember 2013 (“Online-First”-Artikel auf SpringerLink).

Ich bremse auch für Tiere: Überlegungen zu einfachen moralischen Maschinen. In: inside-it.ch, 4. Dezember 2013. Über http://www.inside-it.ch/articles/34646.

Buridans Robot: Überlegungen zu maschinellen Dilemmata. In: Telepolis, 20. November 2013. Über http://www.heise.de/tp/artikel/40/40328/1.html.

Der Lügenbot und andere Münchhausen-Maschinen. In: CyberPress, 11. September 2013. Über http://cyberpress.de/wiki/Maschinenethik.

Dr. Robot entdeckt die Moral: Maschinen- und Menschenethik im Gesundheitsbereich. In: IT for Health, 02/2013. S. 2 – 4. Auch als PDF erhältlich.

Einfache moralische Maschinen. In: KMU Business World, 30. August 2013. Über http://www.kmu-businessworld.ch/de/content/einfache-moralische-maschinen.

Asimovs Automatobile: Selbstständig fahrende Autos in Fiktion und Realität und als Gegenstand der Maschinenethik. In: Telepolis, 27. August 2013. Über http://www.heise.de/tp/artikel/39/39728/1.html.

Good bot, bad bot: Dialog zwischen Mensch und Maschine. In: UnternehmerZeitung, 7 (2013) 19. S. 30 – 31. Auch als PDF erhältlich.

Über gute und böse Maschinen: Möglichkeiten und Grenzen der Maschinenethik. In: ICTkommunikation, 5/2013. S. 28 – 30. Auch als PDF erhältlich.

Towards a machine ethics. In: Technology Assessment and Policy Areas of Great Transitions: Book of Abstracts. 1st PACITA Project Conference, March 13 – 15, 2013. Prague, Czech Republic. pp. 229 – 230. Über http://pacita.strast.cz/en/conference/documents.

Die Moral der Maschinen: Überlegungen zur Maschinenethik. In: inside-it.ch, 24. Oktober 2012. Über http://www.inside-it.ch/articles/30517.

Bendel, Oliver. “Siri ist hier.”: Der Sprachassistent von Apple in der Schweiz aus linguistischer und ethischer Sicht. In: mediensprache.net. Juli 2012. Über http://www.mediensprache.net.

Maschinenethik, Roboterethik, Fahrerassistenzsystem, Industrie 4.0, Cyber-physische Systeme, Soziale Robotik, Mensch-Maschine-Interaktion. Beiträge für das Gabler Wirtschaftslexikon. Gabler/Springer, Wiesbaden 2012. Über http://wirtschaftslexikon.gabler.de.

Gute Roboter

“Serviceroboter sind in etlichen Ausführungen erhältlich. Haushalts- und Gartenroboter erobern die Wohnviertel, Pflege- und Therapieroboter die Krankenhäuser und Altenheime. Sie unterstützen und sie überwachen uns. Und sie ersetzen uns allmählich.” Mit diesen Worten beginnnt der Artikel “Die Roboter sind unter uns” von Oliver Bendel in der Netzwoche vom 3. Dezember 2014. In der letzten Ausgabe des Jahres dreht es sich um die Trends des Jahres 2015. Als Wirtschaftsinformatiker und Ethiker sieht Oliver Bendel durchaus positive Aspekte von Jaco, Qrio und Pepper – und natürlich von LADYBIRD, einem Saugroboter, der keine Krabbeltiere tötet. Als Informationsethiker weist er aber eben auch darauf hin, dass die “künstlichen Kreaturen” uns überwachen: “Wenn sie mit Sensoren ausgestattet sind, wenn sie über Intelligenz und Erinnerungsvermögen verfügen, werden sie nach und nach zu allwissenden Begleitern.” Entsprechend ist die Informationsethik zur Reflexion der Probleme gefragt. Und die Maschinenethik, um die Serviceroboter in moralische Maschinen zu verwandeln. Der Artikel ist über die Website der Hochschule für Wirtschaft FHNW kostenlos zu beziehen.

LADYBIRD_CLEANER

Abb.: LADYBIRD wird immer bekannter

AI and Ethics

In Austin (Texas, USA) finden vom 25. bis 26. Januar 2015 die “Workshops at the Twenty-Ninth AAAI Conference on Artificial Intelligence (AAAI-15)” statt. Auf der Website werden zum “W01 – AI and Ethics” mediale Aussagen wie “Artificial Intelligence Is Changing the World, and Humankind Must Adapt” und “Physicist Louis Del Monte believes that by 2045 machines will threaten human survival” zitiert. Vor diesem Hintergrund heißt es: “The goal of this workshop is to provide a forum to discuss the ethical questions implicit in such headlines, which go to the centre of the quest to build AI systems with potentially super-human intelligence.” Es werden sowohl informations- und technikethische als auch maschinenethische Bereiche behandelt, z.B. “AI as a threat to or saviour for humanity”, “Safeguards necessary within AI research”, “Autonomous agents in the military”, “Autonomous agents in commerce and other domains” und “Mechanisms to ensure moral behaviours in AI systems”. Weitere Informationen sind über www.aaai.org/Workshops/ws15workshops.php erhältlich.

ROBOCAR

Selbstständig fahrende Autos (Roboterautos) und Fahrerassistenzsysteme (FAS) können dabei helfen, Verletzungen zu vermeiden und Leben zu retten. Wenn sie sich in moralisch relevanten Kontexten entscheiden müssen, können sie als moralische Maschinen angesehen und in der Maschinenethik untersucht und entworfen werden. Einfache moralische Maschinen sind ohne weiteres möglich und durchaus sinnvoll. Sie unterscheiden zwischen unterschiedlichen moralischen Objekten wie Menschen und Tieren und bewahren sie vor Unfällen. Oliver Bendel hat in verschiedenen Artikeln die technischen und philosophischen Möglichkeiten aufgezeigt, etwa in “Advanced Driver Assistance Systems and Animals” (Künstliche Intelligenz, 2014), “Wirtschaftliche und technische Implikationen der Maschinenethik” (Die Betriebswirtschaft, 2014), “Für wen bremst das Roboterauto?” (Computerworld.ch, 2014), “Fahrerassistenzsysteme aus ethischer Sicht” (Zeitschrift für Verkehrssicherheit, 2014), “Das Tier als Objekt der Moral der Maschine” (Telepolis, 2014), “Considerations about the Relationship between Animal and Machine Ethics” (AI & Society, 2013) und “Ich bremse auch für Tiere” (inside-it.ch,  2013). Aktuell arbeitet er an Designstudien zu Roboterautos wie ROBOCAR und zu mit Automaten ausgestatteten Fahrzeugen. Er schlägt vor, dass sie auf dem Standstreifen der Autobahnen fahren und untereinander sowie mit Autos mit FAS auf der normalen Straße vernetzt sind.

Robo_Car

Abb.: ROBOCAR in Aktion

Das Zähmen der Maschinen

“Das Zähmen der Maschinen” ist der Titel eines Artikels von Danja Nüesch für SRF, Schweizer Radio und Fernsehen. Behandelt werden die Themen der Maschinenethik, auf der Grundlage eines Interviews mit Oliver Bendel. Der Professor für Wirtschaftsinformatik und Informationsethik an der Hochschule für Wirtschaft FHNW treibt auch Maschinenethik. Er spricht sich für einfache moralische Maschinen aus. Seine Paradebeispiele sind der GOODBOT, ein verbesserter Chatbot, und Ladybird, ein tierfreundlicher Saugroboter. Auch tierfreundliche Windkraftanlagen und waffenfeindliche 3D-Drucker werden angeführt. Von komplexen moralischen Maschinen rät Oliver Bendel eher ab. Die militärische Drohne sollte ebenso wie das selbstständig fahrende Auto bestimmte Entscheidungen den Menschen überlassen. Diese müssen also, als Soldaten, Insassen etc., intervenieren können. Nichts spricht dagegen, dass sich Roboterautos oder Fahrerassistenzsysteme in klar abgrenzbaren Situationen mit nur wenigen Optionen moralisch verhalten. Zum Beispiel kann – wie der Experte verschiedenenorts argumentiert – automatisch für ein Tier gebremst werden, wenn kein Hintermann zu sehen ist. Der Beitrag kann über www.srf.ch/kultur/gesellschaft-religion/das-zaehmen-der-maschinen aufgerufen werden.

Isolated wind turbines

Abb.: Noch nicht tierfreundliche Windkraftanlagen

Ein Selfie von Philae

Philae hat ein Selfie gemacht und an die Erde geschickt. Genau genommen ein Bild von seinem Bein. Im Hintergrund ist Komet Tschuri zu sehen. Von Weltraumrobotern kennt man die Selbstbildnisse seit den 70er-Jahren. Man ist in der Ferne unterwegs, man ist allein, um nicht zu sagen einsam, und was liegt näher, als ein Foto von sich selbst zu knipsen und es an die daheimgebliebenen Kohlenstoffeinheiten zu schicken. Begriffe wie “space robot selfies” und “rover selfies” verdeutlichen das Spektrum der “space selfies”. Auch der eine oder andere selbstreferenzielle Schnappschuss eines Erdroboters ist im Web zu finden und der eine oder andere autobiografisch anmutende Film. Aus Sicht der Robotik stellt sich die Frage, ob die Selfies zur Weiterentwicklung und zum Selbstlernen beitragen könnten. In welcher Hinsicht ist die egozentrische Perspektive interessant? Kann der Robot zu neuem Wissen über die ihn unmittelbar umgebende Umwelt kommen? Kann er seine Mimik und Gestik interpretieren und sein Verhalten reflektieren? Kann er nach und nach ein Selbstbewusstsein erlangen oder sich zumindest selbst im Spiegel erkennen? Artikel zu diesem Thema hat Oliver Bendel geschrieben. Sie sind über robohub.org/robot-selfies-and-the-road-to-self-recognition/ und ictk.ch/content/wenn-roboter-selfies-schiessen zu finden.

Welcome_to_a_comet_node_full_image_2

Abb.: Selfie von Philae (Quelle: ESA)

Interview zur Industrie 4.0

Im Jahre 2013 gab das Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO eine groß angelegte Studie zum Thema Industrie 4.0 heraus. Dies stellt Nathalie Baumann in ihrem Beitrag vom 11. November 2014 für die traditionsreiche Schweizer Zeitschrift ICTkommunikation fest. Im Oktober dieses Jahres sei das Schweizer Beratungsunternehmen Deloitte mit einer kleineren Studie zum Werkplatz 4.0 gefolgt. Auf YouTube “finden sich unzählige Videos, und bereits werden erste Seminare angeboten, um Führungskräfte auf die neuen Herausforderungen vorzubereiten” (Website ICTkommunikation). “Doch was bedeutet der Begriff überhaupt und welche Implikationen hat er für Wirtschaft und Gesellschaft? Wir haben dazu ein Interview mit dem Philosophen und Wirtschaftsinformatiker Oliver Bendel geführt.” (Website ICTkommunikation) Auch Maschinenethik und soziale Robotik werden darin erwähnt. Der Beitrag mit dem Titel “Einige wenige Menschen werden die Dinge und Vorgänge kontrollieren” kann kostenlos über http://ictk.ch gelesen werden.

GDI-Diskussionspapier

Am 27. Oktober 2014 ist ein neues Diskussionspapier des Gottlieb Duttweiler Institute (GDI) herausgekommen. Entwickelt werden “Szenarien zur digitalen Vernetzung”, bezogen auf das Jahr 2030 (Website www.gdi.ch). “Die Vernetzung hat unser Leben verändert. Doch das ist erst der Anfang. Die Digitalisierung erfasst bald die ganze Wirtschaft und Gesellschaft. Menschen und Maschinen verschmelzen zur Digisphäre.” (ebd.). Karin Frick und Bettina Höchli beantworten laut Website Fragen wie “Wie schützen wir uns vor Cyberwar und -crime”, “Wie stellen wir schnelle und flächendeckende Netze sicher?”, “Wie gewährleisten wir Privatsphäre und Datenschutz?” und “Wie weit sollen Maschinen für uns entscheiden?”. Auf Seite 18 der Studie heißt es: “Die Felder werden von selbststeuernden Maschinen bewirtschaftet, die Ernte von Robotern verarbeitet. Am Ende dieser Entwicklung steht die vollautomatisierte Lebensmittelproduktion.” Die Autorinnen gehen nicht auf Maschinenethik bzw. Roboterethik oder auf Informationsethik ein. Sie sprechen aber zahlreiche Themen dieser Disziplinen an. Das Diskussionspapier steht seit 31. Oktober 2014 in einer aktualisierten und ergänzten Version zur Verfügung. Gegen die Abgabe persönlicher Daten kann es kostenlos heruntergeladen werden.

Symposium zur Roboterethik

Als Follow-up zu der Tagung “Mensch-Roboter-Interaktionen aus interkultureller Perspektive: Japan und Deutschland im Vergleich” führt das Japanisch-Deutsche Zentrum Berlin am 4. Dezember 2014 ein Symposium zum Thema “Roboethik: Technikfolgenabschätzung und verantwortungsbewusste Innovation in Japan und Deutschland” durch. Laut Veranstalter werden Experten aus Wissenschaft und Wirtschaft, darunter Hersteller von Servicerobotern, darüber diskutieren, wie “ethische Fragen, Fragen der Lebensqualität, Risikoabschätzung und Nutzerinteressen frühzeitig in die Entwicklung von Robotertechnologie integriert werden können, so dass ein nachhaltiger Dialog zwischen allen Beteiligten entsteht” (Information per E-Mail). “Mit der Konferenz soll auf diese Weise auch eine Plattform für den interdisziplinären, interkulturellen Austausch über die Frage, wie wir künftig leben wollen, geboten werden und welche Handlungs- und Gestaltungsmacht dem/der Einzelnen hierbei zukommt.” (ebd.) Weitere Einzelheiten sind dem Programmentwurf http://www.jdzb.de/fileadmin/Redaktion/PDF/veranstaltungen/tagungen-in-d/P1597-Programm.pdf zu entnehmen. Konferenzsprachen sind Deutsch und Japanisch, wobei simultan gedolmetscht wird.

Flying Science

Mit der Reihe “Mensch und Maschine – Maschinenmensch”, die am 23. Oktober 2014 in Basel startet, wollen die Veranstalter (Flying Science in Zusammenarbeit mit dem Institut für Wirtschaftsinformatik, Hochschule für Wirtschaft FHNW) zeigen, “wie interdisziplinär, spannend und aktuell die vermeintlich rein technischen Themen der angewandten Informatik sind” (Website Flying Science). “Verschiedene Fachleute gehen der Frage nach, wie sich die Gesellschaft neuen Technologien anpasst und umgekehrt. Die Reihe ist auch eine Networking-Plattform für alle, die sich für Inputs an der Schnittstelle zwischen Technik und Kultur interessieren und sich austauschen möchten.” (Website Flying Science) Lehrreich wird sicherlich der Vortrag von Dr. Andreas Cremonini (Universität Basel). Er spricht am 6. November 2014 über “Echte Menschen”. In den Wochen darauf treten Prof. Dr. Hania Siebenpfeiffer (Ernst-Moritz-Arndt-Universität Greifswald) und Dr. Dennis Plachta (Albert-Ludwigs-Universität Freiburg) vor das Publikum. Den Auftakt macht Prof. Dr. Rolf Dornberger, Hochschule für Wirtschaft FHNW. Er referiert als Wirtschaftsinformatiker über “Maschinen im Alltag”. Weitere Informationen über www.flyingscience.ch.