Wie könnte die angemessene Reaktion eines Chatbots auf heikle Fragen und Aussagen – vorgetragen etwa in Lebenskrisen des Benutzers – aussehen? Wie müsste ein GOODBOT, ein im moralischen Sinne gut und richtig entscheidender und kommunizierender Bot, konzipiert sein, und wie könnte er umgesetzt werden? Diese Fragen bildeten den Ausgangspunkt für ein Praxisprojekt im Kontext der Maschinenethik, das von Oliver Bendel initiiert und von den Studierenden Christian Horn, Mario Moser und Justin Toubia zwischen Juni 2013 und Januar 2014 bearbeitet wurde. Ziel war die Schaffung eines Prototyps, der in Folgeprojekten weiterentwickelt und in den Markt gebracht werden kann. Im GOODBOT werden vielversprechende Ansätze miteinander verbunden und neuartige Strategien entwickelt. Die Studierenden hatten die Idee, mit drei Eskalationsstufen zu arbeiten. Die Aussagen und Fragen des Benutzers werden gewichtet. Wenn der Bot Probleme feststellt, fragt er vorsichtig nach. Wenn sich sein negativer Eindruck verstärkt, spricht er Mut zu und fragt weiter nach. Wenn er merkt, dass sich eine Katastrophe anbahnt, hilft er mit dem Aufruf von Beratungsseiten und mit passenden Notfallnummern. Weitere Informationen zum Projekt enthält eine aktuelle Pressemitteilung der Hochschule für Wirtschaft FHNW.
Ein Workshop an der Universität Basel in englischer Sprache ist nicht nur für Juristen, sondern auch für Maschinenethiker interessant. „Intelligent Agents – eine juristische Herausforderung“ lautet der Titel. Von selbstständig fahrenden Autos ist die Rede und von Softwareagenten. Auf der Website ist zu lesen: „Der Einsatz solcher Software wirft jedoch zahlreiche rechtliche Probleme auf: Wer ist für Aktionen von eigenständigen Maschinen verantwortlich? Wer haftet, wenn dadurch Menschen zu Schaden kommen? Und wem gehören die Daten, die beim Einsatz dieser Maschinen tagtäglich generiert werden?“ Der Workshop am 7. Februar 2014 wird organisiert von Prof. Dr. Sabine Gless und Prof. Dr. Herbert Zech von der Juristischen Fakultät der Universität Basel in Zusammenarbeit mit dem Swiss Network for International Studies und setzt sich mit rechtlichen Aspekten von Software auseinander, die – auch im Zusammenwirken mit Hardware verschiedener Art – „zu selbstständigem Handeln fähig ist“. Die Teilnahme ist nach Angaben der Hochschule kostenlos, eine Anmeldung per E-Mail bis zum 31. Januar erforderlich, und zwar über die Adresse communication@snis.ch. Weitere Informationen sind über die Agenda auf der Website erhältlich.
Ein Call for Chapters zum Thema „Rethinking Machine Ethics in the Age of Ubiquitous Technology“ richtet sich u.a. an Philosophen, Informatiker, Robotiker und KI-Experten. Herausgeber des Buchs wird Jeffrey White vom Korean Advanced Institute of Science and Technology (KAIST) sein. Die Ziele werden auf der Website www.igi-global.com wie folgt beschrieben: „The present volume aims to bind together forward-looking constructive and interdisciplinary visions of moral/ethical ideals, aims, and applications of machine technology, either as extensions of ongoing engineering research or as theoretical approaches to moral/ethical problems employing machine ethics resources within the vast moral landscape confronting machine ethics researchers.“ Ein Abstract muss bis zum 28. Februar 2014 eingereicht werden. Weitere Informationen direkt über www.igi-global.com/publish/call-for-papers/call-details/1227.
Am 14. Februar 2014 startet der MOOC „Autonomous Mobile Robots: Introduction to Autonomous Mobile Robots – basic concepts and algorithms for locomotion, perception, and intelligent navigation“. In der Beschreibung auf der Website heißt es: „Robots are rapidly evolving from factory workhorses, which are physically bound to their work-cells, to increasingly complex machines capable of performing challenging tasks in our daily environment. The objective of this course is to provide the basic concepts and algorithms required to develop mobile robots that act autonomously in complex environments. The main emphasis is put on mobile robot locomotion and kinematics, environment perception, probabilistic map based localization and mapping, and motion planning.“ Der Kurs wird u.a. von Prof. Dr. Roland Siegwart, Dr. Paul Furgale und Dr. Margarita Chli geleitet. Er dauert 15 Wochen, bei einer Arbeitsbelastung von fünf Stunden pro Woche. Ob auch auf Maschinen- oder Roboterethik eingegangen wird, ist nicht bekannt.
Der Artikel „Ich bremse auch für Tiere: Überlegungen zu einfachen moralischen Maschinen“ von Oliver Bendel ist am 4. Dezember 2013 in inside-it.ch erschienen (direkt über www.inside-it.ch/post/ich-bremse-auch-fuer-tiere-20131204). Er hebt an mit den Worten: „Wie kann man gute Autos noch besser machen? Oder gute Drucker? Oder gute Sauger? Indem man ihnen Manieren und Moral beibringt. Für das eine ist der Knigge zuständig, für das andere die Philosophie – seit nunmehr 2500 Jahren.“ Es wird kurz erläutert, was Maschinenethik ist und was „Moralisieren“ im vorliegenden Kontext bedeutet – dann werden verschiedene Beispiele genannt, die teilweise auch für IT-Unternehmen relevant sind und mehrheitlich mit dem Leben oder dem Tod von Menschen und Tieren zu tun haben. Konkret werden Chatbots, Haushalts- und Gartenroboter, private Drohnen, selbstständig fahrende Autos, Windkraftanlagen und 3D-Drucker aus Sicht der Maschinenethik skizziert. Damit denkt der Autor das Konzept der einfachen moralischen Maschinen weiter, das er auf der Plattform KMU Business World entwickelt hatte. Der Beitrag endet mit dem Satz: „Jedes (teil-)autonome System steht eines Tages vor der gleichen Herausforderung. Es kann gut sein und bleiben – oder es kann besser werden, als Teil einer technischen und moralischen Evolution.“
Buridans Esel ist in der ursprünglichen Version von Aristoteles ein Mann, der zwischen Speis und Trank verenden muss, weil er genauso hungrig wie durstig ist. Schon dieser Mann ist offensichtlich ein Esel, weil er sich nicht zwischen verschiedenen Dingen mit gleichen Reizen entscheiden kann. Buridan selbst, der zu Unrecht als Urheber des Gleichnisses gilt, spricht von einem Wanderer und einem Segler, in einem Kommentar zu einem Text des alten Griechen auch von einem Hund, der zwei Lebensmittel – um es frei zu übertragen – ratlos beäugt und beschnuppert. Das Grautier haben vermutlich die Gegner des Philosophen und Physikers aus dem 14. Jahrhundert erfunden, um die vermeintliche Eselei zu veranschaulichen. Es handelt sich aber keineswegs um eine solche, sondern um ein Gedankenexperiment, das bis heute von Interesse und Bedeutung ist. Dieses Experiment wird im Artikel „Buridans Robot“ von Oliver Bendel in der modernen Welt durchgeführt. Es geht um maschinelle Dilemmata und mögliche Lösungsstrategien. Der Artikel ist am 20. November 2013 bei Telepolis erschienen.
Prof. Dr. Robert Trappl hält am 12. November 2013 am Austrian Research Institute for Artificial Intelligence (OFAI) einen Vortrag mit dem Titel „Ethik für Roboter – ein brisantes Forschungsgebiet“. In der Pressemitteilung heißt es: „Wenn Roboter Partner am Arbeitsplatz werden oder wenn sie für längere Zeit mit älteren Menschen oder Menschen mit speziellen Bedürfnissen zusammenleben werden, um ihnen ein selbstbestimmtes Leben in ihren eigenen Räumen zu ermöglichen, werden durch diese komplexen sozialen Situationen immer häufiger ethische Fragen und deren Beantwortung eine Rolle spielen.“ Im September 2013 waren auf Einladung des OFAI Wissenschaftlerinnen und Wissenschaftler „aus Frankreich, den Niederlanden, Österreich, Portugal, Ungarn und den USA in Wien zusammengekommen, um Voraussetzungen, Methoden, Implementierungen und Tests für ein Entwicklungshandbuch für ethische Systeme für Roboter zu diskutieren“ (Zitat aus der Pressemitteilung). In dem Vortrag wird eine Einführung in das Forschungsgebiet gegeben, und es werden erste Ergebnisse präsentiert. Er findet ab 18.30 Uhr am Institut (Freyung 6, Stiege 6, 1010 Wien, Österreich) statt.
Steve Torrance, Mark Coeckelbergh, Johnny Soraker, Blay Whitby und Aimee van Wynsberghe haben als Organisationskomitee einen Call for Abstracts mit dem Titel „Machine Ethics in the Context of Medical and Care Agents“ veröffentlicht. Sie schreiben auf der Website der International Society for Presence Research: „We are pleased to announce a Symposium on Machine Ethics in the Context of Medical and Care Agents, as part of the AISB-50 Annual Convention 2014 to be held at Goldsmiths, University of London, between April 1st and 4th, 2014 … The Convention is organised by the Society for the Study of Artificial Intelligence and Simulation of Behaviour (AISB) (http://www.aisb.org.uk).“ Im Programmkomitee sind Michael Anderson, Patrick Lin, Wendell Wallach und andere Pioniere der Maschinenethik. Schwerpunkte sind u.a. „Theoretical issues in Machine Ethics/Ethics of Robotics, concerning MCAs“, „Practical issues in Machine Ethics/Ethics of Robotics, with respect to the health and social care fields“ und „The nature, scope and limitations of MCAs: immediate, medium and long-term issues“. Beiträge können bis zum 3. Januar 2014 eingereicht werden. Weitere Informationen über http://ispr.info.
In seinem Artikel „Der Lügenbot und andere Münchhausen-Maschinen“ geht Oliver Bendel der Frage nach, ob Chatbots, Roboter und andere Maschinen lügen können. Dabei betont er die Sprachlichkeit des Lügens. Wer etwas sagen kann, so der Autor, der kann auch die Unwahrheit sagen. Den meisten Maschinen unterstellen wir, dass sie die Wahrheit sagen. Wir vertrauen den Aussagen einer Anna von Ikea, einer Siri von Apple und von Wolfram Alpha. Aber alle drei könnten ganz anders, wenn sie – oder ihre Entwickler – wollten. Man könnte Lügenmaschinen bauen, die mit falschen Versprechungen locken, das Blaue vom Himmel erzählen – und uns letztlich irritiert und verunsichert zurücklassen. Das müssen auch Unternehmen berücksichtigen, und sie müssen etwas dafür tun, damit unser Vertrauen in die Maschinen gerechtfertigt ist. Der Artikel ist am 11. September 2013 auf der Plattform CyberPress erschienen und direkt über www.mittelstandswiki.de/wissen/Gastbeitrag:Maschinenethik aufrufbar.
Vom 29. Juli bis zum 2. August 2013 fand im Natural History Museum von London zum zweiten Mal die Konferenz Living Machines statt. Die Macher schreiben auf ihrer Website: „This international conference is a Convergent Science Network event and is targeted at the intersection of research on novel life-like technologies inspired by the scientific investigation of biological systems – biomimetics, and research that seeks to interface biological and artificial systems to create biohybrid systems.“ Vorgestellt wurde unter anderem ein Plantoid, ein Pflanzenroboter, der Wurzeln bildet, entwickelt von Barbara Mazzolai vom Italian Institute of Technology (IIT) in Genua. Ein möglicher Einsatzbereich ist die Überwachung der Umwelt, etwa der Bodenzusammensetzung. Ebenfalls vorgestellt wurde der Vierbeiner HyQ, der rasch auf Hindernisse reagieren und recht elegant über sie hinwegsteigen kann. Aus Sicht der Maschinenethik stellt sich die Frage, ob man Robotern, die Pflanzen und Tieren nachempfunden sind, moralische Fähigkeiten verleihen sollte. Grundsätzlich spricht nichts dagegen, zumal moralische Fähigkeiten auch in Bezug auf selbstständig fahrende Autos und Algo-Trading-Systeme diskutiert werden. Die Moral der genannten Roboter könnte sich auf die Tiere beziehen, mit denen sie interagieren. Damit wäre auch die Tierethik mit im Boot.
Eine Vorabveröffentlichung des Artikels „Einfache moralische Maschinen“ von Oliver Bendel bringt der Blog des Instituts für Wirtschaftsinformatik der Hochschule für Wirtschaft FHNW. Moralische Maschinen sind nach der Meinung des Philosophen und Wirtschaftsinformatikers bereits heute möglich. Man dürfe sie nur nicht zu kompliziert denken und zu komplex gestalten. Wenn es sich um spezialisierte autonome oder teilautonome Systeme handele, könne man bei ihren Kernfunktionen ansetzen und sie mit geringfügigen Änderungen, mit wenigen zusätzlichen Komponenten in einfache moralische Maschinen verwandeln. Wie das geschehen kann, wird an vier Beispielen gezeigt, an Servicerobotern, privaten Drohnen, Chatbots und selbstständig fahrenden Autos. Der Artikel erscheint im August 2013 auf der Plattform KMU Business World.
Abb.: Daraus kann man keine moralische Maschine machen
In ihrem Artikel „Wie viel Moral braucht eine Maschine?“ in der Liechtensteiner Sonntagszeitung namens Liewo gibt Stephanie Büchel einen Überblick über den Stand der Diskussion in der Maschinenethik. Im Fokus sind selbstständig fahrende Autos. Aber auch Kampf-, Operations- und Pflegeroboter sind ein Thema: „Wie bringt man einem Roboter den Unterschied zwischen Gut und Böse bei? Wer ist Schuld, wenn ein Operationsroboter einen Kunstfehler begeht?“ Nicht fehlen darf Isaac Asimov mit seinen Robotergesetzen, die zu den beliebtesten Diskussionsgegenständen in der Maschinenethik gehören. Und die Frage nach den Rechten der Roboter, die nebenbei in der Roboterethik verhandelt werden und noch lange in den Bereich der Science Fiction gehören dürften. Die zentralen Konzepte der Maschinenethik haben dagegen, das zeigt auch die Verfasserin, eine hohe Alltagsrelevanz. Ihr Artikel ist am 2. Juni 2013 erschienen. Sie hat maschinenethik.net freundlicherweise ein PDF zur Verfügung gestellt.
Im Gabler Wirtschaftslexikon wird seit 3. Juli 2013 die Roboterethik definiert. Diese kann man sowohl der Maschinen- als auch der Menschenethik zuordnen. In der Roboterethik werde danach gefragt, ob ein Roboter ein Subjekt der Moral sein und wie man diese implementieren kann. Auch der Roboter als Objekt der Moral sowie sein Einfluss auf Menschen sei von Belang. Oliver Bendel erklärt in seinem Beitrag den Begriff der Roboterethik, nimmt die Perspektive der Robotik ein, erwähnt die Robotergesetze von Asimov und gibt eine Einschätzung der Disziplin und einen Ausblick auf ihre weitere Entwicklung. Der Beitrag ist direkt über wirtschaftslexikon.gabler.de/Definition/roboterethik.html abrufbar. Er wurde dem Sachgebiet „Grundlagen der Wirtschaftsinformatik“ zugewiesen. Für das Gabler Wirtschaftslexikon schreiben nach eigenen Angaben über „150 Experten aus Wissenschaft und Praxis“. Mehr als „25.000 Stichwörter stehen kostenlos“ bereit.
Ein Artikel in der UnternehmerZeitung vom 2. Juli 2013 geht auf das GOODBOT-Projekt ein, das im Juni 2013 an der Hochschule für Wirtschaft FHNW gestartet ist. Der „moralische Chatbot“ soll auch auf Selbstmorddrohungen oder Ankündigungen von Amokläufen adäquat reagieren und überhaupt ein angenehmer Zeitgenosse (und trotzdem kein Langweiler) sein. Es werden sieben Regeln genannt, die „hinsichtlich seiner Akte und Sprechakte gegenüber dem Benutzer“ gelten sollen. Dazu gehört auch eine Transparenzregel: „Der GOODBOT macht dem Benutzer klar, dass er eine Maschine ist.“ (Regel 1) Und eine Regel zur Beobachtung: „Der GOODBOT ist kein Spitzel und wertet Gespräche mit dem Benutzer nicht aus.“ (Regel 6) Für das Projekt wurden verschiedene konzeptionelle Vorleistungen wie der Regelkatalog erbracht. Von Juni 2013 bis Januar 2014 arbeiten sich drei Studierende der Hochschule in die Maschinenethik und die Roboterethik ein und entwickeln einen Prototyp. Initiator und Leiter des Projekts ist der Philosoph und Wirtschaftsinformatiker Oliver Bendel. Der Artikel ist in der siebten Ausgabe der UnternehmerZeitung auf den Seiten 30 und 31 zu finden.
Viele Benutzer mögen Chatbots auf Websites und unterhalten sich gerne mit ihnen. Dabei spielen Produkte und Dienstleistungen meist eine untergeordnete Rolle. Man will das virtuelle Gegenüber ausfragen, mit ihm flirten, es necken und reizen. Wenn man in Schwierigkeiten steckt, will man eine Antwort erhalten, die einen nicht noch mehr entmutigt und verstört. Die meisten Bots sind in dieser Hinsicht völlig überfordert. Auf Selbstmorddrohungen oder Ankündigungen von Amokläufen reagieren sie inadäquat. In einem Projekt an der Hochschule für Wirtschaft der Fachhochschule Nordwestschweiz FHNW wird unter der Leitung von Oliver Bendel eine moralische Maschine besonderer Art, nämlich ein sogenannter GOODBOT, konzipiert und prototypisch implementiert. Zunächst werden theoretische Grundlagen im Kontext der Maschinenethik erarbeitet. Es interessiert unter anderem, welche normativen Modelle maschinell verarbeitbar sind. Dann werden ausgewählte Chatbots auf Websites sowie Sprachassistenten wie Siri analysiert und verglichen sowie Erkenntnisse zu Systemen solcher Art gewonnen. Ein vorhandener Regelkatalog soll daraufhin überprüft werden, ob er in einem regelbasierten System umgesetzt bzw. wie er angepasst werden kann. Nicht nur Top-down-, sondern auch Bottom-up-Ansätze sollen erwogen werden. Zudem ist relevant, inwieweit soziale Medien und leibhaftige Menschen moralische Referenzpunkte bilden können. Das Projekt hat im Juni 2013 begonnen. Informationen zum Initiator und Projektleiter über http://www.fhnw.ch/personen/oliver-bendel.
