„Der zunehmende Einsatz von Künstlicher Intelligenz (KI) ist ein wesentliches Merkmal der digitalen Transformation von Gesellschaft und Wirtschaft und hat Folgen für unser Privat- und Arbeitsleben. Die Schweiz spielt auf diesem Gebiet heute in Forschung und Entwicklung weltweit eine bedeutende Rolle.“ (Website BAKOM, 9. Mai 2019) Der Bundesrat hat laut BAKOM eine interne Arbeitsgruppe eingesetzt, die bis zum Herbst 2019 eine Übersicht über bestehende Maßnahmen, eine Einschätzung zu neuen Handlungsfeldern sowie Überlegungen zu einem transparenten und verantwortungsvollen Einsatz von künstlicher Intelligenz erarbeitet. Dazu gehört auch, Experten zu konsultieren und ihre Positionen öffentlich zu machen. „Wir fragen bei Prof. Dr. Oliver Bendel nach, was Ethik und künstliche Intelligenz miteinander zu tun haben.“ Das Interview mit ihm ist am 9. Mai 2019 auf der Plattform Dialog Digitale Schweiz erschienen. Es kann über www.digitaldialog.swiss/de/dialog/kuenstliche-intelligenz-als-disziplin-zwischen-ingenieurskunst-und-kunst abgerufen werden.
Abb.: Das BAKOM ist u.a. zuständig für Kommunikation
„Maschinenethik ist eine junge Disziplin. Sie beschäftigt sich mit maschineller Moral. Dabei bleibt sie nicht beim Theoretischen stehen, sondern geht ins Praktische. Zusammen mit Künstlicher Intelligenz und Robotik bringt sie moralische und unmoralische Maschinen hervor.“ Mit diesen Worten beginnt die von Prof. Dr. Oliver Bendel verfasste Einleitung zum „Handbuch Maschinenethik“, die im Mai 2019 erschienen ist. Sie führt in grundsätzliche Aspekte der Maschinenethik aus persönlicher und fachlicher Sicht ein. Die Kapitel des Handbuchs werden genannt und in ihren Inhalten umrissen. Das „Handbuch Maschinenethik“ (Springer VS) liefert Grundlagen zur Maschinenethik, erkundet Anwendungsgebiete der Disziplin und stellt Prototypen moralischer Maschinen vor. Neben der Maschinenethik kommen Roboterethik und Rechtswissenschaft zu Wort. Die Beiträge werden seit 2017 laufend über link.springer.com/referencework/10.1007/978-3-658-17484-2 veröffentlicht. Die Autorinnen und Autoren gehören zu den bekanntesten Wissenschaftlerinnen und Wissenschaftlern in Europa auf den Gebieten der Maschinenethik, der Roboterethik und des Roboterrechts. In gedruckter Form kommt das Buch im Sommer oder Herbst 2019 heraus. Weitere Informationen über www.springer.com/gp/book/9783658174828.
Am 21. Februar 2019 traf sich Dr. Norbert Lossau mit Prof. Dr. Oliver Bendel, dem Wirtschaftsinformatiker, Informations- und Maschinenethiker aus Zürich, im ehrwürdigen Journalistenclub der Welt in der Axel-Springer-Straße in Berlin. Es entspann sich ein langes Gespräch über die Maschinenethik und ihre Anwendungsfelder. Die Maschinenethik erforscht die maschinelle Moral und bringt moralische Maschinen hervor. Die eine wie die andere Bezeichnung, „maschinelle Moral“ wie „moralische Maschine“, ist ein Terminus technicus. Die heutige maschinelle Moral hat mit der menschlichen einfach bestimmte Aspekte gemein. So kann eine moralische Maschine beispielsweise moralische Regeln befolgen. Intuition oder Empathie hat sie nicht, genauso wenig Bewusstsein oder gar Selbstbewusstsein. Die Maschinenethik richtet sich auf Serviceroboter, Kampfroboter und Chatbots, um nur ein paar Beispiele zu nennen. Auch Sexroboter und Liebespuppen erregen ihr Interesse, und natürlich kam man auch auf dieses Thema zu sprechen. Das Interview ist am 26./27. April 2019 in der Welt erschienen, in gedruckter und elektronischer Form, in deutscher und englischer Sprache. Die deutsche Onlineversion kann über www.welt.de/wissenschaft/plus192492361/Maschinenethik-An-diese-Spielregeln-sollten-sich-Sexpuppen-halten.html abgerufen werden.
„Ein Hacker hat auf knapp 30.000 Kundenkonten von zwei GPS-Tracker-Apps zugreifen können. Neben umfangreichen Einblicken hätte er bei manchen Fahrzeugen auch den Motor während der Fahrt ausschalten können – per App oder Webclient.“ (Golem, 26. April 2019) Dies schreibt Moritz Tremmel in einem Artikel, der am 26. April 2019 in Golem erschienen ist. „Ich hätte für massive Verkehrsprobleme auf der ganzen Welt sorgen können“, sagte der Hacker gegenüber dem Onlinemagazin. „Ich habe die volle Kontrolle über Hunderttausende Fahrzeuge und kann deren Motoren per Touch stoppen.“ (Golem, 26. April 2019) Das Hacken von Automobilen wird als eines der vielen Probleme gesehen, mit dem das teil-, hoch- und vollautomatisierte Fahren konfrontiert ist und sein wird. Ein anderes ist, dass Kameras, Radar- und Ultraschallsysteme von außen manipuliert werden können, zum Teil mit einfachsten Mitteln. Bereits mit ein paar Kaugummis und einer Sprühdose kann man das Auto fahruntüchtig machen. Darauf geht ein Artikel von Oliver Bendel ein, der am 6. März 2018 in der ICTkommunikation erschienen ist.
Abb.: Das Hacken von Fahrzeugen kann gefährlich sein
Von „Big Data“ über die „Künstliche Intelligenz“ bis hin zur „Sozialen Robotik“: Im Kontext der Digitalisierung gibt es unzählige Fachtermini. Das neue Nachschlagewerk „350 Keywords Digitalisierung“ von Prof. Dr. Oliver Bendel ist für alle geeignet, die einen schnellen Einstieg in das Gebiet der Digitalisierung suchen und sich für Fragen der Ethik interessieren. In 350 übersichtlichen Beiträgen werden die Grundlagen und Entwicklungen leicht verständlich erläutert. Der Begriff der Digitalisierung hat mehrere Bedeutungen. Er kann die digitale Umwandlung und Darstellung bzw. Durchführung von Information und Kommunikation oder die digitale Modifikation von Instrumenten, Geräten und Fahrzeugen ebenso ansprechen wie die digitale Revolution, die auch als dritte Revolution bekannt ist. Auch mit der vierten Revolution ist der Begriff eng verbunden. Das Buch ist Ende April 2019 im Verlag Springer Gabler erschienen und kostet als E-Book ca. 15, in gedruckter Form ca. 20 Euro. Viele Hochschulmitglieder können es über SpringerLink kostenlos herunterladen. Es hat 286 Seiten. Weitere Informationen über www.springer.com/gp/book/9783658258221.
Abb.: Auch dieser Begriff ist enthalten (innerhalb von „Nerd“)
Im Rahmen der Vadian Lectures in St. Gallen betrachtet Oliver Bendel am 9. Mai 2019 ab 18 Uhr „Serviceroboter aus Sicht von Informations- und Maschinenethik“. Aus der Beschreibung auf der Website: „Serviceroboter verbreiten sich immer mehr. Man findet sie in Einkaufszentren, an Hotelrezeptionen, in Pflege und Therapie. Oliver Bendel stellt in seinem Vortrag einige von ihnen vor und wirft Fragen aus den Perspektiven von Informations- und Maschinenethik auf. Es geht nicht nur darum, wie wir die Serviceroboter einordnen, sondern auch darum, wie wir sie entwickeln, wie wir ihr Verhalten so bestimmen, dass wir es als angenehm und angemessen empfinden.“ Die Veranstaltungsreihe wird durch das Zentrum für Ethik und Nachhaltigkeit der FHS St. Gallen initiiert und von der St. Galler Kantonalbank unterstützt. Die Veranstaltung ist kostenfrei, die Platzzahl begrenzt. Die Anmeldung erfolgt über das Anmeldeformular oder per E-Mail an zen@fhsg.ch.
Prof. Dr. Julian Nida-Rümelin wuchs nach eigenen Angaben in einer Künstlerfamilie auf. Er studierte Philosophie, Physik, Mathematik und Politikwissenschaft. Er ist seit 2004 Professor für Philosophie und politische Theorie an der Ludwig-Maximilians-Universität München. Zuvor lehrte er an den Universitäten Göttingen (1993 – 2003) und Tübingen (1991 – 1993). Seit 2002 ist er Honorarprofessor an der Humboldt-Universität zu Berlin. PD Dr. Fiorella Battaglia promovierte 2004 am Institut für Philosophie der Universität Neapel. Seit 2013 arbeitet sie am Lehrstuhl IV der Ludwig-Maximilians-Universität München. 2016 habilitierte sie zum Thema „Der normative Begriff der Natur des Menschen“. Von den beiden Wissenschaftlern stammt der 19. Beitrag für das „Handbuch Maschinenethik“ (Herausgeber Prof. Dr. Oliver Bendel), mit dem Titel „Maschinenethik und Robotik“. Veröffentlicht wurde er über link.springer.com/referencework/10.1007/978-3-658-17484-2. In gedruckter Form kommt das Buch mit allen 23 Beiträgen im Sommer oder Herbst 2019 heraus. Weitere Informationen über www.springer.com/gp/book/9783658174828.
Dr. Mathilde Noual (Freie Universität Berlin) and Prof. Dr. Oliver Bendel (School of Business FHNW) are organizing a workshop on the social implications of artificial intelligence (AI) and robotics. They are looking for constructive proposals of technological and conceptual utopias, of counter-cultures and counter-systems offering strategies for preserving privacy, individuality, and freedom in a technological world, for going beyond the AI’s present limitations and frustrations, and for emphasising the beauty of the world and of humans’ way of accessing it (with high degree of nuance, contextuality, subjectivity, adaptability and acutality). The tracks are: The territory today: core limitations and prospects of AI; technologies and approaches against surveillance technologies (examples: the virtual burka; the hacked social credit system); technologies and approaches for an intact environment (examples: AI and robots for clean waters and seas; animals with weapons for self-defence); technologies and approaches for a new policy (examples: AI as a president); technologies and approaches for shared knowledge and education (example: open research solutions). The workshop will take place on the 29th and 30th of June 2019 in Berlin, at the Weizenbaum Institute. The CfP is addressed exclusively to the invited persons.
Die Maschinenethik arbeitet mit Künstlicher Intelligenz und Robotik zusammen. Sie bringt maschinelle Moral hervor und untersucht sie. Ausgangspunkt sind teilautonome und autonome Systeme, etwa selbstständig fahrende Autos, Serviceroboter, Kampfroboter und Chatbots. Das „Handbuch Maschinenethik“, herausgegeben von Prof. Dr. Oliver Bendel, liefert Grundlagen zur Maschinenethik, erkundet Anwendungsgebiete der Disziplin und stellt Prototypen moralischer Maschinen vor. Neben der Maschinenethik kommen Roboterethik und Rechtswissenschaft zu Wort. Die Beiträge des Handbuchs werden seit 2017 laufend über link.springer.com/referencework/10.1007/978-3-658-17484-2 veröffentlicht. Die Autorinnen und Autoren gehören zu den bekanntesten Wissenschaftlerinnen und Wissenschaftlern in Europa auf den Gebieten der Maschinenethik, der Roboterethik und des Roboterrechts. In gedruckter Form kommt das Buch mit allen 22 Beiträgen im Sommer oder Herbst 2019 heraus. Weitere Informationen über www.springer.com/gp/book/9783658174828.
Am 8. April 2019 startet an der Hochschule für Wirtschaft FHNW das E-MOMA-Projekt. „E“ steht für „Enhancing“, „MOMA“ für „Moral Machine“. Wenig verfolgt wird in der Maschinenethik bisher der Ansatz, dass die Maschine selbst die Moral weiterentwickelt, etwa indem sie die Regeln adaptiert oder priorisiert, mit Hilfe von Machine Learning, speziell auch Deep Learning. Michael Anderson, Susan Leigh Anderson und Vincent Berenz haben einen NAO-Roboter mit Methoden des Machine Learning moralisch erweitert. Ein Beitrag dazu erschien kürzlich in den Proceedings of the IEEE. Im E-MOMA-Projekt soll eine eigene Implementierung entstehen, die diese Ansätze fortführt. Dabei können z.B. neuronale Netzwerke verwendet werden. Es bietet sich die Implementierung eines Chatbots an, aber auch die Modifizierung von Hardwarerobotern ist möglich. Letztlich geht es darum, eine moralische Maschine in die Welt zu bringen, die ihre Moral anpasst und weiterentwickelt, je nach Situation bzw. je nach eingegebenen Daten. Es ist das fünfte Artefakt der Maschinenethik, das nach Ideen, Skizzen und Vorgaben von Prof. Dr. Oliver Bendel entsteht. Das erste war der GOODBOT von 2013.
Das Wissenschaftsjahr 2019 widmet sich der Künstlichen Intelligenz. In diesem Kontext führte Vision Kino ein Interview mit dem Informations- und Maschinenethiker Oliver Bendel. Zuerst wurde er danach gefragt, welche Themen im Zusammenspiel von Künstlicher Intelligenz und Ethik er aktuell für besonders wichtig hält. Er antwortete: „In der Informationsethik ist das Thema Überwachung im Augenblick sehr zentral, hier insbesondere Gesichts- und Emotionserkennung. Sehr problematisch wird es, wenn das mit der so genannten Physiognomik kombiniert wird, einer Pseudowissenschaft. Beispielsweise will man aus Gesichtsmerkmalen und -ausdrücken kriminelle Absichten ableiten.“ Später ging es dann um Fragen der Verantwortung. Nach Oliver Bendel kann ein Computer oder Roboter keine Verantwortung tragen, höchstens in einem sehr rudimentären Sinne, indem er eine Aufgabe übernimmt. Es ergibt nach ihm auch keinen Sinn, ihn in moralischer Hinsicht zur Verantwortung zu ziehen. Das Interview kann hier nachgelesen werden.
Sollten wir Roboter köpfen oder anderweitig bestrafen? Im Moment sicherlich nicht. Im „Handbuch Maschinenethik“, seit 2016 von Prof. Dr. Oliver Bendel herausgegeben, ist der 18. Beitrag erschienen, mit dem Titel „Maschinenethik und strafrechtliche Verantwortlichkeit“. Autorin ist Dr. Monika Simmler. Aus dem Abstract: „Handlungen sind zunehmend das Resultat eines Zusammenwirkens von Mensch und (teil-)autonomer Maschine. Das Verhalten dieser Maschinen lässt sich weder dem Menschen noch der Technik selbst ohne Weiteres als Handlung zurechnen. Dieser Herausforderung für die strafrechtliche Verantwortungszuschreibung nimmt sich der vorliegende Beitrag an. Es wird festgestellt, dass Maschinen keine Strafrechtssubjekte darstellen, was allerdings nicht für alle Zeiten gelten muss. Insbesondere die Emergenz moralischer Handlungsfähigkeit von Technik könnte zu einem Wandel beitragen. Bis dahin steht jedoch die Verantwortlichkeit der Menschen im Zentrum. Sie sind gefordert, adäquate Sorgfalt walten zu lassen. Dabei kann gerade das Anliegen der Maschinenethik – die Moralimplementation – zur eigentlichen Sorgfaltspflicht werden. Die Disziplin entfaltet damit Relevanz für das Strafrecht, hängen doch maschinelle Moral, Handlungsträgerschaft und Verantwortung eng zusammen.“ Die letzten vier Beiträge erscheinen in den nächsten Wochen. Alle bisherigen sind über link.springer.com/referencework/10.1007/978-3-658-17484-2 verfügbar.
„In the last five years, work on software that interacts with people via typed or spoken natural language, called chatbots, intelligent assistants, social bots, virtual companions, non-human players, and so on, increased dramatically. Chatbots burst into prominence in 2016. Then came a wave of research, more development, and some use. The time is right to assess what we have learned from endeavoring to build conversational user interfaces that simulate quasi-human partners engaged in real conversations with real people.“ (Website Conversational Agents) The CHI 2019 workshop „Conversational Agents: Acting on the Wave of Research and Development“ (Glasgow, 5 May) brings together people „who developed or studied various conversational agents, to explore themes that include what works (and hasn’t) in home, education, healthcare, and work settings, what we have learned from this about people and their activities, and social or ethical possibilities for good or risk“ (Website Conversational Agents). Oliver Bendel will present three chatbots developed between 2013 and 2018 in the discipline of machine ethics, GOODBOT, LIEBOT and BESTBOT. More information via convagents.org (Link nicht mehr gültig).
„Die Digitalisierung hat längst alle Bereiche unseres Lebens durchdrungen und macht auch vor dem menschlichen Gehirn nicht Halt. Die neuen Möglichkeiten bringen Visionen von großen Entwicklungen in Wirtschaft, Forschung und natürlich auch der Hirnforschung mit sich, gleichzeitig gibt es weitreichende Diskussionen, ob alle möglich erscheinenden Entwicklungen ethisch vertretbar sind. Neuronale Netze, künstliche Intelligenz (KI), autonome Systeme – die Digitalisierung ist angewiesen auf neurowissenschaftliche Erkenntnisse. Neurowissenschaftler wiederum versprechen sich neue Wege für Forschung und Behandlung durch die rasanten Fortschritte der Digitalisierung.“ (Website GHS) Gemeinsam mit der Frankfurter Allgemeinen Zeitung veranstaltet die Gemeinnützige Hertie-Stiftung diese Reihe, die laut Eigenaussage in Übersichtsvorträgen, Podiumsdiskussionen und Gesprächen in hochkarätiger Besetzung das „Gehirn der Zukunft“ umkreist. Bei der Veranstaltung „KI & Autonomes Fahren“ am 13. Mai 2019 tragen Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW), Dr. Corinna Bernarding (Universität des Saarlandes), Prof. Dr. Andreas Geiger (Max-Planck-Institut für intelligente Systeme) und Dr. Sebastian Söhner (Porsche AG) über automatisches und autonomes Fahren vor und diskutieren auf dem Podium miteinander. Weitere Informationen über www.ghst.de/gehirn/erforschen/veranstaltungen/#c11097.
Abb.: Welche ethischen Probleme wirft autonomes Fahren auf?
Das öffentliche Fachgespräch zu Pflegerobotern am 20. Februar 2019 im Deutschen Bundestag zog zahlreiche Besucher an. Auch Politiker von SPD, Bündnis 90/Die Grünen und FDP waren durchgehend anwesend. Robotikerin Dr. Birgit Graf sprach über „Potenziale und Grenzen der Robotik für die Pflege – Stand der Technik und Anwendung, Herausforderungen für Forschung und Entwicklung“, Pflegewissenschaftler Prof. Dr. Manfred Hülsken-Giesler nahm eine „Einordnung und Bewertung aus Sicht der Pflegewissenschaft“ vor. „Ethisch-normative Herausforderungen der Pflegerobotik“ war der Titel des Vortrags von Prof. Dr. Oliver Bendel. Der Informations- und Maschinenethiker stellte Prototypen und Produkte vor und vor diesem Hintergrund verschiedene Überlegungen aus Sicht von Informationsethik und Maschinenethik an. Auch auf den moralisierten Nao von Michael Anderson, Susan L. Anderson und Vincent Berenz ging er ein. Das Programm kann hier nachgelesen, ein Bericht hier abgerufen werden. Das Parlamentsfernsehen strahlte die Aufzeichnung des Fachgesprächs am 22. Februar 2019 von 9.00 bis 11.45 Uhr aus.
Im Februar 2019 ist „Roboter in der Gesellschaft: Technische Möglichkeiten und menschliche Verantwortung“ bei Springer erschienen, herausgegeben von Christiane Woopen und Marc Jannes. Die Beiträge stammen von Alin Albu-Schäffer („Von drehmomentgeregelten Roboterarmen zum intrinsisch nachgiebigen humanoiden Roboter“), Jochen J. Steil („Roboterlernen ohne Grenzen? Lernende Roboter und ethische Fragen“), Oliver Bendel („Die programmierte Moral“), Catrin Misselhorn („Moralische Maschinen in der Pflege? Grundlagen und eine Roadmap für ein moralisch lernfähiges Altenpflegesystem“), Hartmut Hirsch-Kreinsen („Autonome Systeme in der industriellen Arbeitswelt“) und Johannes Weyer („Autonome Technik außer Kontrolle? Möglichkeiten und Grenzen der Steuerung komplexer Systeme in der Echtzeitgesellschaft“). Norbert Lammert schreibt zu „Roboterethik. Zur Rolle der Politik“. Das Buch geht zurück auf die Tagung „Roboterethik – Sie sind stark, klug, selbstständig. Und was wird aus uns?“, veranstaltet von ceres und Daimler und Benz Stiftung am 24. November 2015 in Berlin. Weitere Informationen über www.springer.com/gp/book/9783662577646#.
