Vom 18. bis zum 20. Juli 2019 findet die Fachtagung „Game of Drones“ statt. Sie wird vom Zeppelin Museum Friedrichshafen in Kooperation mit der Universität Konstanz und der Zeppelin Universität Friedrichshafen organisiert. Es geht, wie der Titel verrät, um die Technologie der Drohnen, um die Spiele und Kriegsspiele damit. „Die wissenschaftliche Fachtagung beleuchtet in drei Panels kritisch das Spannungsfeld dieser Technologie, die absolute Gegensätze in sich vereint. VertreterInnen aus Wirtschaft, Politik und Wissenschaft reflektieren gesellschaftlich relevante Aspekte des militärisch-wirtschaftlichen Sektors sowie der Aneignung durch zeitgenössische KünstlerInnen und Start-Ups. Der Schnittstelle von Drohnen und Künstlicher Intelligenz widmet sich ein Panel aus ethischer und medientheoretischer Perspektive.“ (Website ZM) Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW) – Informations- und Maschinenethiker und Verfasser des Drohnenromans „Verlorene Schwestern“ (2009) – spricht am 20. Juli zu „Die Drohne und die Moral“ (auch aus Sicht der Maschinenethik), Philip Hauser (Universität Konstanz) zu „Mobilität und Macht – Drohnen und künstliche Intelligenz aus medienwissenschaftlicher Perspektive“ und Dr. Goetz Herrmann (Universität Paderborn) zu „Game of Swarms: Adaptabilität“. Das Programm kann hier heruntergeladen werden. Weitere Informationen über www.zeppelin-museum.de.
„Bei einer ersten Begegnung vor fünf Jahren wirkte Oliver Bendel ziemlich abgefahren. Damals skizzierte er eine Zukunft, in der Technologien auf der Kontaktlinse oder unter der Haut stecken und Kriminelle eben jemandem eine Hand abhacken, um sich mit dem implantierten Chip Zugang zu einem Gebäude zu verschaffen. Er erzählte von einer Welt voller virtuellen Assistenten und Roboter, von seinem Staubsauger mit Moral, den er bauen wollte. Es klang nach Science-Fiction.“ (NZZ, 14. Juni 2019) Im Frühjahr 2019 hat Melanie Keim den Informations- und Maschinenethiker nochmals getroffen, im Lichthof der Universität Zürich. Sie findet ihn immer noch abgefahren. Aber sie hält in ihrem Artikel „Er lehrt Roboter Moral“ für die NZZ fest, dass seine Themen – zu denen er seit zwanzig Jahren forscht – im Mainstream angekommen sind. Inzwischen wurde LADYBIRD, der tierfreundliche Saugroboter, als Prototyp gebaut, und der LIEBOT, der systematisch lügen konnte, ist Geschichte. Dieser erklärte im Sommer 2016, dass Donald Trump der Präsident der USA sei. Warum er dies tat, wird in mehreren Papers und auf mehreren Slides erklärt, die u.a. hier und über www.oliverbendel.net heruntergeladen werden können. Nur soviel sei verraten: Es wird sozusagen Pingpong mit Yahoo gespielt. Der Artikel vom 22. Juni 2019 steht als PDF zur Verfügung. Zusätzlich gibt es eine Onlineversion.
„Die britische Elite-Universität Oxford hat eine Spende in Höhe von 150 Millionen Pfund (rund 168 Millionen Euro) von US-Milliardär Stephen A. Schwarzman erhalten. Mit der höchsten Einzelspende in der Geschichte der Hochschule soll das ‚Stephen A. Schwarzman Centre‘ für Geisteswissenschaften entstehen.“ (SPON, 19. Juni 2019) Dies meldete der Spiegel am 19. Juni 2019. Weiter heißt es: „In dem Gebäude sollen unter anderem die Fakultäten für … Geschichts- und Sprachwissenschaften, Philosophie, Musik und Theologie zusammengelegt werden. Rund ein Viertel aller Oxford-Studenten sind in diesen Fächern eingeschrieben. Zusätzlich soll dort ein neues Institut für Ethik im Umgang mit Künstlicher Intelligenz entstehen, wie die Universität mitteilte.“ (SPON, 19. Juni 2019) Der Schwerpunkt scheint auf Informations- und Roboterethik zu liegen. Schwarzman selbst sagte laut Spiegel, Universitäten müssten dabei helfen, ethische Grundsätze für den schnellen technologischen Wandel zu entwickeln. Über die Herkunft der Mittel wird debattiert. Weitere Informationen über www.spiegel.de/lebenundlernen/uni/oxford-elite-uni-erhaelt-150-millionen-pfund-spende-a-1273161.html.
More and more autonomous and semi-autonomous machines such as intelligent software agents, specific robots, specific drones and self-driving cars make decisions that have moral implications. Machine ethics as a discipline examines the possibilities and limits of moral and immoral machines. It does not only reflect ideas but develops artifacts like simulations and prototypes. In his talk at the University of Potsdam on 23 June 2019 („Fundamentals and Artifacts of Machine Ethics“), Prof. Dr. Oliver Bendel outlined the fundamentals of machine ethics and present selected artifacts of moral and immoral machines, Furthermore, he discussed a project which will be completed by the end of 2019. The GOODBOT (2013) is a chatbot that responds morally adequate to problems of the users. The LIEBOT (2016) can lie systematically, using seven different strategies. LADYBIRD (2017) is an animal-friendly robot vacuum cleaner that spares ladybirds and other insects. The BESTBOT (2018) is a chatbot that recognizes certain problems and conditions of the users with the help of text analysis and facial recognition and reacts morally to them. 2019 is the year of the E-MOMA. The machine should be able to improve its morality on its own.
An der Hochschule für Wirtschaft FHNW entsteht zwischen Juni 2019 und Januar 2020 das siebte Artefakt der Maschinenethik. Ideen- und Auftraggeber ist Prof. Dr. Oliver Bendel. Die Maschinenethik bringt moralische und unmoralische Maschinen hervor, derzeit als Konzepte, Simulationen oder Prototypen. Die maschinelle Moral ist überwiegend fest verankert, über Prinzipien bzw. Metaregeln sowie Regeln. Die Maschinen sind damit zu bestimmten Aktionen in der Lage, zu anderen nicht. Ein Ansatz, der eine gewisse Flexibilität verheißt, ist das Moralmenü (kurz MOME). Über dieses überträgt der Besitzer oder Benutzer seine eigene Moral, seine Vorstellungen und Überzeugungen zu Gut und Böse, seine Wertmaßstäbe, seine Verhaltensregeln auf die Maschine. Diese agiert und reagiert so, wie er dies auch tun würde, und zwar im Detail. Er trifft womöglich auf bestimmte Voreinstellungen, hat aber eine gewisse Freiheit, diese zu verändern oder neue Standardeinstellungen festzulegen. Im Projekt wird ein MOME prototypisch implementiert, das auf ein bereits bestehendes System oder ein im Projekt entwickeltes System zugreift.
Am 22. Mai 2019 fand das 23. Berliner Kolloquium der Daimler und Benz Stiftung statt. Es widmete sich Pflegerobotern, nicht nur aus den bekannten, sondern auch aus neuartigen Perspektiven. So hatte der wissenschaftliche Leiter, Prof. Dr. Oliver Bendel, zwei der bekanntesten Maschinenethiker der Welt eingeladen, Prof. Dr. Michael Anderson und Prof. Dr. Susan L. Anderson. Zusammen mit Vincent Berenz hatten sie einen Nao-Roboter mit einer Reihe von Werten programmiert, die sein Verhalten bestimmen und gleichzeitig einer Person in einer simulierten Einrichtung der Altenpflege helfen. Ein Beitrag dazu erschien vor einiger Zeit in den Proceedings of the IEEE. Zum ersten Mal trugen sie die Ergebnisse aus diesem Projekt vor einem europäischen Publikum vor, und ihre insgesamt einstündige Präsentation mit der anschließenden zwanzigminütigen Diskussion kann als eine Sternstunde der Maschinenethik gelten. Mit dabei waren weitere international bekannte Wissenschaftlerinnen und Wissenschaftler, etwa der Japanexperte Florian Coulmas. Er ging auf Artefakte aus Japan ein und relativierte die häufig gehörte Behauptung, die Japaner hielten alle Dinge für beseelt. Mehrere Medien berichteten über das Berliner Kolloquium, beispielsweise Neues Deutschland.
The Association for the Advancement of Artificial Intelligence (AAAI) and Squirrel AI Learning announced the establishment of a new one million dollars annual award for societal benefits of AI. According to a press release of the AAAI, the award will be sponsored by Squirrel AI Learning as part of its mission to promote the use of artificial intelligence with lasting positive effects for society. „This new international award will recognize significant contributions in the field of artificial intelligence with profound societal impact that have generated otherwise unattainable value for humanity. The award nomination and selection process will be designed by a committee led by AAAI that will include representatives from international organizations with relevant expertise that will be designated by Squirrel AI Learning.“ (AAAI Press Release, 28 May 2019) The AAAI Spring Symposia have repeatedly devoted themselves to social good, also from the perspective of machine ethics. Further information via aaai.org/Pressroom/Releases//release-19-0528.php.
Using an interdisciplinary approach, the book „AI love you“ explores the emerging topics and rapid technological developments of robotics and artificial intelligence through the lens of the evolving role of sex robots, and how they should best be designed to serve human needs. „An international panel of authors provides the most up-to-date, evidence-based empirical research on the potential sexual applications of artificial intelligence. Early chapters discuss the objections to sexual activity with robots while also providing a counterargument to each objection. Subsequent chapters present the implications of robot sex as well as the security and data privacy issues associated with sexual interactions with artificial intelligence.“ (Information by Springer) Topics featured in this book include: the Sexual Interaction Illusion Model, the personal companion system, Harmony, designed by Realbotix, an exposition of the challenges of personal data control and protection when dealing with artificial intelligence, and the current and future technological possibilities of projecting three-dimensional holograms. Oliver Bendel is the author of the contribution to the latter topic, entitled „Hologram Girl“. The book is edited by Yuefang Zhou and Martin H. Fischer and will be published in summer 2019. More information via www.springer.com/gp/book/9783030197339.
„Chatbots unterhalten sich mit Menschen und unterhalten sie, sie beraten Kunden und Interessenten auf Websites und in Instant-Messaging-Systemen, sie rufen hilfreiche Ressourcen auf und geben dazu Erläuterungen. Ihr Erfolg erklärt sich vor allem durch ihre natürlichsprachlichen Fähigkeiten und ihre Konstruktion als hilfreiches, sachkundiges oder lustiges Gegenüber. Der Beitrag erklärt, was Chatbots und Sprachassistenten sind, nennt Vor- und Nachteile ihres Einsatzes und stellt Produkte für die Kundenkommunikation und den Unterhaltungsbereich vor. Zudem geht er auf Projekte der Maschinenethik ein. Die meisten Chatbots verhalten sich nicht adäquat, wenn der Benutzer ihnen gegenüber Sorgen äußert. Moralische Maschinen als Dialogsysteme können eine Lösung sein.“ So der Abstract des Beitrags „Von Cor@ bis Mitsuku: Chatbots in der Kundenkommunikation und im Unterhaltungsbereich“ von Oliver Bendel, erschienen im Mai 2019 im „Handbuch Digitale Wirtschaft“ (Herausgeber: Tobias Kollmann). Er ist verfügbar auf SpringerLink.
Claudia Brändle ist wissenschaftliche Mitarbeiterin am Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) in Karlsruhe. Prof. Dr. Armin Grunwald hat in Physik promoviert und in Philosophie habilitiert. Er ist Leiter des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB) und Professor für Technikphilosophie am Institut für Philosophie des KIT. Zu seinen Schwerpunkten gehören die Theorie der Technikfolgenabschätzung, die Ethik der Technik und Konzeptionen der Nachhaltigkeit. Von den beiden Wissenschaftlern stammt der 21. Beitrag für das „Handbuch Maschinenethik“ (Herausgeber Prof. Dr. Oliver Bendel), mit dem Titel „Autonomes Fahren aus Sicht der Maschinenethik“. Veröffentlicht wurde er im Frühjahr 2019 über link.springer.com/referenceworkentry/10.1007/978-3-658-17484-2_18-1. In gedruckter Form kommt das Buch mit allen 23 Beiträgen im Herbst 2019 heraus. Weitere Informationen über www.springer.com/gp/book/9783658174828.
„Der zunehmende Einsatz von Künstlicher Intelligenz (KI) ist ein wesentliches Merkmal der digitalen Transformation von Gesellschaft und Wirtschaft und hat Folgen für unser Privat- und Arbeitsleben. Die Schweiz spielt auf diesem Gebiet heute in Forschung und Entwicklung weltweit eine bedeutende Rolle.“ (Website BAKOM, 9. Mai 2019) Der Bundesrat hat laut BAKOM eine interne Arbeitsgruppe eingesetzt, die bis zum Herbst 2019 eine Übersicht über bestehende Maßnahmen, eine Einschätzung zu neuen Handlungsfeldern sowie Überlegungen zu einem transparenten und verantwortungsvollen Einsatz von künstlicher Intelligenz erarbeitet. Dazu gehört auch, Experten zu konsultieren und ihre Positionen öffentlich zu machen. „Wir fragen bei Prof. Dr. Oliver Bendel nach, was Ethik und künstliche Intelligenz miteinander zu tun haben.“ Das Interview mit ihm ist am 9. Mai 2019 auf der Plattform Dialog Digitale Schweiz erschienen. Es kann über www.digitaldialog.swiss/de/dialog/kuenstliche-intelligenz-als-disziplin-zwischen-ingenieurskunst-und-kunst abgerufen werden.
Abb.: Das BAKOM ist u.a. zuständig für Kommunikation
„Maschinenethik ist eine junge Disziplin. Sie beschäftigt sich mit maschineller Moral. Dabei bleibt sie nicht beim Theoretischen stehen, sondern geht ins Praktische. Zusammen mit Künstlicher Intelligenz und Robotik bringt sie moralische und unmoralische Maschinen hervor.“ Mit diesen Worten beginnt die von Prof. Dr. Oliver Bendel verfasste Einleitung zum „Handbuch Maschinenethik“, die im Mai 2019 erschienen ist. Sie führt in grundsätzliche Aspekte der Maschinenethik aus persönlicher und fachlicher Sicht ein. Die Kapitel des Handbuchs werden genannt und in ihren Inhalten umrissen. Das „Handbuch Maschinenethik“ (Springer VS) liefert Grundlagen zur Maschinenethik, erkundet Anwendungsgebiete der Disziplin und stellt Prototypen moralischer Maschinen vor. Neben der Maschinenethik kommen Roboterethik und Rechtswissenschaft zu Wort. Die Beiträge werden seit 2017 laufend über link.springer.com/referencework/10.1007/978-3-658-17484-2 veröffentlicht. Die Autorinnen und Autoren gehören zu den bekanntesten Wissenschaftlerinnen und Wissenschaftlern in Europa auf den Gebieten der Maschinenethik, der Roboterethik und des Roboterrechts. In gedruckter Form kommt das Buch im Sommer oder Herbst 2019 heraus. Weitere Informationen über www.springer.com/gp/book/9783658174828.
Am 21. Februar 2019 traf sich Dr. Norbert Lossau mit Prof. Dr. Oliver Bendel, dem Wirtschaftsinformatiker, Informations- und Maschinenethiker aus Zürich, im ehrwürdigen Journalistenclub der Welt in der Axel-Springer-Straße in Berlin. Es entspann sich ein langes Gespräch über die Maschinenethik und ihre Anwendungsfelder. Die Maschinenethik erforscht die maschinelle Moral und bringt moralische Maschinen hervor. Die eine wie die andere Bezeichnung, „maschinelle Moral“ wie „moralische Maschine“, ist ein Terminus technicus. Die heutige maschinelle Moral hat mit der menschlichen einfach bestimmte Aspekte gemein. So kann eine moralische Maschine beispielsweise moralische Regeln befolgen. Intuition oder Empathie hat sie nicht, genauso wenig Bewusstsein oder gar Selbstbewusstsein. Die Maschinenethik richtet sich auf Serviceroboter, Kampfroboter und Chatbots, um nur ein paar Beispiele zu nennen. Auch Sexroboter und Liebespuppen erregen ihr Interesse, und natürlich kam man auch auf dieses Thema zu sprechen. Das Interview ist am 26./27. April 2019 in der Welt erschienen, in gedruckter und elektronischer Form, in deutscher und englischer Sprache. Die deutsche Onlineversion kann über www.welt.de/wissenschaft/plus192492361/Maschinenethik-An-diese-Spielregeln-sollten-sich-Sexpuppen-halten.html abgerufen werden.
„Ein Hacker hat auf knapp 30.000 Kundenkonten von zwei GPS-Tracker-Apps zugreifen können. Neben umfangreichen Einblicken hätte er bei manchen Fahrzeugen auch den Motor während der Fahrt ausschalten können – per App oder Webclient.“ (Golem, 26. April 2019) Dies schreibt Moritz Tremmel in einem Artikel, der am 26. April 2019 in Golem erschienen ist. „Ich hätte für massive Verkehrsprobleme auf der ganzen Welt sorgen können“, sagte der Hacker gegenüber dem Onlinemagazin. „Ich habe die volle Kontrolle über Hunderttausende Fahrzeuge und kann deren Motoren per Touch stoppen.“ (Golem, 26. April 2019) Das Hacken von Automobilen wird als eines der vielen Probleme gesehen, mit dem das teil-, hoch- und vollautomatisierte Fahren konfrontiert ist und sein wird. Ein anderes ist, dass Kameras, Radar- und Ultraschallsysteme von außen manipuliert werden können, zum Teil mit einfachsten Mitteln. Bereits mit ein paar Kaugummis und einer Sprühdose kann man das Auto fahruntüchtig machen. Darauf geht ein Artikel von Oliver Bendel ein, der am 6. März 2018 in der ICTkommunikation erschienen ist.
Abb.: Das Hacken von Fahrzeugen kann gefährlich sein
Im Rahmen der Vadian Lectures in St. Gallen betrachtet Oliver Bendel am 9. Mai 2019 ab 18 Uhr „Serviceroboter aus Sicht von Informations- und Maschinenethik“. Aus der Beschreibung auf der Website: „Serviceroboter verbreiten sich immer mehr. Man findet sie in Einkaufszentren, an Hotelrezeptionen, in Pflege und Therapie. Oliver Bendel stellt in seinem Vortrag einige von ihnen vor und wirft Fragen aus den Perspektiven von Informations- und Maschinenethik auf. Es geht nicht nur darum, wie wir die Serviceroboter einordnen, sondern auch darum, wie wir sie entwickeln, wie wir ihr Verhalten so bestimmen, dass wir es als angenehm und angemessen empfinden.“ Die Veranstaltungsreihe wird durch das Zentrum für Ethik und Nachhaltigkeit der FHS St. Gallen initiiert und von der St. Galler Kantonalbank unterstützt. Die Veranstaltung ist kostenfrei, die Platzzahl begrenzt. Die Anmeldung erfolgt über das Anmeldeformular oder per E-Mail an zen@fhsg.ch.
Prof. Dr. Julian Nida-Rümelin wuchs nach eigenen Angaben in einer Künstlerfamilie auf. Er studierte Philosophie, Physik, Mathematik und Politikwissenschaft. Er ist seit 2004 Professor für Philosophie und politische Theorie an der Ludwig-Maximilians-Universität München. Zuvor lehrte er an den Universitäten Göttingen (1993 – 2003) und Tübingen (1991 – 1993). Seit 2002 ist er Honorarprofessor an der Humboldt-Universität zu Berlin. PD Dr. Fiorella Battaglia promovierte 2004 am Institut für Philosophie der Universität Neapel. Seit 2013 arbeitet sie am Lehrstuhl IV der Ludwig-Maximilians-Universität München. 2016 habilitierte sie zum Thema „Der normative Begriff der Natur des Menschen“. Von den beiden Wissenschaftlern stammt der 19. Beitrag für das „Handbuch Maschinenethik“ (Herausgeber Prof. Dr. Oliver Bendel), mit dem Titel „Maschinenethik und Robotik“. Veröffentlicht wurde er über link.springer.com/referencework/10.1007/978-3-658-17484-2. In gedruckter Form kommt das Buch mit allen 23 Beiträgen im Sommer oder Herbst 2019 heraus. Weitere Informationen über www.springer.com/gp/book/9783658174828.
