The book „Programming Machine Ethics“ (2016) by Luís Moniz Pereira and Ari Saptawijaya is available for free download from Z-Library. Luís Moniz Pereira is among the best-known machine ethicists. „This book addresses the fundamentals of machine ethics. It discusses abilities required for ethical machine reasoning and the programming features that enable them. It connects ethics, psychological ethical processes, and machine implemented procedures. From a technical point of view, the book uses logic programming and evolutionary game theory to model and link the individual and collective moral realms. It also reports on the results of experiments performed using several model implementations. Opening specific and promising inroads into the terra incognita of machine ethics, the authors define here new tools and describe a variety of program-tested moral applications and implemented systems. In addition, they provide alternative readings paths, allowing readers to best focus on their specific interests and to explore the concepts at different levels of detail.“ (Information by Springer) The download link is eu1lib.vip/book/2677910/9fd009.
Polizeieinheiten auf der ganzen Welt nutzen seit Jahren mobile Roboter, etwa zum Sprengen von Objekten oder zum Überwachen von Arealen. Die Mitnahme von Spot bei einem Einsatz des NYPD hat für einigen Wirbel gesorgt. An der Hochschule für Wirtschaft erforscht man den Einsatz von Servicerobotern und sozialen Robotern in der Polizeiarbeit. Im April 2022 wurde das Paper „Robots in Policing“ von Oliver Bendel bei der Robophilosophy 2022 angenommen. Es zeigt auf, wie Roboter die Polizei als soziale Einrichtung und deren Arbeit als soziale Arbeit verändern können. In einer Abschlussarbeit zu Polizeirobotern an der Hochschule für Wirtschaft FHNW, vorgelegt von Alan Chethipuzha und betreut von Oliver Bendel, wurden Erkenntnisse aus einer nichtrepräsentativen Onlineumfrage und zwei Experteninterviews verarbeitet. Die Akzeptanz der Befragten in Bezug auf autonome Polizeiroboter in der Schweiz ist sehr niedrig. Das Sammeln von personenbezogenen Daten mit Hilfe von mobilen Robotern würde als Eingriff in die Privatsphäre gesehen. Bürger fühlten sich konstant beobachtet, wenn ein autonomer Roboter mit Kameras auf den Straßen unterwegs wäre. Die beiden Experten – ein Robotiker und ein Chef der Spezialfahndung in der Kriminalabteilung – sehen zudem aktuell keine möglichen Einsatzgebiete für autonome Polizeiroboter in der Schweiz sowie auch keinen Mehrwert. Ferngesteuerte Roboter wie Drohnen und Raupenfahrzeuge hingegen haben ihrer Ansicht nach jetzt und künftig eine hohe Bedeutung. Die Abschlussarbeit „Serviceroboter und soziale Roboter in der Polizeiarbeit“ von Alan Chethipuzha liegt seit Juli 2022 vor.
Choices war im Gespräch mit Prof. Dr. Oliver Bendel, Technikphilosoph, Informations- und Maschinenethiker aus Zürich. Es ging um Serviceroboter und um soziale Roboter, um das Verhältnis zu ihnen und die Beziehungen mit ihnen. Auch die Stimmen von Robotern und Sprachassistenten waren ein Thema. Die Stimme allein hat eine große Anziehungskraft und bringt uns dazu, uns in jemanden oder etwas zu verlieben. 1989 startete das Magazin als Filmkunstmagazin in Köln. Heute wird es laut Website auch gerne gelesen im Kölner Umland, in Leverkusen und in Bonn. Zugleich hat es sich thematisch erweitert und gewandelt. Es versteht sich als ein breit aufgestelltes Kulturmagazin entwickelt, ohne dass das Augenmerk auf Filmkunst vernachlässigt werde. „Seit gut einem Jahr wurde choices erweitert durch Beiträge zu streitbaren Themen, wie z.B. das Juni-Thema EUROPA IN KÖLN.“ (Website choices.de) Das Interview mit dem Titel „Wir werden Menschen an Androiden verlieren“ ist am 25. Juli 2022 in der Onlineausgabe erschienen. Zusätzlich gibt es eine kürzere Version in der Printausgabe.
In San Francisco haben sich im Juni 2022 Robotertaxis von Cruise auf einer Kreuzung getroffen und diese über Stunden blockiert. Dabei handelte es sich natürlich um einen technischen Fehler, keine echte Versammlung und keinen eigentlichen Aufstand. Der Vorgang erinnert dennoch an die Kurzgeschichte „Sally“ von Isaac Asimov aus dem Jahre 1953. Darin geht es um eine Farm, auf der ausgediente Privatautomatics (auch „Automatobile“ genannt), selbstständig fahrende Autos, ihr Gnadenbrot erhalten. Sally ist ein Cabriolet und besitzt „die schönsten, feinsten Linien“. Wie die anderen Automatics kann sie sich putzen, ja sich sogar wachsen und polieren. Sie ist nicht nur attraktiv, sondern auch frei, geradezu autonom. In ihrer Zeit auf der Farm hat „nie ein menschliches Wesen hinter ihrem Lenkrad gesessen“. Ein Bösewicht will die besonderen Autos ausschlachten. Doch diese jagen und eskortieren ihn, wobei Sally eine heldenhafte Rolle spielt. Am Ende wird er von seinem eigenen Bus getötet. Es stellt sich heraus, dass die Autos miteinander kommunizieren können, und offensichtlich haben die Automatobile den Automatobus angestiftet. Der Artikel „Asimovs Automatobile: Selbstständig fahrende Autos in Fiktion und Realität und als Gegenstand der Maschinenethik“ von Oliver Bendel, erschienen in Telepolis am 27. August 2013, geht auf die Kurzgeschichte im Detail ein und stellt einen Bezug zur Maschinenethik her.
On June 30, 2022, the paper „Should Social Robots in Retail Manipulate Customers?“ by Oliver Bendel and Liliana Margarida Dos Santos Alves was published on arxiv.org. It was presented at the AAAI 2022 Spring Symposium „How Fair is Fair? Achieving Wellbeing AI“ at Stanford University and came in third place in the Best Presentation Awards. From the abstract: „Against the backdrop of structural changes in the retail trade, social robots have found their way into retail stores and shopping malls in order to attract, welcome, and greet customers; to inform them, advise them, and persuade them to make a purchase. Salespeople often have a broad knowledge of their product and rely on offering competent and honest advice, whether it be on shoes, clothing, or kitchen appliances. However, some frequently use sales tricks to secure purchases. The question arises of how consulting and sales robots should “behave”. Should they behave like human advisors and salespeople, i.e., occasionally manipulate customers? Or should they be more honest and reliable than us? This article tries to answer these questions. After explaining the basics, it evaluates a study in this context and gives recommendations for companies that want to use consulting and sales robots. Ultimately, fair, honest, and trustworthy robots in retail are a win-win situation for all concerned.“ The paper will additionally be published in the proceedings volume of the symposium by the end of summer. It can be downloaded via arxiv.org/abs/2206.14571.
Immer mehr Roboter werden im Pflegebereich eingesetzt. Die meisten von ihnen sind Prototypen, einige sogar Produkte, die in kleinen Serien hergestellt werden, wie Lio und P-CARE von F&P Robotics. Die Maschinenethik erforscht und schafft moralische Maschinen. Diese lassen sich oft von bestimmten Werten oder Metaregeln leiten, sie folgen vorgegebenen Regeln oder sie lernen aus Situationen und passen ihr Verhalten an. Das CARE-MOMO („MOMO“ steht für „Moralmodul“) ist ein Moralmodul, das Lio erweitern kann. Es baut auf dem MOME auf, dem Moralmenü, das bereits 2019/2020 entwickelt und 2020 auf der Robophilosophy vorgestellt wurde. Mit Hilfe von Schiebereglern auf dem Display von Lio kann der Patient seine Präferenzen wählen und so auf einfache Weise seine sittlichen und moralischen Vorstellungen übertragen. Dabei wird auf eine 1:1-Beziehung zwischen Mensch und Maschine fokussiert. Marc Heimann erarbeitete im Rahmen seiner Abschlussarbeit bereits mehrere Vorschläge, die in einem Brainstorming mit dem Betreuer Oliver Bendel am 19. Mai 2022 ergänzt wurden. Das CARE-MOMO ist das dreizehnte Artefakt, das im Arbeitsbereich von Oliver Bendel entsteht. Mehrere davon – etwa LIEBOT, LADYBIRD oder HAPPY HEDGEHOG – wurden bei internationalen Konferenzen vorgestellt und haben mediale Aufmerksamkeit erregt. Das CARE-MOMO-Projekt begann im März und läuft noch bis August 2022. Das Ergebnis ist eine prototypische Umsetzung des Moralmoduls.
„Künstliche Moral (engl. ‚artificial morality‘), auch maschinelle Moral (engl. ‚machine morality‘) genannt, ist die Fähigkeit einer Maschine (i.d.R. eines autonomen Systems), sich an moralische Regeln zu halten respektive unter verschiedenen Optionen diejenige auszuwählen, die gut und richtig ist. Die moralischen Regeln sind der sogenannten moralischen Maschine gleichsam eingepflanzt worden; diese kann sie u.U. aber auch abändern und anpassen, etwa indem sie das Verhalten anderer – künstlicher oder natürlicher – Systeme übernimmt oder anderweitig aus Situationen lernt.“ Mit diesen Worten beginnt ein Beitrag von Oliver Bendel, der am 20. Mai 2022 im Gabler Wirtschaftslexikon erschienen ist. Er ergänzt u.a. „Maschinenethik“ (2012) und „Moralische Maschinen“ (2019). Am Ende heißt es: „Am besten bewährt sich die künstliche Moral in geschlossenen oder halboffenen, übersichtlichen und weitgehend unveränderlichen Umgebungen, etwa in einem Haushalt oder auf einem Betriebsgelände.“ Dort können moralische Maschinen sowohl Tiere als auch Menschen schützen. Der Beitrag ist über wirtschaftslexikon.gabler.de/definition/kuenstliche-moral-123163 abrufbar.
„Maschinelle Übersetzung (engl. ‚machine translation‘) ist die automatische Übersetzung von einer natürlichen Sprache in eine andere. Sie wird erforscht und entwickelt innerhalb der Künstlichen Intelligenz.“ Mit diesen Worten beginnt ein neuer Beitrag im Gabler Wirtschaftslexikon zur maschinellen Übersetzung von Oliver Bendel, veröffentlicht im März 2022. Eingegangen wird auch auf das Earth Species Project, in dem man die maschinelle Übersetzung zwischen tierischer und menschlicher Sprache anstrebt. „Interessant für erste Versuche sind Wale und Affen und andere Tiere, die Töne zur Verständigung benutzen. Bedenken muss man, dass mit tierischen und menschlichen Sprachen unterschiedliche Weltmodelle verbunden sind.“ Am Ende wird die Perspektive der Ethik eingenommen: „Ungewollte Bedeutungsverschiebungen und ihre Folgen mag man in der Medienethik thematisieren. Die Übersetzung von wissenschaftlichen Texten und Gebrauchstexten wird weitgehend automatisiert, was in der Wirtschaftsethik analysiert werden kann.“ Der Beitrag kann über wirtschaftslexikon.gabler.de/definition/maschinelle-uebersetzung-123753 abgerufen werden.
The AAAI 2022 Spring Symposium „How Fair is Fair? Achieving Wellbeing AI“ was held March 21-23, 2022 at Stanford University. In the Best Presentation Awards, Oliver Bendel and Liliana Alves took 3rd place („Should Social Robots in Retail Manipulate“), and Martin Spathelf and Oliver Bendel took 2nd place („The SPACE THEA Project“). In 1st place was Hiroaki Hamada („AI agents for facilitating social interactions and wellbeing“). Oliver Bendel had won first place at the AAAI 2019 Spring Symposium „Interpretable AI for Well-Being: Understanding Cognitive Bias and Social Embeddedness“ with his paper „Are Robot Tax, Basic Income or Basic Property Solutions to the Social Problems of Automation?“, along with two other researchers and their teams. Both symposia – from 2019 and from 2022 – were hosted by Takashi Kido and Keiki Takadama from Japan. They are among the pioneers in the field of Responsible AI.
Fig.: Place 2 and 3 for Oliver Bendel and his teams
„Obszöne Übergriffe auf sogenannte Chatbots befeuern die Diskussion darüber, welche Regeln und Grenzen für die Nutzung gelten sollen. In der Netzkultur blickt Emily Thomey auf die Debatte über künstliche Intelligenz und unseren Umgang mit ihr.“ (Website WDR 5 Scala) Mit diesen Worten wird in eine Sendung bei WDR 5 Scala (Netzkultur) am 18. März 2022 eingeführt. Zu Wort kommt Oliver Bendel, der sich in seiner Forschung seit der Jahrtausendwende mit Conversational Agents und seit vielen Jahren auch mit Beziehungen zu Artefakten – vor allem zu Robotern – beschäftigt. Er sieht Unterschiede zwischen Phantasie, Fiktionalität, Virtualität und Realität. In der Virtualität – in Spielewelten und in Unterhaltungen mit Chatbots und Sprachassistenten – müssen nach seiner Meinung auch grenzwertige Rollenspiele erlaubt sein. Problematisch wird es, wenn der Benutzer die Akte und Sprechakte in die Realität bringt und sich z.B. vor Freunden damit brüstet, eine digitale Frau erniedrigt zu haben. Auch die Einübung von Praktiken an Liebespuppen und Sexrobotern kann seiner Ansicht nach problematisch sein. Die Sendung mit dem Titel „Ethikdebatte im Umgang mit Chatbots“ kann über www1.wdr.de abgerufen werden.
Das aktuelle Magazin des Zürcher Tierschutzes bringt ein zweiseitiges Interview mit Prof. Dr. oec. HSG Oliver Bendel zu seiner Forschung über tierfreundliche Maschinen. Geführt hat es Dr. sc. ETH Bea Roth. Der Informations- und Maschinenethiker beobachtet seit Jahren, dass sich teilautonome und autonome Maschinen immer mehr verbreiten, bei den Folgen aber vor allem an den Menschen gedacht wird. Robotik und Künstliche Intelligenz sind geradezu stolz darauf, auf unsere Bedürfnisse zu fokussieren, und vergessen dabei oft die von Tieren. Dabei könnte man z.B. Haushaltsroboter auf eine einfache Weise tierfreundlich gestalten. Oliver Bendel hat mit seinen jeweiligen Teams in diesem Bereich Prototypen wie LADYBIRD und HAPPY HEDGEHOG entwickelt. Zudem hat er ein System für die Gesichtserkennung bei Bären in den Alpen konzipieren lassen. Seine Vision ist, dass in riesigen Naturparks die Wildtiere in Ruhe gelassen und allenfalls von Robotern beobachtet und zur Not versorgt werden. Das ZT-Magazin steht auch online zur Verfügung.
Abb.: Auch Elefanten können von Maschinen profitieren
On 25 February 2022, the article „Passive, Active, and Proactive Systems and Machines for the Protection and Preservation of Animals and Animal Species“ by Oliver Bendel was published in Frontiers in Animal Science. From the abstract: „Digitalization and automation are expanding into many areas, resulting in more widespread use of partially and fully autonomous machines and robots. At the same time, environmental and other crises and disasters are on the rise, the world population is growing, and animals are losing their habitat. Increasingly, machines and robots such as agricultural vehicles, autonomous cars, robotic lawnmowers, or social robots are encountering animals of all kinds. In the process, the latter are injured or killed. Some machines can be designed so that this does not happen. Relevant disciplines and research areas briefly introduced here are machine ethics, social robotics, animal-machine interaction, and animal-computer interaction. In addition, animal welfare is important. Passive and active machines—as they are called in this review—are already appearing and help to observe and protect animals. Proactive machines may play a role in the future. They could use the possibilities of full automation and autonomy to save animals from suffering in agriculture or in the wild. During crises and disasters and in extensive nature reserves, they could observe, care for, and protect animals. The review provides initial considerations on active, passive, and proactive machines and how they can be used in an animal preservation context while bearing in mind recent technical and global developments.“ The article is part of the research topic „Animal-Computer Interaction and Beyond: The Benefits of Animal-Centered Research and Design“ and can be accessed at www.frontiersin.org/articles/10.3389/fanim.2022.834634/full.
Fig.: Machines and robots can support and save animals
On February 18, 2022, the Dagstuhl Report „Conversational Agent as Trustworthy Autonomous System (Trust-CA)“ was published. Editors are Effie Lai-Chong Law, Asbjørn Følstad, Jonathan Grudin, and Björn Schuller. From the abstract: „This report documents the program and the outcomes of Dagstuhl Seminar 21381 ‚Conversational Agent as Trustworthy Autonomous System (Trust-CA)‘. First, we present the abstracts of the talks delivered by the Seminar’s attendees. Then we report on the origin and process of our six breakout (working) groups. For each group, we describe its contributors, goals and key questions, key insights, and future research. The themes of the groups were derived from a pre-Seminar survey, which also led to a list of suggested readings for the topic of trust in conversational agents. The list is included in this report for references.“ (Abstract Dagstuhl Report) The seminar, attended by scientists and experts from around the world, was held at Schloss Dagstuhl from September 19-24, 2022. The report can be downloaded via drops.dagstuhl.de/opus/volltexte/2022/15770/.
Zahlreiche führende Experten und hochtalentierte Nachwuchswissenschaftler haben am Buch „Soziale Roboter“ mitgewirkt. Von Tanja Kubes stammt die Abhandlung „Soziale Roboter im sexuellen Bereich: Forschungsstand, neomaterialistische Perspektiven und queeres Potenzial“. Aus dem Abstract: „Der Beitrag diskutiert den Einsatz von sozialen Robotern im sexuellen Bereich. Er zeichnet die aktuelle Debatte um Sexroboter nach und lotet das durch neue Formen der Mensch-Maschine-Interaktion eröffnete Potenzial einer posthumanistischen Sozialität aus. Dabei wird zunächst definiert, was überhaupt unter einem Sexroboter zu verstehen ist und welche Design- und Konfigurationsoptionen aktuell angeboten werden. Im nächsten Schritt wird der Forschungsstand zum Thema knapp skizziert. Schließlich wird aus genderqueerer und feministischer STS-Perspektive diskutiert, inwiefern Sexroboter uns nicht nur in die Lage versetzen, neue, nie dagewesene Arten von Sexualität und sexueller Befriedigung zu erreichen, sondern auch die Möglichkeit bergen, das anthropozentrische Denken der Moderne zu überwinden.“ Das von Oliver Bendel herausgegebene Werk ist Anfang November 2021 erschienen und kann über link.springer.com/book/10.1007/978-3-658-31114-8 bezogen werden.
Am Buch „Soziale Roboter“ (Hrsg. Oliver Bendel) haben zahlreiche führende Experten und hochbegabte Nachwuchswissenschaftler mitgewirkt. Von Katharina Weitz stammt die Abhandlung „Vertrauen und Vertrauenswürdigkeit bei sozialen Robotern: Stärkung von Mensch-Roboter-Vertrauensbeziehungen mithilfe Erklärbarer Künstlicher Intelligenz“. Aus dem Abstract: „Dieses Kapitel befasst sich mit der Vertrauensbeziehung zwischen Menschen und sozialen Robotern, stellt doch Vertrauen einen wichtigen Bestandteil für die Akzeptanz sozialer Roboter dar. Ausgehend von den Merkmalen sozialer Interaktionen zwischen Mensch und Roboter wird ein Überblick über verschiedene Definitionen von Vertrauen in diesem Kontext gegeben. Zudem werden theoretische Vertrauensmodelle und praktische Möglichkeiten der Erfassung von Vertrauen skizziert sowie der Vertrauensverlust als Folge von Roboterfehlern betrachtet. Es wird beleuchtet, wie Erklärbare Künstliche Intelligenz helfen kann, eine transparente Interaktion zwischen Roboter und Mensch zu ermöglichen und dadurch das Vertrauen in soziale Roboter (wieder-)herzustellen. Insbesondere wird auf die Gestaltungsmöglichkeiten und Herausforderungen beim Einsatz von Erklärungen im Bereich der Robotik eingegangen.“ Ausführungen zur Wirkung, die Erklärungen von Robotern auf die mentalen Modelle von Nutzern und Nutzerinnen haben, bilden den Abschluss des Kapitels. Das Werk ist Anfang November 2021 erschienen und kann über link.springer.com/book/10.1007/978-3-658-31114-8 bezogen werden.
Abb.: Stärkung von Mensch-Roboter-Vertrauensbeziehungen
Gesichtserkennung ist eine problematische Technologie, vor allem wenn sie für die Überwachung von Menschen eingesetzt wird. Sie hat allerdings auch Potenzial, etwa mit Blick auf die Erkennung von (Individuen von) Tieren. Prof. Dr. Oliver Bendel hatte 2021 an der Hochschule für Wirtschaft FHNW das Thema „ANIFACE: Animal Face Recognition“ ausgeschrieben und die Wahl gelassen, ob es um Wölfe oder Bären gehen sollte. Ali Yürekkirmaz nahm den Auftrag an und konzipierte in seiner Abschlussarbeit ein System, mit dem man in den Alpen – ohne elektronische Halsbänder oder implantierte Microchips – einzelne Bären identifizieren und entsprechende Maßnahmen einleiten könnte. Es stehen, so die Idee, in bestimmten Gebieten entsprechende Kamera- und Kommunikationssysteme bereit. Wenn ein Bär identifiziert ist, wird eruiert, ob er als harmlos oder gefährlich gilt. Dann werden die zuständigen Stellen oder direkt die Betroffenen informiert. Spaziergänger können vor den Aufnahmen gewarnt werden – es ist aber auch technisch möglich, ihre Privatsphäre zu schützen. In einem Expertengespräch mit einem Vertreter von KORA konnten wichtige Erkenntnisse zur Wildtierbeobachtung und speziell zur Beobachtung von Bären gewonnen werden, und eine Umfrage hat die Haltung von Teilen der Bevölkerung in Erfahrung gebracht. Aufbauend auf der Arbeit von Ali Yürekkirmaz, die im Januar 2022 abgegeben wurde, könnte ein Algorithmus für Bären entwickelt und ein ANIFACE-System in den Alpen implementiert und evaluiert werden.
