Mit Liebespuppen und Sexrobotern beschäftigt sich Prof. Dr. Oliver Bendel seit 2013, beginnend mit dem Fachartikel „Dr. Robot entdeckt die Moral“, veröffentlicht in IT for Health. 2015 stellte er in seinem Beitrag „Surgical, Therapeutic, Nursing and Sex Robots in Machine and Information Ethics“ für das Buch „Machine Medical Ethics“ (Springer) die Lustmaschinen in eine Reihe mit anderen Robotern aus dem Gesundheitsbereich und betrachtete sie aus ethischer Sicht. Es folgten weitere Artikel und Buchbeiträge und 2020 das vielbeachtete Buch „Maschinenliebe“ (Springer Gabler). Zuletzt erschien „Sexroboter als soziale Roboter für unterschiedliche Bedürfnisse und Anliegen“ im Herausgeberband „Faktor Mensch“ (Springer Vieweg). Christoph Holz, ein Podcaster, unterhielt sich mit dem Informations- und Maschinenethiker über verschiedene Themen in den Bereichen Soziale Robotik, Künstliche Intelligenz und Ethik. Die erste Folge „Maschinenliebe aus philosophischer Sicht“ wurde am 19. Juli 2023 veröffentlicht. Sie kann über Spotify abgerufen werden.
Am 14. Juli 2023 war die Abschlusspräsentation des Projekts „Little Teacher“, in dem Alpha Mini eine Hauptrolle spielt. Initiator war Prof. Dr. Oliver Bendel, der seit einem Vierteljahrhundert über Conversational Agents und soziale Roboter forscht. Andrin Allemann trug im Rahmen seiner Abschlussarbeit zum Projekt bei und hat die Implementierung durchgeführt. Alpha Mini ist in dieser Anwendung für die Schule oder das Lernen im Kinderzimmer gedacht. Er wurde mit einem Tablet bzw. Laptop (einem Microsoft Surface) verbunden. Er kann mit Hilfe von Bildern und Texten auf dem Display einfachen Lernstoff zu Geografie und Biologie vermitteln und die Kinder durch verbales, gestisches und mimisches Feedback motivieren. Es handelt sich also um einen kleinen Lehrer mit großen Möglichkeiten. Alpha Mini ist ein sozialer Roboter, der sich durch geringe Größe (und damit gute Transportfähigkeit) und weitgehende natürlichsprachliche und motorische Fähigkeiten auszeichnet. Er ist wesentlich günstiger als andere humanoide Roboter mit vergleichbaren Möglichkeiten. Allerdings hat er anders als Pepper kein integriertes Tablet. Im Projekt konnte gezeigt werden, dass eine Verbindung zwischen verschiedenen Komponenten einer Lernumgebung möglich ist und man damit Lernerfolg und Lernfreude unterstützen kann. Das Projekt war am 8. März 2023 gestartet. Projektabschluss ist am 11. August 2023. Bis dahin werden noch kleinere Fehler behoben und mehrere Tests durchgeführt. Die Ergebnisse werden in einem Paper veröffentlicht.
Der Beitrag zum Thema „Darf man Maschinen wehtun?“ läuft am 15. Juni 2023 ab 19.05 Uhr bei Deutschlandfunk Kultur. Für das Hintergrundgespräch stand Prof. Dr. Oliver Bendel zur Verfügung. Er wird auch zweimal in dem Beitrag zitiert. Der Technikphilosoph streicht gerne heraus, dass KI-Systeme und Roboter Meister im Simulieren sind. Sie simulieren Intelligenz, Moral und Bewusstsein. Zugleich ist ihm wichtig, auf den tiefen Graben zwischen Menschen und Maschinen hinzuweisen. Er besteht darin, dass diese nicht empfinden und leiden können, dass sie keine echte Moral (zu der ein freier Willen gehört) und kein echtes Bewusstsein (zu dem eine Haltung zur Welt oder zum Ich gehört, die oft mit Überraschung, Freude und Angst einhergeht) haben. Da sie nicht empfinden und leiden können, kann man ihnen nicht wehtun. Und man darf ihnen auch in einem bestimmten Sinne wehtun, d.h. man kann mit ihnen im Prinzip machen, was man will, ohne Rücksicht auf sie als moralische Objekte (die sie nicht sind). Moralische Objekte können natürlich die Besitzer oder Benutzer der KI-Systeme und Roboter sein. Deshalb sollte man nicht unbedingt einen sozialen Roboter vor den Augen seines Besitzers oder Benutzers zerlegen, so wenig wie man einen Teddybären vor den Augen des Jungen oder Mädchens zerlegen sollte, dessen Spielkamerad er ist. Oliver Bendel ist wichtig, dass Maschinen keine Rechte haben können, auch keine Würde. Werte kann man ihnen zuschreiben. Schon Pflanzen sind Maschinen in dieser Hinsicht voraus. Die Bundesverfassung der Schweiz „verlangt, im Umgang mit Tieren, Pflanzen und anderen Organismen der Würde der Kreatur Rechnung zu tragen“ (Website BAFU). Der Technikphilosoph hält diese Verfassungsnorm für einen rechtlichen und zivilisatorischen Fortschritt. Er ist dafür, sich weiter für Pflanzen und Tiere einzusetzen, nicht für Maschinen, so sehr er sich mit diesen verbunden fühlt. Das Programm des Senders kann über www.deutschlandfunkkultur.de/programm aufgerufen werden.
Abb.: Ein von DALL-E erstelltes Bild eines Roboters
„In seiner Arbeit beschäftigt er sich mit dem Zusammenleben von sozialen Robotern mit Menschen und mit dem Potenzial von künstlicher Intelligenz. Auf seinem Gebiet ist er eine Autorität.“ (Website SRF) Mit diesen Worten wird vom Schweizer Radio und Fernsehen (SRF) eine Sendung mit Prof. Dr. Oliver Bendel aus Zürich angekündigt. Es geht darin um „Chancen und Grenzen von Pflege- und Sexrobotern“. „Der Professor für Maschinen- und Roboterethik an der Fachhochschule Nordwestschweiz, Oliver Bendel, erzählt im Gespräch ‚Gast am Mittag‘ um 13 Uhr, warum es Umarmungsroboter braucht, was junge Männer an Sexrobotern, die aussehen wie Feen, anzieht und warum er eine Patientenverfügung zum Einsatz von Therapierobotern erstellt hat. Das Gespräch führt Sandra Schiess.“ (Website SRF) „Gast am Mittag“ mit Prof. Dr. Oliver Bendel läuft am 29. Mai 2023 auf SRF 1. Zusätzlich erscheint an diesem Tag ein Interview mit ihm in schriftlicher Form auf der Website.
Die Shift, eine Tagung zu Fragen von Informations-, Roboter- und KI-Ethik, fand am 20. April 2023 zum fünften Mal statt. Initiatorin und Organisatorin ist Cornelia Diethelm. Moderatorin war wieder Patrizia Laeri. Die Keynote hielt Prof. Dr. Oliver Bendel aus Zürich. Das Video dazu ist am 19. Mai 2023 erschienen. Oliver Bendel ging zunächst auf soziale Roboter ein und auf die Disziplinen Künstliche Intelligenz, Maschinenethik und Maschinelles Bewusstsein. Dann beschrieb er mehrere soziale Roboter, die auch als Serviceroboter im engeren Sinne eingesetzt werden. Auf dieser empirischen Basis stellte er ethische Überlegungen an. Am Ende behandelte er Sprachmodelle wie GPT-3 bzw. GPT-4 und PaLM-E. Er zeigte, wie soziale Roboter und Serviceroboter von diesen profitieren können, in ihrer Sprachfähigkeit und bei ihrer Wahrnehmung der Welt. Auch Ansätze der Maschinenethik waren ein Thema, von der Einpflanzung moralischer Regeln bis hin zur Nutzung von Moralmenüs. Das Video kann hier aufgerufen werden.
Abb.: So stellt sich DALL-E einen humanoiden weiblichen Roboter vor
In der c’t 11/2023 ist der Artikel „Virtuelle Freunde? KI-Chatbots leisten Gesellschaft und wecken einseitige Gefühle“ erschienen. Arne Grävemeyer geht auf fünf Seiten auf das Thema ein. Befragt hat er dazu Prof. Dr. Oliver Bendel. Eine Frage war, ob solche Programme und Figuren – die Emotionen zeigen (ohne sie zu haben) und hervorrufen – sich als solche offenbaren sollten. Seine Antwort: „Aus ethischer Sicht würde ich das fordern. Man sollte wissen, ob man mit Menschen oder Maschinen kommuniziert. Unsere eigenen Emotionen sind ein wertvolles Gut. Wir entwickeln sie fast automatisch, wenn wir auf menschenähnliche Entitäten stoßen. Wir haben aber die Möglichkeit, die Emotionen zu begrenzen, wenn wir wissen, dass es sich um Programme und Maschinen handelt. Dazu gehört, dass wir diese abstellen und nicht ständig an sie denken, wenn sie nicht bei uns sind. Auch unsere Zeit ist ein kostbares Gut. Wir sollten selbst entscheiden, mit wem oder was wir sie verbringen.“ (c’t, 11/2023) Insgesamt wurden schriftlich und telefonisch etliche Fragen gestellt. Einige Antworten sind in den Artikel eingeflossen, der seit 5. Mai 2023 erhältlich ist.
„Manche Menschen gehen bereits romantische Beziehungen mit Chatbots ein. Künstliche Intelligenz simuliert Zuneigung und Trost. Kann man Gefühle einfach so programmieren?“ (Tagesspiegel, 3. Mai 2023) Dies fragt Max Tholl in einem Essay mit dem Titel „Wenn die KI den Partner ersetzt: Können Maschinen uns lieben?“ vom 3. Mai 2023. Zu Wort kommt mehrmals Prof. Dr. Oliver Bendel, der seit einem Vierteljahrhundert über Chatbots, Sprachassistenten und soziale Roboter schreibt und forscht. Er nähert sich dem Gegenstand mit einem Rückblick: „Innige Beziehungen zwischen Menschen und künstlichen Kreaturen haben eine lange Tradition in der Ideengeschichte, sagt der Philosoph und Wirtschaftsinformatiker Oliver Bendel. Sie finden sich schon in den mythologischen Erzählungen von Homer oder Ovid, später dann als Motiv in Science-Fiction-Geschichten.“ (Tagesspiegel, 3. Mai 2023) Der ganze Beitrag ist im Tagesspiegel hinter der Bezahlschranke zu finden und wird auch noch in der gedruckten Ausgabe erscheinen.
Der Senioren Ratgeber (eigene Schreibweise) ist ein Partner der Apotheken Umschau (eigene Schreibweise). Im aktuellen Heft 5/2023 findet sich ein fünfseitiger Artikel mit dem Titel „Hallo, Roboter!“ über Roboter in der Pflege. Er beginnt mit Lio, dem Assistenzroboter von F&P Robotics, der seit Jahren in einer Kleinserie vorliegt und in mehreren Alten- und Pflegeheimen getestet wird. Zu Wort kommt mehrmals Prof. Dr. Oliver Bendel von der Hochschule für Wirtschaft FHNW, der seit 2016 in Kontakt mit dem Unternehmen ist, mit Mitarbeitern ein Paper zu Lio publiziert und zuletzt zusammen mit Marc Heimann ein Moralmodul (CARE-MOMO) entwickelt hat, das Lio erweitern kann. Inzwischen arbeitet das Schweizer Unternehmen mit weiteren Hochschulen wie der Fachhochschule Graubünden und der ETH Zürich zusammen … „Der Senioren Ratgeber begleitet ältere Menschen in ihrem Alltag. Hier finden Sie Tipps rund um Vorsorge, Ernährung, Bewegung, Reise, Partnerschaft und Pflege. Blättern Sie in der aktuellen Ausgabe des Senioren Ratgeber. Das komplette Magazin erhalten Sie in Ihrer Apotheke …“ (Website Senioren Ratgeber) Gemeint ist praktisch jede Apotheke in Deutschland. Eine Leseprobe ist jeweils über www.apotheken-umschau.de/unsere-marken/senioren-ratgeber/ erhältlich.
From March 27-29, 2023, the AAAI 2023 Spring Symposia featured the symposium „Socially Responsible AI for Well-being“ by Takashi Kido (Teikyo University, Japan) and Keiki Takadama (The University of Electro-Communications, Japan). This time the venue was exceptionally not Stanford University, but the Hyatt Regency SFO Airport. On March 28, Prof. Dr. Oliver Bendel presented the paper „Increasing Well-being through Robotic Hugs“, written by himself, Andrea Puljic, Robin Heiz, Furkan Tömen, and Ivan De Paola. The paper has now been published as a preprint and can be downloaded via arxiv.org/abs/2304.14409. From the abstract: „This paper addresses the question of how to increase the acceptability of a robot hug and whether such a hug contributes to well-being. It combines the lead author’s own research with pioneering research by Alexis E. Block and Katherine J. Kuchenbecker. First, the basics of this area are laid out with particular attention to the work of the two scientists. The authors then present HUGGIE Project I, which largely consisted of an online survey with nearly 300 participants, followed by HUGGIE Project II, which involved building a hugging robot and testing it on 136 people. At the end, the results are linked to current research by Block and Kuchenbecker, who have equipped their hugging robot with artificial intelligence to better respond to the needs of subjects.“ More information on the conference via aaai.org/conference/spring-symposia/sss23/.
„Conversational Agents (CAs) sind computerbasierte Dialogsysteme mit natürlichsprachlichen Fähigkeiten. Verwenden beide Seiten die Textform, liegen üblicherweise Chatbots oder Social Bots vor. Manche von diesen besitzen Sprachausgabe, wie Cor@ von der Deutschen Bank um die Jahrtausendwende. Nutzen beide Seiten gesprochene Sprache, handelt es sich üblicherweise um Sprachassistenten (auch Voice Assistants oder Voicebots genannt), die auf Smartphones, in Smartspeakers oder in Anwendungen des Smart Home vorkommen. Bekannte Beispiele sind Google Assistant, Siri und Alexa. Chatbots und Sprachassistenten kann man wiederum mit Avataren ergänzen oder in soziale Roboter wie Pepper oder NAO bzw. in Serviceroboter oder Industrieroboter integrieren …“ Mit diesen Worten beginnt ein neuer Beitrag im Gabler Wirtschaftslexikon von Prof. Dr. Oliver Bendel aus Zürich. In einem zweiten Abschnitt wird auf Entwicklung und Merkmale eingegangen, in einem dritten die ethische Perspektive eingenommen. Der Beitrag ist am 18. April 2023 erschienen und kann über wirtschaftslexikon.gabler.de/definition/conversational-agent-125248 aufgerufen werden.
Das New York City Police Department (NYPD) sieht Serviceroboter „für Straßenpatrouillen und Überwachung“ (Golem, 14. April 203) vor. „Neben dem Roboterhund Spot soll künftig zusätzlich ein eigenständiges Modell vom Typ Knightscope K5 eingesetzt werden.“ (Golem, 14. April 203) Dies schreibt Oliver Nickel am 14. April 2023 in Golem unter Berufung auf Aussagen des New Yorker Bürgermeisters Eric Adams bei einer Pressekonferenz. Prof. Dr. Oliver Bendel thematisiert sowohl Spot als auch K5 in seinem Paper „Robots in Policing“, das in den Proceedings „Social Robots in Social Institutions“ der Robophilosophy 2022 erschienen ist. Mit Sicherheits- und Überwachungsrobotern wie dem K5 beschäftigt sich der Technikphilosoph aus Zürich seit Jahren. In dem Artikel „Mehr Unsicherheit mit Sicherheitsrobotern?“, erschienen 2016 in der Zeitschrift SicherheitsForum, nahm er u.a. die ethische Perspektive ein. Bereits ein paar Monate vorher wurde der Beitrag „Blechpolizisten mit Elektroschockern: Beobachtungen zu Überwachungsrobotern“ in Inside IT veröffentlicht. Ohne Zweifel nimmt das Thema in diesen Tagen erheblich an Fahrt auf, wegen der Einsätze in den USA, aber auch der Pläne in Deutschland – das Innovation Lab der Polizei Nordrhein-Westfalen in Duisburg testet derzeit Modelle wie Spot.
The ACI took place from 5 to 8 December 2022 in Newcastle upon Tyne. It is the world’s leading conference on animal-computer interaction. The proceedings were published in the ACM Library on March 30, 2023. They include the paper „A Face Recognition System for Bears: Protection for Animals and Humans in the Alps“ by Oliver Bendel and Ali Yürekkirmaz. From the abstract: „Face recognition, in the sense of identifying people, is controversial from a legal, social, and ethical perspective. In particular, opposition has been expressed to its use in public spaces for mass surveillance purposes. Face recognition in animals, by contrast, seems to be uncontroversial from a social and ethical point of view and could even have potential for animal welfare and protection. This paper explores how face recognition for bears (understood here as brown bears) in the Alps could be implemented within a system that would help animals as well as humans. It sets out the advantages and disadvantages of wildlife cameras, ground robots, and camera drones that would be linked to artificial intelligence. Based on this, the authors make a proposal for deployment. They favour a three-stage plan that first deploys fixed cameras and then incorporates camera drones and ground robots. These are all connected to a control centre that assesses images and developments and intervenes as needed. The paper then discusses social and ethical, technical and scientific, and economic and structural perspectives. In conclusion, it considers what could happen in the future in this context.“ The proceedings can be accessed via dl.acm.org/doi/proceedings/10.1145/3565995.
From March 27-29, 2023, the AAAI 2023 Spring Symposia will feature the symposium „Socially Responsible AI for Well-being“ by Takashi Kido and Keiki Takadama. The venue is usually Stanford University. For staffing reasons, this year the conference will be held at the Hyatt Regency in San Francisco. On March 28, Prof. Dr. Oliver Bendel will present the paper „Increasing Well-being through Robotic Hugs“. It was written by himself, Andrea Puljic, Robin Heiz, Furkan Tömen, and Ivan De Paola. From the abstract: „This paper addresses the question of how to increase the acceptability of a robot hug and whether such a hug contributes to well-being. It combines the lead author’s own research with pioneering research by Alexis E. Block and Katherine J. Kuchenbecker. First, the basics of this area are laid out with particular attention to the work of the two scientists. The authors then present HUGGIE Project I, which largely consisted of an online survey with nearly 300 participants, followed by HUGGIE Project II, which involved building a hugging robot and testing it on 136 people. At the end, the results are linked to current research by Block and Kuchenbecker, who have equipped their hugging robot with artificial intelligence to better respond to the needs of subjects.“ More information via aaai.org/conference/spring-symposia/sss23/.
Der Maschinenethik sind in der Technischen Rundschau 3/2023 ganze vier Seiten gewidmet. Den Kern bilden ein Beitrag von Prof. Dr. Oliver Bendel und ein Interview mit ihm. Der Informations- und Maschinenethiker hatte sich in den 1990er-Jahren mit der Frage nach der Verantwortung von Maschinen beschäftigt und war zum Schluss gekommen, dass diese weder Verantwortung tragen noch zur Verantwortung gezogen werden können. Zudem interessierte er sich dafür, ob Maschinen Pflichten haben können, was er verneint – stattdessen spricht er in einem schwachen Sinne von Verpflichtungen oder von Aufgaben. Ab 2012 widmete er sich dann der Begründung einer funktionalen Moral von Maschinen. Maschinen können nach seiner Meinung keinen guten oder bösen Willen haben, kein Bewusstsein, keine Intuition und keine Empathie. Man kann ihnen aber moralische Regeln beibringen, an die sie sich strikt halten oder die sie selbst abändern und anpassen. Ab 2013 wurden von ihm zahlreiche Prototypen der Maschinenethik entwickelt. Die Disziplin hat auch im Zusammenhang mit generativer KI an Bedeutung gewonnen. Das E-Paper des Hefts kann über epaper.technische-rundschau.ch/?/shelf/ aufgerufen werden. Der Beitrag steht als PDF zur Verfügung.
Abb.: Maschinen haben keinen guten oder bösen Willen
Alpha Mini ist ein sozialer Roboter, der sich durch geringe Größe (und damit gute Transportfähigkeit) und weitgehende natürlichsprachliche und motorische Fähigkeiten auszeichnet. Er kann im Schulunterricht eingesetzt werden, sowohl als Lehrer und Tutor als auch als Tool, mit dem man programmiert. Am 8. März 2023 startete an der Hochschule für Wirtschaft FHNW das Projekt „Little Teacher“, in dem Alpha Mini eine Hauptrolle spielt. Initiator ist Prof. Dr. Oliver Bendel, der seit einem Vierteljahrhundert über Conversational Agents und soziale Roboter forscht. Andrin Allemann trägt im Rahmen seiner Abschlussarbeit zum Projekt bei. Alpha Mini soll in eine Lernumgebung integriert werden und mit anderen Komponenten wie einem Display interagieren und kommunizieren können. Er soll mit Hilfe von Bildern und Texten einfachen Lernstoff vermitteln und die Kinder durch gestisches und mimisches Feedback motivieren. Es handelt sich also um einen kleinen Lehrer mit großen Möglichkeiten. Grundsätzlich soll er sich an das neue schweizerische Bundesgesetz über den Datenschutz (Neues Datenschutzgesetz, nDSG) halten. Das Projekt dauert bis August 2023. Die Ergebnisse werden im Anschluss daran veröffentlicht.
„Schönheit (engl. ‚beauty‘) im allgemeinen Sinne ist eine visuelle, akustische, haptische oder ideelle Kategorie, die etwa das Schönsein des Himmels am Tag und in der Nacht, der Natur, eines Körpers, eines Gesichts, eines Gegenstands, eines Kunstwerks oder einer Formel umfasst.“ Mit diesen Worten beginnt ein neuer Beitrag im Gabler Wirtschaftslexikon von Oliver Bendel. Mehrere Abschnitte widmen sich der Schönheit aus Sicht der Philosophie und anderer Disziplinen und dem Zusammenhang zwischen Kunst und Schönheit. Auch auf Wirtschaft und Schönheit wird eingegangen. So heißt es etwa mit Blick auf die Technik: „Cyborgs gefallen sich mit äußerlich sichtbaren technischen Strukturen. Humanoide und soziale Roboter überzeugen auf den ersten Blick mit ihrer künstlichen Schönheit, wobei bei Androiden das Uncanny Valley im Wege ist, das unheimliche Tal. So wirken Sophia, Harmony und Erica trotz oder gerade wegen ihrer perfekten Gesichter unheimlich, wenn sie lächeln. Avatare und (Pseudo-)Hologramme können fotorealistisch und hochattraktiv sein.“ Im letzten Abschnitt wird wiederholt die Perspektive der Ethik eingenommen. Der Beitrag ist am 22. Februar 2023 erschienen und kann über wirtschaftslexikon.gabler.de/definition/schoenheit-124971 aufgerufen werden.
