Von Lio erfahren hat Prof. Dr. Oliver Bendel kurz nach der „Geburt“ des Assistenzroboters für die Pflege. Ende 2016 nahm er Kontakt mit Michael Früh auf, dem späteren CEO des Herstellers F&P Robotics, und lud ihn im Auftrag der Daimler und Benz Stiftung zum Ladenburger Diskurs 2017 zu Pflegerobotern ein. Aus diesem ging das Buch „Pflegeroboter“ hervor, das ein Bestseller wurde. Auch Lio ist darin ein Beitrag gewidmet. 2019 war F&P Robotics zu Gast beim Berliner Kolloquium zu Pflegerobotern, das ebenfalls von Oliver Bendel im Auftrag der Stiftung ausgerichtet wurde. Mit Alina Gasser und Joel Siebenmann von F&P Robotics verfasste der Wirtschaftsinformatiker und Technikphilosoph das Paper „Co-Robots as Care Robots“ … Es wurde beim AAAI 2020 Spring Symposium „Applied AI in Healthcare: Safety, Community, and the Environment“ angenommen und dort vorgestellt. 2022 entwickelte Marc Heimann nach den Ideen von Oliver Bendel ein Moralmodul für den Roboter, das von dem Unternehmen wohlwollend aufgenommen wurde. Der Patient kann mit Hilfe eines Moralmenüs seine moralischen und sozialen Vorstellungen in einfacher Weise auf die Maschine übertragen. Am 6. Oktober 2023 erschien im Bref-Magazin eine Reportage mit dem Titel „Roboter für das Volk“ zu Lio, in der auch Oliver Bendel zu Wort kommt. Sie kann hier aufgerufen werden.
Abb.: Roboter können Pflegekräfte unterstützen (Bild: Ideogram)
The Copernicus Science Centre’s exhibition „The Future is Now“ helps to face and understand the challenges of today’s world in all its complexity. „It shows different technological solutions and encourages to look at them in a critical way. It also takes notice of the relationships between our personal values and the values of others.“ (CSC website) The exhibition is divided into three parts. Two of them can already be visited: „Digital Brain?“ and „Mission: Earth“. The last part („Human 2.0“) is scheduled to open on 15 October 2024. Part of the „Digital Brain“ („#Relationships“) is BABYCLON, a robotic baby. A photo can be accessed here. According to the organizers, this will allow visitors to test the uncanny valley effect on themselves. „Are we ready to meet our machine lookalikes? Not really. It turns out that the more indistinguishable from humans a robot is, the weirder feelings it evokes. See for yourself if the ‚uncanny valley‘ effect works on you.“ (CSC website) This is not exactly what the uncanny valley thesis means. It is about very high expectations of very human-like robots, which are then disappointed by, for example, Sophie’s weird smile or BABYCLON’s strange behavior. More information at www.kopernik.org.pl/en/education-and-information-campaigns/exhibition-future-today.
Den „F.A.Z. Podcast für Deutschland“ gibt es an jedem Werktag auf die Ohren. Redakteure und Moderatoren sind Corinna Budras, Livia Gerster, Felix Hoffmann, Kathrin Jakob, Sandra Klüber, Andreas Krobok, Kati Schneider, Simon Strauß und Theresa Weiß. Am 19. September 2023 sprach Simon Strauß mit Prof. Dr. Oliver Bendel über Liebespuppen und Sexroboter. Der Wirtschaftsinformatiker und Technikphilosoph ging dabei auf neuere Entwicklungen ein, nicht nur in technischer, sondern auch in wirtschaftlicher Hinsicht. Denn nach seiner Beobachtung ist der Markt für Liebespuppen und Sexroboter durchaus nicht gesichert. Das BordDoll in Dortmund hat gerade seine Pforten geschlossen, angeblich wegen Personalmangels – denn die Puppenkörper müssen gut gereinigt und sicher verstaut werden. Vielleicht aber auch, weil die Nachfrage nach sechs Jahren gesunken ist. Auf den Seiten des führenden Anbieters für Sexroboter – RealDoll, Realbotix und Abyss Creations sind im Grunde eine Firma – muss man Harmony regelrecht suchen. Realbotix hat gar Denise in den Vordergrund gestellt, eine recht bieder wirkende Roboterfrau, die Besucher eher an der Rezeption eines Hotels als auf der Matratze eines Bordells empfangen soll. Deutlich wurde der Wirtschaftsinformatiker und Technikphilosoph in Bezug auf Kinderpuppen: Diese dürfen seiner Ansicht nach höchstens im Rahmen einer Therapie eingesetzt werden und nicht frei erhältlich und nutzbar sein. Es brauche empirische Forschung in diesem Bereich, die aber kaum stattfinde. Der Podcast „Sex mit Robotern: Wie KI unser Liebesleben revolutioniert“ steht über www.faz.net/podcasts/f-a-z-podcast-fuer-deutschland/sex-mit-robotern-wie-ki-unser-liebesleben-revolutioniert-19185247.html zur Verfügung.
Abb.: Wie KI unser Liebesleben revolutioniert (Bild: Ideogram)
Das neue Philosophie Magazin (Oktober/November 2023) wartet mit dem Dossier „Macht künstliche Intelligenz uns freier?“ auf. Dominik Erhard schreibt über „das neue Feuer“. Künstliche Intelligenz rufe oft zwei grundsätzlich unterschiedliche Reaktionen hervor. Die Schriftstellerin Meghan O’Gieblyn wird im Artikel von Stefania Gherca mit dem Satz „KI ist unser kollektives Unbewusstes“ zitiert. Künstliche Intelligenz boome in Industrie und Forschung, bestimme immer mehr unseren Alltag und stelle unser menschliches Selbstverständnis als Krone der Schöpfung infrage. Antonia Siebeck hat für „Küss mich, KI!“ den Technikphilosophen Oliver Bendel befragt. Im Teaser heißt es: „Der Fortschritt der Technik lässt unsere Beziehungen nicht unberührt: Sexroboter offerieren neue Formen der Befriedigung …“ (Philosophie Magazin, Oktober/November 2023). Der Germanist und Philosoph Richard David Precht fragt mit Blick auf KI: „Das Ende der Mühsal?“ Im Teaser heißt es: „Künstliche Intelligenz steigert alte Ängste: Uns geht die Arbeit aus! Die Maschinen werden uns beherrschen! Dabei liegt in der technischen Entwicklung eine Chance, die schon Karl Marx formulierte. Um sie zu nutzen, müssten wir die Gesellschaft neu denken.“ (Philosophie Magazin, Oktober/November 2023) Frederike Kaltheuner und Friedrich Weißbach beschäftigen sich in „Intelligent töten?“ mit KI in der militärischen Praxis. Weitere Informationen über www.philomag.de.
Am 31. August 2023 fand im „Careum Auditorium“ in Zürich die Innocare 2023 statt. Bei dem Event zu Pflegerobotern sprachen Prof. Dr. Oliver Bendel, Sylvia Stocker, Alexander Pröll, Prof. Dr. David Matusiewicz, Beat Sommerhalder und Sari Wettstein. Partner der Veranstaltung waren United Robotics Group (URG), Arabesque, Achermann und HPE Aruba Networks. Die Vorträge wurden von zwei Avataren angekündigt. Ein Pepper-Roboter von Arabesque assistierte auf der Bühne und begann mit dem einen oder anderen Referenten ein Gespräch. So fragte er Oliver Bendel, ob er Gefühle für ihn habe. Der Informations- und Maschinenethiker betonte, dass Pepper selbst keine Gefühle habe (sondern nur zeige), der Roboter aber natürlich sein Herz höher schlagen lasse. In den Pausen konnten die ca. 100 Besucher mit zwei weiteren Pepper-Modellen von URG, zwei Plato-Modellen von URG und einem Temi von Arabesque interagieren und kommunizieren. Plato wurde zunächst als Alternative zu Transport- und Servierrobotern wie BellaBot lanciert, ist inzwischen aber auch in Pflegeheimen und Krankenhäusern zu finden. Er bringt verlässlich Abfall und Getränke von A nach B. Für heikle Transporte kann man auch geschlossene Systeme wie Relay von Savioke heranziehen. Plato gehört zu den Servicerobotern, die soziale Merkmale und Fähigkeiten erhalten haben – ein Trend, den Oliver Bendel immer wieder beschreibt. Weitere Informationen über inno-care.ch.
In der FAZ vom 29. August 2023 ist Melanie Mühl im Gespräch mit Prof. Dr. Oliver Bendel. Auf einer knappen Seite, die im Feuilleton untergebracht ist, geht es um Chatbots, Sprachassistenten und soziale Roboter. Es geht um die Beziehungen mit ihnen, die immer einseitig bleiben, um Täuschung und Betrug, aber auch um die Freude, die man mit Artefakten haben kann. Natürlich dürfen Sprachmodelle wie GPT nicht fehlen, und mit Blick auf Sexroboter stellt Oliver Bendel fest, dass jene zu prüde für Dirty Talk sind. Man muss sie mit speziellem Material trainieren, um sie für dieses Geschäftsfeld zu erschließen. Und genau das machen Unternehmen wie RealDoll bzw. Realbotix seit Jahren. Wer 10.000 Dollar und mehr für Harmony ausgibt, will eben nicht nur Sex mit ihr haben, sondern auch eine (wie auch immer geartete) Beziehung mit ihr führen, und dafür braucht es Sprache. Der Artikel „Für DirtyTalk ist GPT zu prüde“ ist in der Printausgabe erschienen. Zudem steht der Artikel in der Onlineausgabe mit abweichendem Bildmaterial zur Verfügung.
Abb.: So stellt sich Ideogram eine Roboterfrau vor
Am 31. August 2023 findet in Zürich die Innocare 2023 statt. Bei dem Event zu Pflegerobotern sprechen Prof. Dr. Oliver Bendel, Sylvia Stocker, Alexander Pröll, Prof. Dr. David Matusiewicz, Beat Sommerhalder und Sari Wettstein. Partner der Veranstaltung sind United Robotics Group, Arabesque, Achermann und HPE Aruba Networks. Prof. Dr. Oliver Bendel geht in seiner 20-minütigen Eröffnungsrede auf Pflegeroboter aus Sicht von Informations- und Maschinenethik ein. Es werden die Ziele, Aufgaben und Merkmale von Pflegerobotern geklärt und Beispiele vorgestellt. Auf dieser Grundlage werden Überlegungen aus der Perspektive der Ethik angestellt. Am Ende soll deutlich werden, welche Robotertypen und Prototypen bzw. Produkte es gibt, welche Zwecke sie erfüllen, welche Funktionen sie übernehmen und welche Implikationen und Konsequenzen dies für den Einzelnen und die Gesellschaft hat. Pflegeroboter mögen zur persönlichen Autonomie beitragen und zugleich die informationelle Autonomie schwächen. Es ist wichtig, Serviceroboter und soziale Roboter im Gesundheitsbereich so zu gestalten, dass sie möglichst allen Anforderungen und Bedürfnissen gerecht werden und nützliche Werkzeuge für Pflegekräfte und Pflegebedürftige sind. Die Anmeldung erfolgt über inno-care.ch.
Mit Liebespuppen und Sexrobotern beschäftigt sich Prof. Dr. Oliver Bendel seit 2013, beginnend mit dem Fachartikel „Dr. Robot entdeckt die Moral“, veröffentlicht in IT for Health. 2015 stellte er in seinem Beitrag „Surgical, Therapeutic, Nursing and Sex Robots in Machine and Information Ethics“ für das Buch „Machine Medical Ethics“ (Springer) die Lustmaschinen in eine Reihe mit anderen Robotern aus dem Gesundheitsbereich und betrachtete sie aus ethischer Sicht. Es folgten weitere Artikel und Buchbeiträge und 2020 das vielbeachtete Buch „Maschinenliebe“ (Springer Gabler). Zuletzt erschien „Sexroboter als soziale Roboter für unterschiedliche Bedürfnisse und Anliegen“ im Herausgeberband „Faktor Mensch“ (Springer Vieweg). Christoph Holz, ein Podcaster, unterhielt sich mit dem Informations- und Maschinenethiker über verschiedene Themen in den Bereichen Soziale Robotik, Künstliche Intelligenz und Ethik. Die erste Folge „Maschinenliebe aus philosophischer Sicht“ wurde am 19. Juli 2023 veröffentlicht. Sie kann über Spotify abgerufen werden.
Am 14. Juli 2023 war die Abschlusspräsentation des Projekts „Little Teacher“, in dem Alpha Mini eine Hauptrolle spielt. Initiator war Prof. Dr. Oliver Bendel, der seit einem Vierteljahrhundert über Conversational Agents und soziale Roboter forscht. Andrin Allemann trug im Rahmen seiner Abschlussarbeit zum Projekt bei und hat die Implementierung durchgeführt. Alpha Mini ist in dieser Anwendung für die Schule oder das Lernen im Kinderzimmer gedacht. Er wurde mit einem Tablet bzw. Laptop (einem Microsoft Surface) verbunden. Er kann mit Hilfe von Bildern und Texten auf dem Display einfachen Lernstoff zu Geografie und Biologie vermitteln und die Kinder durch verbales, gestisches und mimisches Feedback motivieren. Es handelt sich also um einen kleinen Lehrer mit großen Möglichkeiten. Alpha Mini ist ein sozialer Roboter, der sich durch geringe Größe (und damit gute Transportfähigkeit) und weitgehende natürlichsprachliche und motorische Fähigkeiten auszeichnet. Er ist wesentlich günstiger als andere humanoide Roboter mit vergleichbaren Möglichkeiten. Allerdings hat er anders als Pepper kein integriertes Tablet. Im Projekt konnte gezeigt werden, dass eine Verbindung zwischen verschiedenen Komponenten einer Lernumgebung möglich ist und man damit Lernerfolg und Lernfreude unterstützen kann. Das Projekt war am 8. März 2023 gestartet. Projektabschluss ist am 11. August 2023. Bis dahin werden noch kleinere Fehler behoben und mehrere Tests durchgeführt. Die Ergebnisse werden in einem Paper veröffentlicht.
Der Beitrag zum Thema „Darf man Maschinen wehtun?“ läuft am 15. Juni 2023 ab 19.05 Uhr bei Deutschlandfunk Kultur. Für das Hintergrundgespräch stand Prof. Dr. Oliver Bendel zur Verfügung. Er wird auch zweimal in dem Beitrag zitiert. Der Technikphilosoph streicht gerne heraus, dass KI-Systeme und Roboter Meister im Simulieren sind. Sie simulieren Intelligenz, Moral und Bewusstsein. Zugleich ist ihm wichtig, auf den tiefen Graben zwischen Menschen und Maschinen hinzuweisen. Er besteht darin, dass diese nicht empfinden und leiden können, dass sie keine echte Moral (zu der ein freier Willen gehört) und kein echtes Bewusstsein (zu dem eine Haltung zur Welt oder zum Ich gehört, die oft mit Überraschung, Freude und Angst einhergeht) haben. Da sie nicht empfinden und leiden können, kann man ihnen nicht wehtun. Und man darf ihnen auch in einem bestimmten Sinne wehtun, d.h. man kann mit ihnen im Prinzip machen, was man will, ohne Rücksicht auf sie als moralische Objekte (die sie nicht sind). Moralische Objekte können natürlich die Besitzer oder Benutzer der KI-Systeme und Roboter sein. Deshalb sollte man nicht unbedingt einen sozialen Roboter vor den Augen seines Besitzers oder Benutzers zerlegen, so wenig wie man einen Teddybären vor den Augen des Jungen oder Mädchens zerlegen sollte, dessen Spielkamerad er ist. Oliver Bendel ist wichtig, dass Maschinen keine Rechte haben können, auch keine Würde. Werte kann man ihnen zuschreiben. Schon Pflanzen sind Maschinen in dieser Hinsicht voraus. Die Bundesverfassung der Schweiz „verlangt, im Umgang mit Tieren, Pflanzen und anderen Organismen der Würde der Kreatur Rechnung zu tragen“ (Website BAFU). Der Technikphilosoph hält diese Verfassungsnorm für einen rechtlichen und zivilisatorischen Fortschritt. Er ist dafür, sich weiter für Pflanzen und Tiere einzusetzen, nicht für Maschinen, so sehr er sich mit diesen verbunden fühlt. Das Programm des Senders kann über www.deutschlandfunkkultur.de/programm aufgerufen werden.
Abb.: Ein von DALL-E erstelltes Bild eines Roboters
„In seiner Arbeit beschäftigt er sich mit dem Zusammenleben von sozialen Robotern mit Menschen und mit dem Potenzial von künstlicher Intelligenz. Auf seinem Gebiet ist er eine Autorität.“ (Website SRF) Mit diesen Worten wird vom Schweizer Radio und Fernsehen (SRF) eine Sendung mit Prof. Dr. Oliver Bendel aus Zürich angekündigt. Es geht darin um „Chancen und Grenzen von Pflege- und Sexrobotern“. „Der Professor für Maschinen- und Roboterethik an der Fachhochschule Nordwestschweiz, Oliver Bendel, erzählt im Gespräch ‚Gast am Mittag‘ um 13 Uhr, warum es Umarmungsroboter braucht, was junge Männer an Sexrobotern, die aussehen wie Feen, anzieht und warum er eine Patientenverfügung zum Einsatz von Therapierobotern erstellt hat. Das Gespräch führt Sandra Schiess.“ (Website SRF) „Gast am Mittag“ mit Prof. Dr. Oliver Bendel läuft am 29. Mai 2023 auf SRF 1. Zusätzlich erscheint an diesem Tag ein Interview mit ihm in schriftlicher Form auf der Website.
Die Shift, eine Tagung zu Fragen von Informations-, Roboter- und KI-Ethik, fand am 20. April 2023 zum fünften Mal statt. Initiatorin und Organisatorin ist Cornelia Diethelm. Moderatorin war wieder Patrizia Laeri. Die Keynote hielt Prof. Dr. Oliver Bendel aus Zürich. Das Video dazu ist am 19. Mai 2023 erschienen. Oliver Bendel ging zunächst auf soziale Roboter ein und auf die Disziplinen Künstliche Intelligenz, Maschinenethik und Maschinelles Bewusstsein. Dann beschrieb er mehrere soziale Roboter, die auch als Serviceroboter im engeren Sinne eingesetzt werden. Auf dieser empirischen Basis stellte er ethische Überlegungen an. Am Ende behandelte er Sprachmodelle wie GPT-3 bzw. GPT-4 und PaLM-E. Er zeigte, wie soziale Roboter und Serviceroboter von diesen profitieren können, in ihrer Sprachfähigkeit und bei ihrer Wahrnehmung der Welt. Auch Ansätze der Maschinenethik waren ein Thema, von der Einpflanzung moralischer Regeln bis hin zur Nutzung von Moralmenüs. Das Video kann hier aufgerufen werden.
Abb.: So stellt sich DALL-E einen humanoiden weiblichen Roboter vor
In der c’t 11/2023 ist der Artikel „Virtuelle Freunde? KI-Chatbots leisten Gesellschaft und wecken einseitige Gefühle“ erschienen. Arne Grävemeyer geht auf fünf Seiten auf das Thema ein. Befragt hat er dazu Prof. Dr. Oliver Bendel. Eine Frage war, ob solche Programme und Figuren – die Emotionen zeigen (ohne sie zu haben) und hervorrufen – sich als solche offenbaren sollten. Seine Antwort: „Aus ethischer Sicht würde ich das fordern. Man sollte wissen, ob man mit Menschen oder Maschinen kommuniziert. Unsere eigenen Emotionen sind ein wertvolles Gut. Wir entwickeln sie fast automatisch, wenn wir auf menschenähnliche Entitäten stoßen. Wir haben aber die Möglichkeit, die Emotionen zu begrenzen, wenn wir wissen, dass es sich um Programme und Maschinen handelt. Dazu gehört, dass wir diese abstellen und nicht ständig an sie denken, wenn sie nicht bei uns sind. Auch unsere Zeit ist ein kostbares Gut. Wir sollten selbst entscheiden, mit wem oder was wir sie verbringen.“ (c’t, 11/2023) Insgesamt wurden schriftlich und telefonisch etliche Fragen gestellt. Einige Antworten sind in den Artikel eingeflossen, der seit 5. Mai 2023 erhältlich ist.
„Manche Menschen gehen bereits romantische Beziehungen mit Chatbots ein. Künstliche Intelligenz simuliert Zuneigung und Trost. Kann man Gefühle einfach so programmieren?“ (Tagesspiegel, 3. Mai 2023) Dies fragt Max Tholl in einem Essay mit dem Titel „Wenn die KI den Partner ersetzt: Können Maschinen uns lieben?“ vom 3. Mai 2023. Zu Wort kommt mehrmals Prof. Dr. Oliver Bendel, der seit einem Vierteljahrhundert über Chatbots, Sprachassistenten und soziale Roboter schreibt und forscht. Er nähert sich dem Gegenstand mit einem Rückblick: „Innige Beziehungen zwischen Menschen und künstlichen Kreaturen haben eine lange Tradition in der Ideengeschichte, sagt der Philosoph und Wirtschaftsinformatiker Oliver Bendel. Sie finden sich schon in den mythologischen Erzählungen von Homer oder Ovid, später dann als Motiv in Science-Fiction-Geschichten.“ (Tagesspiegel, 3. Mai 2023) Der ganze Beitrag ist im Tagesspiegel hinter der Bezahlschranke zu finden und wird auch noch in der gedruckten Ausgabe erscheinen.
Der Senioren Ratgeber (eigene Schreibweise) ist ein Partner der Apotheken Umschau (eigene Schreibweise). Im aktuellen Heft 5/2023 findet sich ein fünfseitiger Artikel mit dem Titel „Hallo, Roboter!“ über Roboter in der Pflege. Er beginnt mit Lio, dem Assistenzroboter von F&P Robotics, der seit Jahren in einer Kleinserie vorliegt und in mehreren Alten- und Pflegeheimen getestet wird. Zu Wort kommt mehrmals Prof. Dr. Oliver Bendel von der Hochschule für Wirtschaft FHNW, der seit 2016 in Kontakt mit dem Unternehmen ist, mit Mitarbeitern ein Paper zu Lio publiziert und zuletzt zusammen mit Marc Heimann ein Moralmodul (CARE-MOMO) entwickelt hat, das Lio erweitern kann. Inzwischen arbeitet das Schweizer Unternehmen mit weiteren Hochschulen wie der Fachhochschule Graubünden und der ETH Zürich zusammen … „Der Senioren Ratgeber begleitet ältere Menschen in ihrem Alltag. Hier finden Sie Tipps rund um Vorsorge, Ernährung, Bewegung, Reise, Partnerschaft und Pflege. Blättern Sie in der aktuellen Ausgabe des Senioren Ratgeber. Das komplette Magazin erhalten Sie in Ihrer Apotheke …“ (Website Senioren Ratgeber) Gemeint ist praktisch jede Apotheke in Deutschland. Eine Leseprobe ist jeweils über www.apotheken-umschau.de/unsere-marken/senioren-ratgeber/ erhältlich.
From March 27-29, 2023, the AAAI 2023 Spring Symposia featured the symposium „Socially Responsible AI for Well-being“ by Takashi Kido (Teikyo University, Japan) and Keiki Takadama (The University of Electro-Communications, Japan). This time the venue was exceptionally not Stanford University, but the Hyatt Regency SFO Airport. On March 28, Prof. Dr. Oliver Bendel presented the paper „Increasing Well-being through Robotic Hugs“, written by himself, Andrea Puljic, Robin Heiz, Furkan Tömen, and Ivan De Paola. The paper has now been published as a preprint and can be downloaded via arxiv.org/abs/2304.14409. From the abstract: „This paper addresses the question of how to increase the acceptability of a robot hug and whether such a hug contributes to well-being. It combines the lead author’s own research with pioneering research by Alexis E. Block and Katherine J. Kuchenbecker. First, the basics of this area are laid out with particular attention to the work of the two scientists. The authors then present HUGGIE Project I, which largely consisted of an online survey with nearly 300 participants, followed by HUGGIE Project II, which involved building a hugging robot and testing it on 136 people. At the end, the results are linked to current research by Block and Kuchenbecker, who have equipped their hugging robot with artificial intelligence to better respond to the needs of subjects.“ More information on the conference via aaai.org/conference/spring-symposia/sss23/.
