SPACE THEA was developd by Martin Spathelf at the School of Business FHNW from April to August 2021. The client and supervisor was Prof. Dr. Oliver Bendel. The voice assistant is supposed to show empathy and emotions towards astronauts on a Mars flight. Technically, it is based on Google Assistant and Dialogflow. The programmer chose a female voice with Canadian English. SPACE THEA’s personality includes functional and emotional intelligence, honesty, and creativity. She follows a moral principle: to maximize the benefit of the passengers of the spacecraft. The prototype was implemented for the following scenarios: conduct general conversations; help the user find a light switch; assist the astronaut when a thruster fails; greet and cheer up in the morning; fend off an insult for no reason; stand by a lonely astronaut; learn about the voice assistant. A video on the latter scenario is available here. Oliver Bendel has been researching conversational agents for 20 years. With his teams, he has developed 20 concepts and artifacts of machine ethics and social robotics since 2012.
The AAAI Spring Symposia at Stanford University are among the AI community’s most important get-togethers, especially for its experimental division. The years 2016, 2017, and 2018 were memorable highlights for machine ethics, robot ethics, ethics by design, and AI ethics, with the symposia „Ethical and Moral Considerations in Non-Human Agents“ (2016), „Artificial Intelligence for the Social Good“ (2017), and „AI and Society: Ethics, Safety and Trustworthiness in Intelligent Agents“ (2018) … As of 2019, the proceedings are no longer provided directly by the Association for the Advancement of Artificial Intelligence, but by the organizers of each symposium. Since summer 2021, the entire conference volume of 2018 is available free of charge. It includes contributions by Philip C. Jackson, Mark R. Waser, Barry M. Horowitz, John Licato, Stefania Costantini, Biplav Srivastava, and Oliver Bendel, among many others. It can be found via aaai.org/proceeding/01-spring-2018/.
Fig.: Animal-friendly robot cars were a topic in 2016
Im Buch „Maschinenliebe“ (Hrsg. Oliver Bendel) ist auch einer der führenden Sexualwissenschaftler im deutschsprachigen Raum vertreten. Der Beitrag von Heinz-Jürgen Voß trägt den Titel „Sexpuppen und Sexroboter aus sexualwissenschaftlicher Perspektive“. Nach seiner Ansicht haben Sexualwissenschaftlerinnen und Sexualwissenschaftler, bei „aller empirischen Orientiertheit“, „eine Idee davon, wie eine sexuelle Zukunft aussehen könnte“. „Auch der Autor möchte sich in diesem Aufsatz daran versuchen: Im Anschluss an eine Darstellung der Entwicklungen der letzten Jahrzehnte, die viel Bewegung und gleichzeitig viel Erstarrung ins Sexuelle gebracht haben, wagt er einen Ausblick, was die mittlerweile nicht mehr ganz so neuen ‚neuen Technologien‘ in ihrer Fortentwicklung bedeuten können – und ordnet von hier aus Sexpuppen und Sexroboter ein.“ (Abstract) Der Herausgeberband, über den u.a. BILD, ZDF, Deutschlandfunk und Psychologie Heute berichtet haben, ist im Oktober 2020 bei Springer Gabler erschienen und kann über www.springer.com/de/book/9783658298630 bezogen werden.
On July 22, 2021, Prof. Dr. Oliver Bendel, as client, submitted a project to the School of Business FHNW, entitled „CARE-MOMO: A Morality Module for a Care Robot“. There are more and more robots being used in nursing and care. Most of them are prototypes, some – like Lio and P-Care from F&P Robotics – are products that are manufactured in small series. Machine ethics researches and creates moral machines. These are often guided by certain values or meta-rules, they follow predetermined rules, or they learn from situations and adapt their behavior. Michael Anderson and Susan L. Anderson presented their value-driven eldercare robot at the 2019 Berlin Colloquium by invitation of Oliver Bendel. He and his teams have created 16 concepts and implementations of moral machines and social robots over the past decade. He has been researching systems and robots in the healthcare sector for just as long. The CARE-MOMO is a morality module for a robot in the manner of Lio. The idea is that the robot acquires clearly delimited moral abilities in addition to its usual abilities. The focus is to have it perform an act or speech act with high reliability based on a moral assumption or reasoning, with a clearly identifiable benefit to the caregiver or the care recipient. The result is a morality module that can in principle be used by a robot like Lio. In August 2021, it will be decided whether the project can be implemented in this form.
Die Stiftung FHNW fördert seit Juni 2021 das Projekt „RoSA – Roboter in der Sozialen Arbeit“. Auf ihrer Website meldet sie: „Erstmals soll ein Roboter einen Mehrwert für die ambulante Suchtberatung erbringen und damit eine Verbesserung für die Lebenssituation von Klientinnen und Klienten mit sich bringen. Die Resultate dienen als Basis für eine Folgestudie. Sollte sich der Einsatz von sozialen Robotern in diesem Handlungsfeld bewähren, könnte dies einen Wendepunkt für die ambulante Beratung in der Sozialen Arbeit bedeuten.“ (Website Stiftung FHNW) Die Wahl des Projektteams fiel auf QTrobot, einen sozialen Roboter von LuxAI. Dieser wird eigens für die Studie beschafft. Projektleiterin ist Sarah Bestgen von der Hochschule für Soziale Arbeit FHNW. Sie hat das Projekt zusammen mit Prof. Dr. Stefan Adam von derselben Hochschule initiiert. Prof. Dr. Oliver Bendel von der Hochschule für Wirtschaft FHNW ist ebenfalls mit dabei. Er forscht seit Jahren in der Sozialen Robotik, der Maschinenethik, der Roboterethik und der Informationsethik. Die Hochschule für Angewandte Psychologie FHNW hilft bei der Programmierung mit. Ansprechpartnerin dort ist Alexandra Tanner. Weitere Informationen über www.stiftungfhnw.ch/ro-sa.
„Eine Auseinandersetzung mit der Digitalisierung berührt zentrale ethische Fragestellungen. Hierunter fallen Themen wie Identität, Sinnfindung, Persönlichkeitsentfaltung und Selbstverwirklichung ebenso wie Fragen nach informationeller Selbstbestimmung, Handlungs-, Informations- und Meinungsfreiheit, Gerechtigkeit, Solidarität, Humanität, Verantwortung, Frieden und Sicherheit. Aspekte der Technikethik und des Umweltschutzes, die Folgen der Globalisierung, Digitalisierung und Vernetzung sowie die Diskussion verschiedener Gesellschaftsmodelle stehen ebenfalls zur Diskussion.“ (Website E & U) Dies schreibt die Zeitschrift Ethik & Unterricht zu ihrer neuen Ausgabe (Nr. 2/2021) mit einem Schwerpunkt zur Digitalisierung. Die Hauptbeiträge zu Robotik und Maschinenethik stammen von Oliver Bendel (Professor für Wirtschaftsinformatik sowie Informations- und Maschinenethik an der Fachhochschule Nordwestschweiz; „Serviceroboter aus ethischer Sicht: Herausforderungen und Grenzen ihres Einsatzes“) und Catrin Misselhorn (Professorin für Philosophie an der Georg-August-Universität Göttingen; „Künstliche Intelligenz und Ethik: Leitlinien für moralische Maschinen“). Die Ausgabe ist über www.friedrich-verlag.de/shop/digitalisierung-541086 erhältlich.
Clara Mancini (The Open University) and Eleonora Nannoni (University of Bologna) are calling for abstracts and papers for the Frontiers research topic „Animal-Computer Interaction and Beyond: The Benefits of Animal-Centered Research and Design“. They are well-known representatives of a discipline closely related to animal-machine interaction. „The field of Animal-Computer Interaction (ACI) investigates how interactive technologies affect the individual animals involved; what technologies could be developed, and how they should be designed in order to improve animals’ welfare, support their activities and foster positive interspecies relationships; and how research methods could enable animal stakeholders to participate in the development of relevant technologies.“ (Website Frontiers) The editors welcome submissions that contribute, but are not necessarily limited, to the following themes: 1) „Applications of animal-centered and/or interactive technologies within farming, animal research, conservation, welfare or other domains“, and 2) „Animal-centered research, design methods and frameworks that have been applied or have applicability within farming, animal research, conservation, welfare or other domains Submission information is available through the website“ (Website Frontiers). More submission information is available through the Frontiers website.
Die Initiative „Grundrechte für Primaten“ ging am 30. April 2021 mit ihrer Website online. Die Unterstützerinnen und Unterstützer fordern in Basel-Stadt die Einführung von Grundrechten für nichtmenschliche Primaten auf kantonaler Verfassungsstufe. Zu ihnen gehören Simon Fankhauser (Co-Präsident Junges Grünes Bündnis), Dr. Charlotte E. Blattner (Juristin), Prof. Dr. Markus Wild (Philosoph), Prof. Dr. Oliver Bendel (Ethiker und Wirtschaftsinformatiker), Jaël Malli (Musikerin) und Dr. Colin Goldner (Leiter des Great Ape Project Deutschland). Besonders weit geht Prof. Dr. Oliver Bendel in seinen Forderungen: „Ich bin für Menschenrechte für Menschen und für Tierrechte für Tiere. Grundrechte wie das Recht auf Leben und das Recht auf körperliche Unversehrtheit sollten allen Primaten, aber auch anderen Säugetieren sowie Reptilien und Amphibien zukommen. Die Idee ist nicht, Tiere vor anderen Tieren zu schützen, sondern vor Menschen.“ Er verbindet Tierethik und Tierschutz mit der Maschinenethik und entwickelt mit seinen Teams tierfreundliche Maschinen. Die Website der Initiative ist über www.primaten-initiative.ch erreichbar.
Das Magazin What’s N3xt wartet in seiner Ausgabe 1/2021 mit Beiträgen zu Robotik und KI auf. In „Uns fehlen Helden!“ erklärt ein bekannter Investor, „was ihn antreibt und warum er auf technologische Innovationen steht“. „Mit 10‑xDNA beschreibt Frank Thelen die Denkweise, die erforderlich ist, um die vor uns liegenden technologischen Fortschritte und Innovationen zu erfassen und zu nutzen.“ (What’s N3xt, 1/2021) In „Nächste Ausfahrt Zukunft“ steht Ranga Yogeshwar Rede und Antwort. „Wir vertrauen Algorithmen, die wir nicht mal nachvollziehen können. Und diese Systeme lernen schneller, als wir Menschen es tun. Neuronale Netze und Machine Learning sind Teil unseres täglichen Lebens geworden.“ (What’s N3xt, 1/2021) „KI trifft Ethik“ wird mit den folgenden Worten angeteasert: „Wie kriegt man menschliche Moral in künstliche Intelligenzen?“ (What’s N3xt, 1/2021) Die Antwort kennt der Informations- und Maschinenethiker Oliver Bendel, der moralische Maschinen baut, Chatbots und Serviceroboter, die moralischen Regeln folgen. Das gesamte Magazin kann hier heruntergeladen werden.
Semi-autonomous machines, autonomous machines and robots inhabit closed, semi-closed and open environments, more structured environments like the household or more unstructured environments like cultural landscapes or the wilderness. There they encounter domestic animals, farm animals, working animals, and wild animals. These creatures could be disturbed, displaced, injured, or killed by the machines. Within the context of machine ethics and social robotics, the School of Business FHNW developed several design studies and prototypes for animal-friendly machines, which can be understood as moral and social machines in the spirit of these disciplines. In 2019-20, a team led by Prof. Dr. Oliver Bendel developed a prototype robot lawnmower that can recognize hedgehogs, interrupt its work for them and thus protect them. Every year many of these animals die worldwide because of traditional service robots. HAPPY HEDGEHOG (HHH), as the invention is called, could be a solution to this problem. This article begins by providing an introduction to the background. Then it focuses on navigation (where the machine comes across certain objects that need to be recognized) and thermal and image recognition (with the help of machine learning) of the machine. It also presents obvious weaknesses and possible improvements. The results could be relevant for an industry that wants to market their products as animal-friendly machines. The paper „The HAPPY HEDGEHOG Project“ is available here.
Die Sendung „aspekte“ im ZDF behandelte am 12. März 2021 unterschiedliche Aspekte der Künstlichen Intelligenz und der Robotik. Den Anfang bildeten eine Reportage und ein Gespräch zwischen Markus Gabriel und Daniel Kehlmann. Später brachte man einen Beitrag mit dem Titel „Roboter zwischen Sex und Altenpflege“ … „Die Hauptdarsteller Alma in Maria Schraders Berlinale-Wettbewerbsfilm ‚Ich bin dein Mensch‘ verliebt sich in einen humanoiden Roboter. ‚Tom‘ wird beseelt von einem Algorithmus, gefüttert mit erstaunlichem Wissen über Alma und enzyklopädischen Informationen über Frauen im Allgemeinen. Für 26 Prozent der Deutschen unter 30 ist es nach einer Umfrage von Februar vorstellbar, sich in eine Künstliche Intelligenz zu verlieben, die auf die eigenen Bedürfnisse hin programmiert wurde. … In der Altenpflege gibt es zahlreiche Versuche, kostenintensives Personal durch Roboter zu ersetzen – Menschenersatz, wenn es keine Menschen gibt. Doch über sprechende Streichelrobben und Roboter, die alte Menschen aus dem Bett heben und einfache Dienstleistungen erbringen, ist man seit Jahren nicht hinausgekommen. Die Vision: ein Roboter, der die Pflegekraft ersetzt, Diagnosen stellt und, falls nötig, den Notarzt alarmiert.“ (ZDF aspekte, 12. März 2021) Zu Wort kommt u.a. Oliver Bendel, und gezeigt wird das von ihm herausgegebene Buch „Maschinenliebe“ … In Artikeln und Buchbeiträgen hat er seit 2015 immer wieder Liebespuppen und Sexroboter in den Gesundheitsbereich eingeordnet und aus der Perspektive von Informations-, Roboter- und Maschinenethik betrachtet. Die Sendung ist abrufbar über www.zdf.de/kultur/aspekte/aspekte-vom-12-maerz-2021-100.html (Link nicht mehr gültig).
Angsa Robotics hat einen Prototyp entwickelt, der zur Reinigung von Rasenflächen dient. Auf der Website heißt es: „Durch die Nutzung von GPS Tracking und Computer Vision erkennt der Roboter seinen definierten Bereich. Zusätzlich kommen diverse Sensoren zum Einsatz, durch die Kollisionen frühzeitig vermieden werden. Anhand dieser Daten wird die Ermittlung des effizientesten Weges und souveränes Ausweichen vor Hindernissen ermöglicht.“ (Website Angsa Robotics) Und weiter: „Das von Angsa entwickelte künstliche neuronale Netz, welches im Roboter verbaut ist, ermöglicht die zuverlässige Erkennung von kleinen und teilweise verdeckten Objekten. Trainiert wird das neuronale Netz mithilfe eines eigenenDatensatzes von realen Müll-Bildern. Dadurch ist es dem Roboter möglich, Müllobjekte von anderen Objekten wie Blättern, Schmutz oder Insekten zu unterscheiden. Die gezielte Entfernung garantiert, [dass] keine Schäden an Oberflächen oder Insekten entstehen.“ (Website Angsa Robotics) Damit tritt der Roboter in die Fußstapfen von LADYBIRD. Dieser wurde 2014 im Kontext der Maschinenethik konzipiert und 2017 als Prototyp implementiert. Sobald der Saugroboter vor sich einen Marienkäfer erkennt, unterbricht er, so die Idee, seine Arbeit und informiert den Benutzer. Das Paper „LADYBIRD: the Animal-Friendly Robot Vacuum Cleaner“ wurde bei den AAAI Spring Symposia 2017 von Prof. Dr. Oliver Bendel an der Stanford University präsentiert. Es ist auch als PDF erhältlich. In deutscher Sprache wird das Projekt im „Handbuch Maschinenethik“ beschrieben. Ein Nachfolgeprojekt ist HAPPY HEDGEHOG, ein igelfreundlicher Mähroboter, als Prototyp 2019 entstanden. Er wird im März 2021 bei den AAAI Spring Symposia vorgestellt.
The paper „The HAPPY HEDGEHOG Project“ by Prof. Dr. Oliver Bendel, Emanuel Graf and Kevin Bollier was accepted at the AAAI Spring Symposia 2021. The researchers will present it at the sub-conference „Machine Learning for Mobile Robot Navigation in the Wild“ at the end of March. The project was conducted at the School of Business FHNW between June 2019 and January 2020. Emanuel Graf, Kevin Bollier, Michel Beugger and Vay Lien Chang developed a prototype of a mowing robot in the context of machine ethics and social robotics, which stops its work as soon as it detects a hedgehog. HHH has a thermal imaging camera. When it encounters a warm object, it uses image recognition to investigate it further. At night, a lamp mounted on top helps. After training with hundreds of photos, HHH can quite accurately identify a hedgehog. With this artifact, the team provides a solution to a problem that frequently occurs in practice. Commercial robotic mowers repeatedly kill young hedgehogs in the dark. HAPPY HEDGEHOG could help to save them. The video on in the corresponding section of this website shows it without disguise. The robot is in the tradition of LADYBIRD.
Betrügende, täuschende und lügende Hardware- und Softwareroboter sind ein Stück weit erforscht. Die wenigen Prototypen wurden in der Disziplin der Maschinenethik gebaut, etwa von Ron Arkin (Georgia Tech) und Oliver Bendel (Hochschule für Wirtschaft FHNW). Sie diskutierten 2016 zusammen in Krakau über „deceptive machines“ … Beratungs- und Verkaufsroboter – meist soziale Roboter – werden sich immer mehr verbreiten. Verkäufer und Berater sind selten Betrüger – aber sie manipulieren häufig die Kunden, damit diese ein Produkt kaufen. Die Frage ist nun, ob der Roboter dies auch tun soll. Dazu entsteht derzeit eine Masterarbeit unter der Betreuung von Oliver Bendel. Seit dem 9. Februar 2021 wird eine Onlinebefragung zum Thema durchgeführt. Die Studentin Liliana Margarida Dos Santos Alves schreibt auf ihrer Website: „Das Hauptziel meiner Masterthesis und Umfrage ist es, herauszufinden, ob es ethisch und moralisch vertretbar ist, humanoide Beratungs- und Verkaufsroboter im Einzelhandel einzusetzen, die Kunden derart manipulieren können, dass sie deren Kaufentscheidungen beeinflussen, um gezielt davon zu profitieren (z. B. Verkauf von Produkten, die der Kunde gar nicht braucht).“ Man kann an der Befragung bis ca. Ende April 2021 über www.survio.com/survey/d/V7Y/manipulativeroboter teilnehmen.
In ihrem Beitrag „Artificial Ethics und die Maschinenliebe“ im Blog der Universität Witten/Herdecke geht Leonie Weber auf das Phänomen der Maschinenliebe ein, die Zuwendung zu Liebespuppen und Sexrobotern. Sie schreibt in ihrer Einleitung: „Zunächst fand ich das Thema der selbstfahrenden Autos interessant, entdeckte aber kurze Zeit später das viel spannendere Feld der Maschinenliebe. Nicht erst seit verschiedensten Hollywoodfilmen wie Westworld, Her oder Blade Runner ist Zärtlichkeit oder Liebe zwischen Menschen und Maschinen beziehungsweise Robotern ein kontrovers diskutiertes Thema. Deshalb wollte ich das Feld der Maschinenliebe und speziell die Realdolls in einer ausführlichen qualitativen Arbeit untersuchen und dabei herausfinden, was da den Unterschied ausmacht und wie die Nachfrage nach Maschinenliebe aktuell aussieht.“ (Blog UWH, Januar 2021) Sie führte Interviews mit einer Sexarbeiterin und einer Bordellbetreiberin, beide bekannte Persönlichkeiten im deutschsprachigen Raum. Weiter heißt es: „Für diese Interviews arbeitete ich mit dem Maschinenethiker schlechthin, Professor Oliver Bendel, zusammen. Dieser ließ mir bei der Gestaltung freie Hand, stand mir allerdings jederzeit für Fragen zur Verfügung. Die dabei entstandenen Texte sind Teil seines neuesten Werks ‚Maschinenliebe: Liebespuppen und Sexroboter aus technischer, psychologischer und philosophischer Perspektive‘ …“ (Blog UWH, Januar 2021) Der Beitrag kann über blog.uni-wh.de/blog/2021/artificial-ethics-und-die-maschinenliebe abgerufen werden.
„Mähdrescher, die für Rehkitze bremsen. Rasenmäher, die Igel verschonen. Selbstgesteuerte Autos, die keine Tiere überfahren. Das klingt zuerst wie Science-Fiction. Doch bereits heute sind erstaunliche Dinge möglich! Mehr darüber berichtete der Ethiker und Technologie-Experte Prof. Dr. Oliver Bendel (FHNW) in seinem Vortrag.“ (Website AnimalRights) AnimalRights Switzerland, eine Tierrechtsorganisation mit Sitz in Zürich, hatte dazu eingeladen. Der Vortrag „Tierfreundliche Maschinen“ fand am 16. September 2020 per Videokonferenz statt. Oliver Bendel ging auf eigene Projekte wie ROBOCAR (Konzeption), LADYBIRD (Prototyp) und HAPPY HEDGEHOG (Prototyp) ein. Zudem stellte er andere Projekte wie Fliegender Wildretter (DLR), DTBird für Windkraftanlagen (Liquen Consultoría Ambiental) und Wildlife Vehicle Collision Avoidance System (RIT) vor. Das Video zum Vortrag kann seit Mitte Januar 2021 über animal-rights-switzerland.ch/tierfreundliche-maschinen/ abgerufen werden.
