Semi-autonomous machines, autonomous machines and robots inhabit closed, semi-closed and open environments, more structured environments like the household or more unstructured environments like cultural landscapes or the wilderness. There they encounter domestic animals, farm animals, working animals, and wild animals. These creatures could be disturbed, displaced, injured, or killed by the machines. Within the context of machine ethics and social robotics, the School of Business FHNW developed several design studies and prototypes for animal-friendly machines, which can be understood as moral and social machines in the spirit of these disciplines. In 2019-20, a team led by Prof. Dr. Oliver Bendel developed a prototype robot lawnmower that can recognize hedgehogs, interrupt its work for them and thus protect them. Every year many of these animals die worldwide because of traditional service robots. HAPPY HEDGEHOG (HHH), as the invention is called, could be a solution to this problem. This article begins by providing an introduction to the background. Then it focuses on navigation (where the machine comes across certain objects that need to be recognized) and thermal and image recognition (with the help of machine learning) of the machine. It also presents obvious weaknesses and possible improvements. The results could be relevant for an industry that wants to market their products as animal-friendly machines. The paper „The HAPPY HEDGEHOG Project“ is available here.
Die Sendung „aspekte“ im ZDF behandelte am 12. März 2021 unterschiedliche Aspekte der Künstlichen Intelligenz und der Robotik. Den Anfang bildeten eine Reportage und ein Gespräch zwischen Markus Gabriel und Daniel Kehlmann. Später brachte man einen Beitrag mit dem Titel „Roboter zwischen Sex und Altenpflege“ … „Die Hauptdarsteller Alma in Maria Schraders Berlinale-Wettbewerbsfilm ‚Ich bin dein Mensch‘ verliebt sich in einen humanoiden Roboter. ‚Tom‘ wird beseelt von einem Algorithmus, gefüttert mit erstaunlichem Wissen über Alma und enzyklopädischen Informationen über Frauen im Allgemeinen. Für 26 Prozent der Deutschen unter 30 ist es nach einer Umfrage von Februar vorstellbar, sich in eine Künstliche Intelligenz zu verlieben, die auf die eigenen Bedürfnisse hin programmiert wurde. … In der Altenpflege gibt es zahlreiche Versuche, kostenintensives Personal durch Roboter zu ersetzen – Menschenersatz, wenn es keine Menschen gibt. Doch über sprechende Streichelrobben und Roboter, die alte Menschen aus dem Bett heben und einfache Dienstleistungen erbringen, ist man seit Jahren nicht hinausgekommen. Die Vision: ein Roboter, der die Pflegekraft ersetzt, Diagnosen stellt und, falls nötig, den Notarzt alarmiert.“ (ZDF aspekte, 12. März 2021) Zu Wort kommt u.a. Oliver Bendel, und gezeigt wird das von ihm herausgegebene Buch „Maschinenliebe“ … In Artikeln und Buchbeiträgen hat er seit 2015 immer wieder Liebespuppen und Sexroboter in den Gesundheitsbereich eingeordnet und aus der Perspektive von Informations-, Roboter- und Maschinenethik betrachtet. Die Sendung ist abrufbar über www.zdf.de/kultur/aspekte/aspekte-vom-12-maerz-2021-100.html (Link nicht mehr gültig).
Angsa Robotics hat einen Prototyp entwickelt, der zur Reinigung von Rasenflächen dient. Auf der Website heißt es: „Durch die Nutzung von GPS Tracking und Computer Vision erkennt der Roboter seinen definierten Bereich. Zusätzlich kommen diverse Sensoren zum Einsatz, durch die Kollisionen frühzeitig vermieden werden. Anhand dieser Daten wird die Ermittlung des effizientesten Weges und souveränes Ausweichen vor Hindernissen ermöglicht.“ (Website Angsa Robotics) Und weiter: „Das von Angsa entwickelte künstliche neuronale Netz, welches im Roboter verbaut ist, ermöglicht die zuverlässige Erkennung von kleinen und teilweise verdeckten Objekten. Trainiert wird das neuronale Netz mithilfe eines eigenenDatensatzes von realen Müll-Bildern. Dadurch ist es dem Roboter möglich, Müllobjekte von anderen Objekten wie Blättern, Schmutz oder Insekten zu unterscheiden. Die gezielte Entfernung garantiert, [dass] keine Schäden an Oberflächen oder Insekten entstehen.“ (Website Angsa Robotics) Damit tritt der Roboter in die Fußstapfen von LADYBIRD. Dieser wurde 2014 im Kontext der Maschinenethik konzipiert und 2017 als Prototyp implementiert. Sobald der Saugroboter vor sich einen Marienkäfer erkennt, unterbricht er, so die Idee, seine Arbeit und informiert den Benutzer. Das Paper „LADYBIRD: the Animal-Friendly Robot Vacuum Cleaner“ wurde bei den AAAI Spring Symposia 2017 von Prof. Dr. Oliver Bendel an der Stanford University präsentiert. Es ist auch als PDF erhältlich. In deutscher Sprache wird das Projekt im „Handbuch Maschinenethik“ beschrieben. Ein Nachfolgeprojekt ist HAPPY HEDGEHOG, ein igelfreundlicher Mähroboter, als Prototyp 2019 entstanden. Er wird im März 2021 bei den AAAI Spring Symposia vorgestellt.
The paper „The HAPPY HEDGEHOG Project“ by Prof. Dr. Oliver Bendel, Emanuel Graf and Kevin Bollier was accepted at the AAAI Spring Symposia 2021. The researchers will present it at the sub-conference „Machine Learning for Mobile Robot Navigation in the Wild“ at the end of March. The project was conducted at the School of Business FHNW between June 2019 and January 2020. Emanuel Graf, Kevin Bollier, Michel Beugger and Vay Lien Chang developed a prototype of a mowing robot in the context of machine ethics and social robotics, which stops its work as soon as it detects a hedgehog. HHH has a thermal imaging camera. When it encounters a warm object, it uses image recognition to investigate it further. At night, a lamp mounted on top helps. After training with hundreds of photos, HHH can quite accurately identify a hedgehog. With this artifact, the team provides a solution to a problem that frequently occurs in practice. Commercial robotic mowers repeatedly kill young hedgehogs in the dark. HAPPY HEDGEHOG could help to save them. The video on in the corresponding section of this website shows it without disguise. The robot is in the tradition of LADYBIRD.
Betrügende, täuschende und lügende Hardware- und Softwareroboter sind ein Stück weit erforscht. Die wenigen Prototypen wurden in der Disziplin der Maschinenethik gebaut, etwa von Ron Arkin (Georgia Tech) und Oliver Bendel (Hochschule für Wirtschaft FHNW). Sie diskutierten 2016 zusammen in Krakau über „deceptive machines“ … Beratungs- und Verkaufsroboter – meist soziale Roboter – werden sich immer mehr verbreiten. Verkäufer und Berater sind selten Betrüger – aber sie manipulieren häufig die Kunden, damit diese ein Produkt kaufen. Die Frage ist nun, ob der Roboter dies auch tun soll. Dazu entsteht derzeit eine Masterarbeit unter der Betreuung von Oliver Bendel. Seit dem 9. Februar 2021 wird eine Onlinebefragung zum Thema durchgeführt. Die Studentin Liliana Margarida Dos Santos Alves schreibt auf ihrer Website: „Das Hauptziel meiner Masterthesis und Umfrage ist es, herauszufinden, ob es ethisch und moralisch vertretbar ist, humanoide Beratungs- und Verkaufsroboter im Einzelhandel einzusetzen, die Kunden derart manipulieren können, dass sie deren Kaufentscheidungen beeinflussen, um gezielt davon zu profitieren (z. B. Verkauf von Produkten, die der Kunde gar nicht braucht).“ Man kann an der Befragung bis ca. Ende April 2021 über www.survio.com/survey/d/V7Y/manipulativeroboter teilnehmen.
In ihrem Beitrag „Artificial Ethics und die Maschinenliebe“ im Blog der Universität Witten/Herdecke geht Leonie Weber auf das Phänomen der Maschinenliebe ein, die Zuwendung zu Liebespuppen und Sexrobotern. Sie schreibt in ihrer Einleitung: „Zunächst fand ich das Thema der selbstfahrenden Autos interessant, entdeckte aber kurze Zeit später das viel spannendere Feld der Maschinenliebe. Nicht erst seit verschiedensten Hollywoodfilmen wie Westworld, Her oder Blade Runner ist Zärtlichkeit oder Liebe zwischen Menschen und Maschinen beziehungsweise Robotern ein kontrovers diskutiertes Thema. Deshalb wollte ich das Feld der Maschinenliebe und speziell die Realdolls in einer ausführlichen qualitativen Arbeit untersuchen und dabei herausfinden, was da den Unterschied ausmacht und wie die Nachfrage nach Maschinenliebe aktuell aussieht.“ (Blog UWH, Januar 2021) Sie führte Interviews mit einer Sexarbeiterin und einer Bordellbetreiberin, beide bekannte Persönlichkeiten im deutschsprachigen Raum. Weiter heißt es: „Für diese Interviews arbeitete ich mit dem Maschinenethiker schlechthin, Professor Oliver Bendel, zusammen. Dieser ließ mir bei der Gestaltung freie Hand, stand mir allerdings jederzeit für Fragen zur Verfügung. Die dabei entstandenen Texte sind Teil seines neuesten Werks ‚Maschinenliebe: Liebespuppen und Sexroboter aus technischer, psychologischer und philosophischer Perspektive‘ …“ (Blog UWH, Januar 2021) Der Beitrag kann über blog.uni-wh.de/blog/2021/artificial-ethics-und-die-maschinenliebe abgerufen werden.
„Mähdrescher, die für Rehkitze bremsen. Rasenmäher, die Igel verschonen. Selbstgesteuerte Autos, die keine Tiere überfahren. Das klingt zuerst wie Science-Fiction. Doch bereits heute sind erstaunliche Dinge möglich! Mehr darüber berichtete der Ethiker und Technologie-Experte Prof. Dr. Oliver Bendel (FHNW) in seinem Vortrag.“ (Website AnimalRights) AnimalRights Switzerland, eine Tierrechtsorganisation mit Sitz in Zürich, hatte dazu eingeladen. Der Vortrag „Tierfreundliche Maschinen“ fand am 16. September 2020 per Videokonferenz statt. Oliver Bendel ging auf eigene Projekte wie ROBOCAR (Konzeption), LADYBIRD (Prototyp) und HAPPY HEDGEHOG (Prototyp) ein. Zudem stellte er andere Projekte wie Fliegender Wildretter (DLR), DTBird für Windkraftanlagen (Liquen Consultoría Ambiental) und Wildlife Vehicle Collision Avoidance System (RIT) vor. Das Video zum Vortrag kann seit Mitte Januar 2021 über animal-rights-switzerland.ch/tierfreundliche-maschinen/ abgerufen werden.
In the fall of 2021, a five-day workshop on trustworthy conversational agents will be held at Schloss Dagstuhl. Prof. Dr. Oliver Bendel is among the invited participants. According to the website, Schloss Dagstuhl – Leibniz Center for Informatics pursues its mission of furthering world class research in computer science by facilitating communication and interaction between researchers. Oliver Bendel and his teams have developed several chatbots in the context of machine ethics since 2013, which were presented at conferences at Stanford University and Jagiellonian University and received international attention. Since the beginning of 2020, he has been preparing to develop several voice assistants that can show empathy and emotion. „Schloss Dagstuhl was founded in 1990 and quickly became established as one of the world’s premier meeting centers for informatics research. Since the very first days of Schloss Dagstuhl, the seminar and workshop meeting program has always been the focus of its programmatic work. In recent years, Schloss Dagstuhl has expanded its operation and also has significant efforts underway in bibliographic services … and in open access publishing.“ (Website Schloss Dagstuhl)
Die Künstliche Intelligenz (KI) hat nach Dekaden des sich abwechselnden Auf- und Abschwungs im 21. Jahrhundert eine enorme Bedeutung in Forschung und Praxis erlangt. Maschinenethik und Maschinelles Bewusstsein (Künstliches Bewusstsein) konnten zur gleichen Zeit ihre Begriffe und Methoden in die Öffentlichkeit tragen, wo sie mehr oder weniger gut verstanden wurden. Eine Grafik versucht seit 2018 die Begriffe und Zusammenhänge von Künstlicher Intelligenz, Maschinenethik und Maschinellem Bewusstsein zu klären. Sie wird ständig weiterentwickelt und dadurch präziser, aber auch komplexer. Seit Anfang 2021 liegt eine neue Version vor. In ihr wird noch deutlicher gemacht, dass die drei Disziplinen bestimmte Fähigkeiten (meist von Menschen) nicht nur abbilden, sondern auch erweitern können.
From 18 to 21 August 2020, the Robophilosophy conference took place. Due to the pandemic, participants could not meet in Aarhus as originally planned, but only in virtual space. Nevertheless, the conference was a complete success. At the end of the year, the conference proceedings were published by IOS Press, including the paper „The Morality Menu Project“ by Oliver Bendel. From the abstract: „The discipline of machine ethics examines, designs and produces moral machines. The artificial morality is usually pre-programmed by a manufacturer or developer. However, another approach is the more flexible morality menu (MOME). With this, owners or users replicate their own moral preferences onto a machine. A team at the FHNW implemented a MOME for MOBO (a chatbot) in 2019/2020. In this article, the author introduces the idea of the MOME, presents the MOBO-MOME project and discusses advantages and disadvantages of such an approach. It turns out that a morality menu could be a valuable extension for certain moral machines.“ The book can be ordered on the publisher’s website. An author’s copy is available here.
The book „Culturally Sustainable Social Robotics“ (eds. Marco Nørskov, Johanna Seibt, and Oliver Santiago Quick) was published in December 2020 by IOS Press. From the publisher’s information: „Robophilosophy conferences have been the world’s largest venues for humanities research in and on social robotics. The book at hand presents the proceedings of Robophilosophy Conference 2020: Culturally Sustainable Social Robotics, the fourth event in the international, biennial Robophilosophy Conference Series, which brought together close to 400 participants from 29 countries. The speakers of the conference, whose contributions are collected in this volume, were invited to offer concrete proposals for how the Humanities can help to shape a future where social robotics is guided by the goals of enhancing socio-cultural values rather than by utility alone. The book is divided into 3 parts; Abstracts of Plenaries, which contains 6 plenary sessions; Session Papers, with 44 papers under 8 thematic categories; and Workshops, containing 25 items on 5 selected topics.“ (Website IOS Press) Contributors include Robert Sparrow, Alan Winfield, Aimee van Wynsberghe, John Danaher, Johanna Seibt, Marco Nørskov, Peter Remmers, John P. Sullins, and Oliver Bendel.
Ende 2020 ist das „Handbuch Digitale Wirtschaft“ (Hrsg.: Tobias Kollmann) in gedruckter Form erschienen. Laut Website von Springer liefert es die theoretischen Grundlagen und praxisbezogenen Implikationen für die digitale Transformation unserer Wirtschaft, unserer Produktion und Kundenbeziehungen. „Renommierte Autorinnen und Autoren aus Wissenschaft und Praxis behandeln die Themen des Einkaufs-, Verkaufs-, Handels-, Kontakt- und Kooperationsmanagements auf Basis elektronischer Netzwerke. Dabei werden die Grundbausteine Systeme, Prozesse, Management, Marketing und Implementierung sowie weitere Spezialthemen und -anwendungsfelder für das Digital Management erklärt.“ (Information von Springer) Der Beitrag „Von Cor@ bis Mitsuku: Chatbots in der Kundenkommunikation und im Unterhaltungsbereich“ von Oliver Bendel war bereits im April 2019 in elektronischer Form erschienen. In einem Kapitel werden „Chatbots als Artefakte der Maschinenethik“ behandelt, konkret der GOODBOT und der BESTBOT. Der Beitrag ist – wie z.B. auch „Arbeiten 4.0: Virtuelle Arbeitsplätze“ von Rahild Neuburger, „E-Health“ von Thomas Lux oder „Connected Car“ von Torsten J. Gerpott – verfügbar bei Springer und auf SpringerLink.
Das Buch „Maschinenliebe“ (Hrsg. Oliver Bendel) enthält 16 Beiträge international renommierter Expertinnen und Experten. Der Beitrag „Liebespuppen und Sexroboter in der Moral“, der vom Herausgeber stammt, wird im Abstract so zusammengefasst: „Dieser Beitrag klärt zunächst die Begriffe der Sexroboter und der Liebespuppen. Dann stellt er aus der Perspektive der Maschinenethik spezifische Fragen und beantwortet sie vorläufig. Anschließend werden die Bereichsethiken einbezogen, um die Implikationen für den Menschen, für Anbieter, Vermittler und Benutzer, herauszuarbeiten. Es folgen Gedankenexperimente, mit denen philosophische und speziell ethische Fragen aufgeworfen und vertieft werden. Am Ende fasst der Autor die Ergebnisse zusammen. Maschinenethik kann aus seiner Sicht helfen, Sexroboter und Liebespuppen mit besonderen Fähigkeiten zu konstruieren, die moralische Maschinen in ihrem Aussehen und Verhalten sind und die es einigen Menschen ermöglichen, ihre sexuellen Aktivitäten zu ergänzen und ein erfülltes Leben zu führen. Die Ergebnisse der klassischen Bereichsethiken können im Hinblick auf den adäquaten Einsatz von Sexrobotern hilfreich sein und weisen auf die Chancen wie auf die Risiken hin. Gedankenexperimente erlauben neue Einsichten und sind Ausgangspunkt für empirische Untersuchungen.“ Das Buch kann über Springer bezogen werden. Wer einen Zugang zu SpringerLink hat, kann es kostenlos herunterladen.
„Mähdrescher, die für Rehkitze bremsen. Rasenmäher, die Igel verschonen. Selbstgesteuerte Autos, die keine Tiere überfahren. Das klingt zuerst wie Science-Fiction. Doch bereits heute sind erstaunliche Dinge möglich! Mehr darüber berichtet der Ethiker und Technologie-Experte Prof. Dr. Oliver Bendel (FHNW) in seinem Vortrag. Und geht dabei auch auf neue Roboter ein, die er selbst mitentwickelt hat.“ (Website AnimalRights) Mit diesen Worten wird von AnimalRights ein Vortrag angekündigt, der am Mittwoch, 16. Dezember 2020 von 19:00 bis 20:00 Uhr über Zoom stattfindet. Das Ziel von AnimalRights Switzerland ist laut eigener Aussage, dass wirksame Tierrechte in der Schweiz eingeführt werden. „Damit die Rechte auf Leben und Unversehrtheit eingeführt werden können, muss zuerst die gesellschaftliche Entwicklung weg von der Tiernutzung weitergehen. Immer weniger Menschen möchten unnötiges Tierleid unterstützen – hier setzen wir an. Animal Rights Switzerland wirbt deshalb für einen tierfreundlichen Lebensstil und informiert über Tierrechte.“ (Website AnimalRights) Weitere Informationen über animal-rights-switzerland.ch/vortrag-tierfreundliche-maschinen/.
Abb.: Igel sollten auf den Straßen und auf dem Rasen verschont werden
Vor über einem Jahr ist das „Handbuch Maschinenethik“ (Hrsg. Oliver Bendel) bei Springer VS erschienen. Es versammelt Beiträge der führenden Expertinnen und Experten in den Bereichen Maschinenethik, Roboterethik, Technikethik, Technikphilosophie sowie Roboterrecht. Es ist ein umfangreiches, ein vorzeigenswertes, ein einzigartiges Buch geworden. In gewisser Weise bildet es ein Gegenstück zur amerikanischen Forschung, die die Disziplin dominiert: Die meisten Autorinnen und Autoren (unter ihnen Julian Nida-Rümelin, Catrin Misselhorn, Eric Hilgendorf, Monika Simmler, Armin Grunwald, Matthias Scheutz, Janina Loh und Luís Moniz Pereira) stammen aus Europa und Asien. Seit 2017 hatten sie mitgearbeitet und laufend eingereicht, bis es dann zur Drucklegung kam. Der Herausgeber, der sich seit 20 Jahren mit Informations-, Roboter- und Maschinenethik beschäftigt und seit neun Jahren intensiv zur Maschinenethik forscht, zeigt sich erfreut, dass bereits 53.000 Downloads zu verzeichnen sind – für ein hoch spezialisiertes Buch eine ganze Menge. Der erste Beitrag für eine zweite Auflage liegt auch vor, nämlich der Beitrag „The BESTBOT Project“ …
Im Oktober 2020 ist die Dokumentation „Konfiguration“ des Fonds Darstellende Künste erschienen. Aus dem Vorwort des Geschäftsführers Holger Bergman: „Die Welt ist im Wandel. Komplexer ist sie geworden und widersprüchlicher – vor allem aber digitaler. Mit zum Teil großer Selbstverständlichkeit nutzen wir Arbeits- und Organisationsweisen und interagieren in Formen von Öffentlichkeit, die erst durch die technologischen Entwicklungen der letzten Jahrzehnte entstehen konnten. Indem sie kreative Verbindungen zwischen Analogem und Digitalem hervorbringt, kann künstlerische Innovationsforschung einen wichtigen Beitrag leisten, diese neuen Technologien besser zu verstehen. Mit dem Sonderprogramm KONFIGURATION hat der Fonds Darstellende Künste in Zusammenarbeit mit der Beauftragten der Bundesregierung für Kultur und Medien gezielt Projekte aus dem Figuren- und Objekttheater gefördert, die digitale Technik in künstlerische Prozesse einbezogen haben bzw. gesellschaftliche Fragen der Digitalisierung thematisierten.“ (Dokumentation „Konfiguration“) Am Ende der 46-seitigen Dokumentation, die hier heruntergeladen werden kann, findet sich ein Interview von Tom Mustroph mit Prof. Dr. Oliver Bendel zum Verhältnis zwischen Mensch und Maschine.
