Das Moralmodul bei der ICSR 2022

Am 13. Dezember 2022 begann die ICSR, neben der Robophilosophy die bedeutendste Konferenz zur Sozialen Robotik. Oliver Bendel und Marc Heimann sind mit ihrem Paper „The CARE-MOMO Project“ vertreten. Sie stellten es gleich am Morgen beim Workshop „Robot Companionship: Applications and Challenges“ in einem Vortrag vor. Zudem hatten sie am Donnerstag (15. Dezember 2022) eine Posterpräsentation dazu. Mithilfe des Moralmoduls, das das bewährte Moralmenü enthält, können Pflegebedürftige ihre moralischen und sozialen Vorstellungen auf einen Pflegeroboter wie Lio von F&P Robotics übertragen. Der Vortrag fand viel Anklang im vollbesetzten Raum, auch beim Chair, der den Ansatz sehr interessant fand, wie er mehrmals betonte. Das Programm des Workshops kann hier heruntergeladen werden. Weitere Informationen zur Konferenz, die dieses Jahr in Florenz stattfindet, sind über www.icsr2022.it erhältlich.

Abb.: Ein Roboter von PAL Robotics bei der ICSR 2022

Das CARE-MOMO in Zürich und Florenz

Seit 2012 wurden von Prof. Dr. Oliver Bendel und seinen Teams 13 Artefakte der Maschinenethik und Sozialen Robotik entwickelt, vor allem Prototypen (Chatbots, Sprachassistenten und tierfreundliche Maschinen). Dabei verwendeten sie in mehreren Fällen eigene Ansätze wie annotierte Entscheidungsbäume und das Moralmenü (MOME). Das jüngste Ergebnis ist das CARE-MOMO („MOMO“ steht für „Morality Module“ bzw. „Moralmodul“), das von Marc Heimann an der Hochschule für Wirtschaft FHNW umgesetzt wurde und den Assistenzroboter Lio von F&P Robotics erweitern soll. Es baut auf dem MOME von 2019/2020 auf, das auf der Robophilosophy vorgestellt wurde. Mit Hilfe von Schiebereglern auf dem Display von Lio kann der Pflegebedürftige (bei Bedarf zusammen mit der Pflegekraft oder dem Angehörigen) seine Präferenzen wählen und so auf einfache Weise seine moralischen und sozialen Vorstellungen und grundsätzlichen Haltungen übertragen. Implementiert wurde ein Moralmenü, das die drei Bereiche „Soziales“, „Transparenz“ und „Funktionalität“ umfasst. Unter „Soziales“ findet sich die Frage „Soll Lio diskret sein, wenn ich in einer intimen Situation bin?“. Der Roboter soll sich gegebenenfalls wegdrehen oder zeitweise ausschalten. Der Bereich „Transparenz“ enthält die Frage „Soll Lio mitteilen, wenn die Kamera eingeschaltet oder benutzt wird?“. Ende Oktober 2022 wurde das CARE-MOMO bei F&P Robotics in Glattbrugg bei Zürich präsentiert. Der CEO Michael Früh zeigte sich interessiert, einzelne Elemente des Moralmoduls bei Lio zu übernehmen. In den kommenden Wochen wird dies im Einzelnen geprüft. Am 15. Dezember findet eine Demonstration des CARE-MOMO durch Oliver Bendel und Marc Heimann bei der ICSR statt, einer der führenden Konferenzen der Sozialen Robotik. Dieses Mal trifft man sich in Florenz. Bereits zwei Tage vorher stellt der Maschinenethiker die Erfindung und ihre Geschichte in einem Vortrag auf einem der Workshops vor.

Abb.: Die Funktionsweise des CARE-MOMO

Das CARE-MOMO für Lio und Co.

Immer mehr Roboter werden im Pflegebereich eingesetzt. Die meisten von ihnen sind Prototypen, einige sogar Produkte, die in kleinen Serien hergestellt werden, wie Lio und P-CARE von F&P Robotics. Die Maschinenethik erforscht und schafft moralische Maschinen. Diese lassen sich oft von bestimmten Werten oder Metaregeln leiten, sie folgen vorgegebenen Regeln oder sie lernen aus Situationen und passen ihr Verhalten an. Das CARE-MOMO („MOMO“ steht für „Moralmodul“) ist ein Moralmodul, das Lio erweitern kann. Es baut auf dem MOME auf, dem Moralmenü, das bereits 2019/2020 entwickelt und 2020 auf der Robophilosophy vorgestellt wurde. Mit Hilfe von Schiebereglern auf dem Display von Lio kann der Patient seine Präferenzen wählen und so auf einfache Weise seine sittlichen und moralischen Vorstellungen übertragen. Dabei wird auf eine 1:1-Beziehung zwischen Mensch und Maschine fokussiert. Marc Heimann erarbeitete im Rahmen seiner Abschlussarbeit bereits mehrere Vorschläge, die in einem Brainstorming mit dem Betreuer Oliver Bendel am 19. Mai 2022 ergänzt wurden. Das CARE-MOMO ist das dreizehnte Artefakt, das im Arbeitsbereich von Oliver Bendel entsteht. Mehrere davon – etwa LIEBOT, LADYBIRD oder HAPPY HEDGEHOG – wurden bei internationalen Konferenzen vorgestellt und haben mediale Aufmerksamkeit erregt. Das CARE-MOMO-Projekt begann im März und läuft noch bis August 2022. Das Ergebnis ist eine prototypische Umsetzung des Moralmoduls.

Abb.: Das CARE-MOMO ist das 13. Artefakt