Morality Transfer with the Help of Sliders

From 18 to 21 August 2020, the Robophilosophy conference took place. Due to the pandemic, participants could not meet in Aarhus as originally planned, but only in virtual space. Nevertheless, the conference was a complete success. At the end of the year, the conference proceedings were published by IOS Press, including the paper „The Morality Menu Project“ by Oliver Bendel. From the abstract: „The discipline of machine ethics examines, designs and produces moral machines. The artificial morality is usually pre-programmed by a manufacturer or developer. However, another approach is the more flexible morality menu (MOME). With this, owners or users replicate their own moral preferences onto a machine. A team at the FHNW implemented a MOME for MOBO (a chatbot) in 2019/2020. In this article, the author introduces the idea of the MOME, presents the MOBO-MOME project and discusses advantages and disadvantages of such an approach. It turns out that a morality menu could be a valuable extension for certain moral machines.“ The book can be ordered on the publisher’s website. An author’s copy is available here.

Fig.: Morality transfer with the help of sliders

Moralmenü (MOME) für LADYBIRD

LADYBIRD, der tierfreundliche Staubsaugerroboter, wurde 2014 erdacht und 2017 an der Stanford University (AAAI Spring Symposia) vorgestellt und dann an der School of Business FHNW als Prototyp umgesetzt. Im Kontext des Projekts wurde ein Menü vorgeschlagen, mit welchem der Benutzer die Moral des Staubsaugerroboters einstellen kann. Dieser verschont, wie der Name andeutet, Marienkäfer. Auch Spinnen sollte er am Leben lassen. Wer aber zum Beispiel partout bestimmte Insekten einsaugen lassen will, könnte dies über ein Menü festlegen. Wichtig ist, dass LADYBIRD insgesamt tierfreundlich bleibt. Über das Menü wird, so war die Idee, eine Stellvertretermoral im Detail entwickelt. Der Staubsaugerroboter als Stellvertretermaschine macht das, was der Besitzer auch machen würde. 2018 kam das Moralmenü (MOME) für LADYBIRD als Designstudie auf die Welt. Dieses kann man mit weiteren Ansätzen und Technologien koppeln. So könnte der Benutzer erfahren, wie andere entschieden haben, und wie die persönliche Moral, die er auf die Maschine übertragen hat, eingeschätzt wird. Auch könnte er gewarnt und aufgeklärt werden, wenn er nicht nur Ungeziefer, sondern auch Spinnen einsaugen lassen will.

Abb.: Moralmenü für LADYBIRD