Beim „uDay 20: Innovation in der Pflege – gewusst wie!“ am 20. September 2022 an der Fachhochschule Vorarlberg hält Oliver Bendel die Keynote „Pflegeroboter aus ethischer Perspektive“. Aus der Beschreibung: „Pflege- und Therapieroboter können als Serviceroboter und in vielen Fällen auch als soziale Roboter begriffen werden. Im Vortrag von Professor Dr. Oliver Bendel aus Zürich werden die Ziele, Aufgaben und Merkmale geklärt und, davon ausgehend, Überlegungen aus der Perspektive der Ethik angestellt. Am Ende soll deutlich werden, welche Robotertypen und Prototypen bzw. Produkte es im Gesundheitsbereich gibt, welche Zwecke sie erfüllen, welche Funktionen sie übernehmen und welche Implikationen und Konsequenzen dies für den Einzelnen und die Gesellschaft hat. Pflegeroboter mögen zur persönlichen Autonomie beitragen und zugleich die informationelle Autonomie schwächen. Therapieroboter können die persönliche Leistung und Zufriedenheit steigern, in Einzelfällen aber auch die Menschenwürde verletzen. Es ist wichtig, Serviceroboter und soziale Roboter im Gesundheitsbereich so zu gestalten, dass sie möglichst allen Anforderungen und Bedürfnissen gerecht werden und nützliche Werkzeuge für Pflegekräfte und Pflegebedürftige sind. Dabei können nicht zuletzt Disziplinen wie die Maschinenethik helfen.“ Die Keynote beginnt um 9.15 Uhr. Das Programm kann hier heruntergeladen werden.
Abb.: Eine Maske ist während der Pandemie eine gute Wahl
Am 2. September 2022 fand an der Hochschule für Wirtschaft FHNW das Kick-off-Meeting zum HUGGIE-Projekt statt. Unter der Leitung von Prof. Dr. Oliver Bendel wird das vierköpfige Team bis Januar 2023 einen Umarmungsroboter bauen und an Benutzern testen. Dies war bereits 2020 geplant, wurde aber durch die Pandemie vereitelt. Stattdessen erarbeiteten Leonie Stocker und Ümmühan Korucu theoretische Grundlagen und führten eine Onlinebefragung durch. Die Ergebnisse wurden im Buch „Soziale Roboter“ unter dem Titel „In den Armen der Maschine“ veröffentlicht. Der soziale Roboter HUGGIE soll zu einem guten Leben beitragen, indem er Menschen berührt und umarmt. Bereits bekannt ist, dass Wärme und Weichheit der Arme und des Körpers gewünscht werden. Nun wird untersucht, ob z.B. auch Töne, Stimmen, Vibrationen und Gerüche die Akzeptanz erhöhen. Auch das Aussehen soll variiert werden: Möchte man eher von einem weiblich oder männlich anmutenden Roboter umarmt werden? Eher von einem tierähnlichen oder einem menschenähnlichen? Was ist mit einem Teddybären? Die Leitfrage des Praxisprojekts ist: Kann ein sozialer Roboter durch Umarmungen und Berührungen zur Steigerung des körperlichen und geistigen Wohlbefindens beitragen, und welche Faktoren sind dabei zu berücksichtigen? Letztlich sollen Roboter dieser Art vor allem in Extremsituationen eingesetzt werden, bei Krisen und Katastrophen, bei Krankheiten, mit denen Isolation verbunden ist, oder bei Marsflügen.
Die Abschlussarbeit von Marc Heimann mit dem Titel „CARE-MOMO“ beschreibt die Implementierung eines Moralmoduls für den Pflegeroboter Lio. Damit werden frühere Projekte fortgesetzt, vor allem die Entwicklung eines Moralmoduls für einen Chatbot (MOBO-MOME) aus dem Jahre 2020. Die Forschungsfrage lautet: „Welche moralischen Probleme treten beim Einsatz eines Pflegeroboters wie Lio auf und wie kann eines von ihnen mithilfe von Ansätzen der Maschinenethik gelöst werden?“ (Abstract Bachelorarbeit) „Durch Expertengespräche mit der Firma F&P Robotics AG und Interviews mit Mitarbeitenden, welche Lio täglich nutzen, konnten einige dieser moralischen Probleme identifiziert werden. Auch bereits bekannte moralische Problemsituationen von Robotern in der Pflege wurden durch wissenschaftliche Literaturrecherche der Sammlung hinzugefügt.“ (Abstract Bachelorarbeit) Des Weiteren wurden die Akzeptanz gegenüber und das Interesse an Robotern in der Pflege analysiert. Mit dem gesammelten Wissen entwickelte Marc Heimann anschließend einen „Prototyp eines Moralmoduls …, welches ein Moralmenü beinhaltet, das den Benutzer Lios Verhalten … individuell anhand der moralischen Probleme anpassen lässt“, und zwar auf einfache Weise mit Hilfe von Schiebereglern. Zur Verfügung stehen die Bereiche Soziale Aspekte, Transparenz und Funktionalität. „Umgesetzt wurde das Moralmodul als Webservice, damit Lio es in Zukunft auf einem Tablet zur Verfügung stellen kann.“ (Abstract Bachelorarbeit) Dabei kann es sich um das integrierte Display oder ein separates Tablet handeln. Im Herbst werden die Ergebnisse dem Unternehmen vorgestellt, das in Glattbrugg bei Zürich seinen Sitz hat. Ein Video zum Projekt findet sich in der Videosektion oder direkt auf YouTube.
Lea Peier von der Hochschule für Wirtschaft FHNW hat im Rahmen ihrer Abschlussarbeit über Barroboter geforscht. Betreut wurde sie von Prof. Dr. Oliver Bendel. Zu Barrobotern kann man Kaffeeroboter (Roboterbaristas) sowie Barkeeperroboter (Cocktailroboter) zählen. Die Forschungsfrage der Arbeit mit dem Titel „Ein Serviceroboter in einem Café hinter der Bar“ lautet: „Welchen Nutzen können Barroboter in der Gastronomie generieren?“ (Abstract Bachelorarbeit). „Um dies beantworten zu können, wurden Experteninterviews, Interviews mit Gastronomiebetrieben und Beobachtungen von Barrobotern durchgeführt. Die Forschungsfrage bezüglich des Nutzens eines Barroboters im Gastronomiebetrieb konnte vollumfänglich beantwortet werden. Dabei zeigte sich bereits im Verlaufe der Arbeit, dass Barroboter aktuell keinen wesentlichen Nutzen in der Gastronomie erbringen können.“ (Abstract Bachelorarbeit) Es gebe für die bestehenden Barroboter in der Schweiz aber andere interessante Einsatzorte wie beispielweise auf Messen oder in langen Warteschlangen. Ein Blick ins Ausland zeige, dass die Schweiz als renommierter Technologiestandort keine Vorreiterstellung einnimmt. „Dank der globalen Präsenz und den technologischen und qualitativ hohen Standards bietet sich die Chance, dass sich die bisher verhaltene Schweizer Szene rasch und kräftig weiterentwickeln kann.“ (Abstract Bachelorarbeit) Ein Video zum Projekt findet sich in der Videosektion oder direkt auf YouTube.
Abb.: Barroboter mixen Cocktails bzw. bereiten sie vor
Katharina Kühne and Melinda A. Jeglinski-Mende (University of Potsdam) together with Oliver Bendel (School of Business FHNW) have written an extended abstract for Robophilosophy 2022 entitled „Tamagotchi on our Couch“. The corresponding poster was presented by Katharina Kühne on on August 16, 2022, the first day of the conference. The poster is made available here. From the abstract: „Although social robots increasingly enter our lives, it is not clear how they are perceived. Previous research indicates that there is a tendency to anthropomorphize social robots, at least in the Western culture. One of the most promising roles of robots in our society is companionship. Pets also fulfill this role, which gives their owners health and wellbeing benefits. In our study, we investigated if social robots can implicitly and explicitly be perceived as pets. In an online experiment, we measured implicit associations between pets and robots using pictures of robots and devices, as well as attributes denoting pet and non-pet features, in a Go/No-Go Association Task (GNAT). Further, we asked our participants to explicitly evaluate to what extent they perceive robots as pets and if robots could replace a real pet. Our findings show that implicitly, but not explicitly, social robots are perceived as pets.“ (Abstract) The poster is available here.
„Der Wirtschaftsinformatiker und Ethiker Prof. Dr. Oliver Bendel gehört ab sofort dem Stiftungsrat an.“ Dies meldet die Daimler und Benz Stiftung Ende August 2022 auf ihrer Website. „Gegenwärtig forscht und lehrt er an der Fachhochschule Nordwestschweiz in Basel, Olten und Brugg-Windisch. Zuvor war er unter anderem am Institut für Wirtschaftsinformatik der Universität St. Gallen sowie am Institut für Bildungsmedien der Pädagogischen Hochschule Bern tätig.“ (Website Daimler und Benz Stiftung) Weiter heißt es: „Bendels Interesse gilt der Technikphilosophie. Er untersucht das Verhältnis zwischen Mensch bzw. Tier und Maschine, wobei er insbesondere danach fragt, wie Maschinen der Zukunft beschaffen sein werden und sollten. Zu seinen wichtigsten Disziplinen zählen die Informations-, Maschinen- und Roboterethik. Die Daimler und Benz Stiftung freut sich, mit Bendel einen Wissenschaftler mit großer interdisziplinärer und internationaler Expertise im Stiftungsrat begrüßen zu dürfen.“ (Website Daimler und Benz Stiftung) Die Meldung mit der Überschrift „Prof. Dr. Oliver Bendel in den Stiftungsrat kooptiert“ ist über www.daimler-benz-stiftung.de/cms/de/home-de-de/aktuell/535-prof-dr-oliver-bendel-in-den-stiftungsrat-kooptiert.html aufrufbar.
Der vierte und letzte Tag der Robophilosophy 2022 wurde eröffnet mit einem Vortrag von Catrin Misselhorn („Three Ethical Arguments against Killer Robots“). Sie stellte u.a. die Arbeit von Ronald C. Arkin vor und übte Kritik daran. Ein Workshop und drei Sessions schlossen sich an. In Session 18 („Robots in Elderly Care II“) sprach zunächst Stefanie Baisch („Elders‘ Expectations and Experiences of Having a Companion-Type Social Robot“, mit Thorsten Kolling), dann Rajitha Ramanayake („A Small Set of Ethical Challenges For Elder-care Robots“, mit Vivek Nallur). Session 19 („Robots at Work“) wurde von Valeria Martino („Trusting Workers: Information and Sociability in the Digital Age“), Rua Williams („All Robots Are Disabled“) sowie Anna Dobrosovestnova und Tim Reinboth („Mapping Ambiguities of Helping Commercial Delivery Robots“) bestritten. Tatsächlich sind sowohl autonome als auch ferngesteuerte Transportroboter immer wieder auf Hilfe angewiesen, etwa wenn sie feststecken. Nach dem Lunch bildete die Panel Discussion, geleitet von Robert Sparrow, den Abschluss. Der australische Philosoph fragte Johanna Seibt, was Philosophen besser machen könnten. Sie forderte diese auf, zu den Robotikkonferenzen zu gehen und von ihnen zu lernen. Umgekehrt ermahnte sie die Robotiker, die Leistung der Philosophen zu achten. Zahlreiche weitere Statements und Kommentare folgten. Die Robophilosophy hat sich erneut als führende Veranstaltung für Soziale Robotik behauptet. Weitere Informationen zur Konferenz über cas.au.dk/en/robophilosophy/conferences/rpc2022.
Abb.: Pepper mit einer Lernanwendung von Sara Zarubica
Der Nachmittag des dritten Tags der Robophilosophy 2022 startete mit drei Sessions und einem Workshop. Session 17 („Social Norms and Roles II“) wurde bestritten von Jaime Banks („Breaking the Typecast? Moral Status and Trust in Robotic Moral Patients“, mit Kevin Koban und Brad Haggadone), Tom Coggins („Called Back on Stage: Dramaturgic Analysis, Domestic Social Robots, and Privacy“) sowie Keren Mazuz („Folding and Unfolding Human-Humanoid Robot Interactions: Through an Anthropological Analysis of Play“, mit Ryuji Yamazaki). Keren Mazuz ging auf den Telenoid ein, der aus der Forschung von Hiroshi Ishiguro bekannt ist (und der ein Vorgänger und Verwandter von Hugvie ist). Nach der Kaffeepause hielt Rachid Alami die unterhaltsame und reichhaltige Keynote „Decisional issues for Human-Robot Joint Action“. Er zeigte einen Ausschnitt aus dem Film „Modern Times“ (1936) von und mit Charlie Chaplin mit einem Fütterroboter, erwähnte Systeme und Konzepte wie BDI Systems, wobei die Abkürzung für „beliefs“, „desires“ und „intentions“ steht, und die Human-Robot Joint Action. Danach fuhr man mit dem Schiff zum Dinner auf das Suomenlinna Fortress Island.
Der Vormittag des dritten Tags der Robophilosophy 2022 begann mit der Keynote „Robots, Institutional Roles and Functions“ von Seumas Miller. Er schloss bestimmte Fähigkeiten und Eigenschaften von Robotern kategorisch aus, was in der Diskussionsrunde die Kritiker auf den Plan rief. Seine Behauptung, Roboter könnten keine moralischen Agenten (also keine moralischen Subjekte) sein, konterte Catrin Misselhorn, eine erfahrene Maschinenethikerin, mit der Feststellung, sie könnten durchaus funktionale moralische Agenten sein, wenn auch keine vollständigen. Tatsächlich werden seit vielen Jahren moralische Maschinen in genau diesem Sinne gebaut: Sie erhalten moralische Regeln und halten sich daran. Es folgten am Vormittag drei Sessions und ein Workshop. Bei Session 12 („HRI I“) sprachen u.a. Kerstin Fischer und Johanna Seibt. Session 14 („Social norms and roles I“) wurde mit Vorträgen von Anna Strasser und Michael Wilby („The AI-Stance: Crossing the Terra Incognita of Human-Machine Interactions?“), Kirsikka Kaipainen („Identifying Opportunities for Social Robots in Youth Services: A Case Study of a Youth Guidance Center“, mit Salla Jarske und Kaisa Väänänen) sowie Laetitia Tanqueray und Stefan Larsson („What Norms Are Social Robots Reflecting? A Socio-Legal Exploration on HRI Developers“) bespielt. Danach ging es in die Mittagspause.
Der zweite Tag der Konferenz wurde von einem Vortrag von Virginia Dignum über „Responsible AI: From Principles to Action“ eröffnet. Bis zum Lunch gab es vier parallele Sessions. Session 6 („Robots in Elderly Care“) umfasste die Talks von Migle Laukyte („Right to Robot or a Duty to Older Generations“) und Peter Remmers („Social Robots in Care Facilities“, zusammen mit Nele Fischer). Workshop 3 („ELSI of the Avatar Symbiotic Society“) wurde von Hiroshi Ishiguro mit „Realisation of the Avatar Symbiotic Society: The Concept and Technologies“ eröffnet. Anders als 2018 war er nicht vor Ort, sondern über Zoom zugeschaltet. Seine Vision ist, dass im Jahre 2050 viele Menschen einen oder mehrere Avatare besitzen, wobei er damit nicht virtuelle, sondern physische Repräsentanten meint. Der eine oder andere Teilnehmer fragte sich, warum er nicht seinen eigenen Avatar, den Geminoid, nach Helsinki geschickt hatte. Parallel fanden drei Sessions statt. In Session 7 („Relational Accounts“) stellte Miriam Gorr in „How We Respond to Robots and Whether It Matters Morally“ die Ansätze von John Danaher, Robert Sparrow and Mark Coeckelbergh zum moralischen Status von Maschinen auf den Prüfstand. Nach der Kaffeepause folgten zwei Workshops und zwei Sessions. In Session 10 („Robots in Healthcare II“) ging Iva Apostolova auf „The Significance of the Sense of Touch for the Use of Social Robots in Care Settings“ ein. Oliver Bendel wies in der Diskussionsrunde auf Umarmungsroboter, Liebespuppen und Sexroboter hin. Den Schlusspunkt bildete die Keynote „Socially Assistive Robotics – Methods and Implications for the Future of Work and Care“ von Maja Matarić. Sie kombiniert die Präsenz der Roboter und deren Funktionen mit Mixed Reality. Danach ging es in die nahegelegene City Hall, wo die Stadt Helsinki die Wissenschaftler empfing und umsorgte.
Nach Worten der Begrüßung von Raul Hakli, Pekka Mäkelä und Johanna Seibt startete die Robophilosophy 2022 mit einem Vortrag von Sven Nyholm zum Thema „A New Control Problem? Humanoid Robots, AI, and the Value of Control“. In Session 1 („Robots in Law and Policing“) sprachen danach Oliver Bendel („Robots in Policing“), Cindy Friedman („Granting Negative Rights to Humanoid Robots“) und Jakob Stenseke („The Use and Abuse of Normative Ethics for Moral Machines“). Parallel fanden drei Workshops statt, darunter „Regulation of the Use of Social Robotics in Care Settings: A Simulation“. Im Anschluss wurden vier Poster präsentiert, eines davon von Katharina Kühne, Melinda A. Jeglinski-Mende und Oliver Bendel („Tamagotchi on our couch: Are social robots perceived as pets?“). Am späteren Nachmittag referierte David Gunkel zum Thema „Robots Should Not be Slaves“ – eine Auffassung, die etwa Joanna Bryson oder Oliver Bendel nicht in dieser Weise teilen. Er leitete den Workshop, bei dem mehrere Vorträge gehalten und ganz unterschiedliche Ansichten ausgetauscht wurden. Parallel fanden ein weiterer Workshop sowie Session 2 („Robots in Education“) statt. Die Robophilosophy gilt als die wichtigste Konferenz zu sozialen Robotern aus gesellschaftlicher Perspektive. Sie findet vom 16. bis zum 19. August 2022 an der Universität Helsinki statt.
Abb.: Der soziale Roboter Pepper mit einer Lernanwendung
Polizeieinheiten auf der ganzen Welt nutzen seit Jahren mobile Roboter, etwa zum Sprengen von Objekten oder zum Überwachen von Arealen. Die Mitnahme von Spot bei einem Einsatz des NYPD hat für einigen Wirbel gesorgt. An der Hochschule für Wirtschaft erforscht man den Einsatz von Servicerobotern und sozialen Robotern in der Polizeiarbeit. Im April 2022 wurde das Paper „Robots in Policing“ von Oliver Bendel bei der Robophilosophy 2022 angenommen. Es zeigt auf, wie Roboter die Polizei als soziale Einrichtung und deren Arbeit als soziale Arbeit verändern können. In einer Abschlussarbeit zu Polizeirobotern an der Hochschule für Wirtschaft FHNW, vorgelegt von Alan Chethipuzha und betreut von Oliver Bendel, wurden Erkenntnisse aus einer nichtrepräsentativen Onlineumfrage und zwei Experteninterviews verarbeitet. Die Akzeptanz der Befragten in Bezug auf autonome Polizeiroboter in der Schweiz ist sehr niedrig. Das Sammeln von personenbezogenen Daten mit Hilfe von mobilen Robotern würde als Eingriff in die Privatsphäre gesehen. Bürger fühlten sich konstant beobachtet, wenn ein autonomer Roboter mit Kameras auf den Straßen unterwegs wäre. Die beiden Experten – ein Robotiker und ein Chef der Spezialfahndung in der Kriminalabteilung – sehen zudem aktuell keine möglichen Einsatzgebiete für autonome Polizeiroboter in der Schweiz sowie auch keinen Mehrwert. Ferngesteuerte Roboter wie Drohnen und Raupenfahrzeuge hingegen haben ihrer Ansicht nach jetzt und künftig eine hohe Bedeutung. Die Abschlussarbeit „Serviceroboter und soziale Roboter in der Polizeiarbeit“ von Alan Chethipuzha liegt seit Juli 2022 vor.
Choices war im Gespräch mit Prof. Dr. Oliver Bendel, Technikphilosoph, Informations- und Maschinenethiker aus Zürich. Es ging um Serviceroboter und um soziale Roboter, um das Verhältnis zu ihnen und die Beziehungen mit ihnen. Auch die Stimmen von Robotern und Sprachassistenten waren ein Thema. Die Stimme allein hat eine große Anziehungskraft und bringt uns dazu, uns in jemanden oder etwas zu verlieben. 1989 startete das Magazin als Filmkunstmagazin in Köln. Heute wird es laut Website auch gerne gelesen im Kölner Umland, in Leverkusen und in Bonn. Zugleich hat es sich thematisch erweitert und gewandelt. Es versteht sich als ein breit aufgestelltes Kulturmagazin entwickelt, ohne dass das Augenmerk auf Filmkunst vernachlässigt werde. „Seit gut einem Jahr wurde choices erweitert durch Beiträge zu streitbaren Themen, wie z.B. das Juni-Thema EUROPA IN KÖLN.“ (Website choices.de) Das Interview mit dem Titel „Wir werden Menschen an Androiden verlieren“ ist am 25. Juli 2022 in der Onlineausgabe erschienen. Zusätzlich gibt es eine kürzere Version in der Printausgabe.
Das CARE-MOMO („MOMO“ steht für „Morality Module“ bzw. „Moralmodul“) soll den Assistenzroboter Lio von F&P Robotics erweitern. Es baut auf dem MOME auf, dem Moralmenü, das bereits 2019/2020 entwickelt und 2020 auf der Robophilosophy vorgestellt wurde. Mit Hilfe von Schiebereglern auf dem Display von Lio kann der Pflegebedürftige (bei Bedarf zusammen mit der Pflegekraft oder dem Angehörigen) seine Präferenzen wählen und so auf einfache Weise seine moralischen Vorstellungen und grundsätzlichen Einstellungen übertragen. Marc Heimann erarbeitete ab Frühjahr 2022 im Rahmen seiner Abschlussarbeit die Optionen, die in einem Brainstorming mit dem Betreuer Oliver Bendel ergänzt und von F&P Robotics begutachtet wurden. Implementiert wird bis Mitte August ein Moralmenü, das die drei Bereiche „Soziales“, „Transparenz“ und „Funktionalität“ umfasst. Unter „Soziales“ findet sich etwa die Frage „Soll Lio diskret sein, wenn ich in einer intimen Situation bin?“. Der Roboter soll sich gegebenenfalls wegdrehen oder zeitweise ausschalten. Der Bereich „Transparenz“ enthält die Frage „Soll Lio mitteilen, wenn die Kamera eingeschaltet oder benutzt wird?“. Das CARE-MOMO wird als Webservice mithilfe von Spring prototypisch umgesetzt. Verwendet werden HTML, CSS und JavaScript sowie das Bootstrap-Framework für die Webseite und Java, JSON und REST für die Services und das Back-End. Die Firma entscheidet dann in der Folge, ob das Moralmodul gesamthaft oder teilweise für das Produkt übernommen wird.
Abb.: 20 Konzepte/Artefakte der Maschinenethik und Sozialen Robotik
Die Medien interessieren sich stark für die Sicht der Technikphilosophie und der Informations-, Roboter- und Maschinenethik auf soziale Roboter und ähnliche Systeme. Im Juni und Juli 2002 waren zwei Fernsehsender an der Hochschule für Wirtschaft FHNW, um die Arbeit von Prof. Dr. Oliver Bendel kennenzulernen und Bilder und O-Töne einzufangen. 3sat wird eine Sendung zur Mensch-Maschine-Interaktion und zur Sozialen Robotik machen, BILD LIVE einen Beitrag zum Cybrothel in Berlin. Auf der Website des Wissenschaftlers ist zu lesen: „Oliver Bendel verortet sich in der Technikphilosophie, wobei er auf Roboter und künstliche Intelligenz fokussiert. Er untersucht das Verhältnis zwischen Mensch bzw. Tier und Maschine und fragt danach, wie die Maschine der Gegenwart und Zukunft beschaffen ist, sein wird und soll.“ Dabei entwickelt er zusammen mit seinen Teams aus der Maschinenethik heraus spezielle KI-Systeme und tierfreundliche Roboter als Prototypen, um Möglichkeiten aufzuzeigen und Thesen zu überprüfen. Seit 2012 sind 13 Konzepte und Artefakte entstanden, die auf Konferenzen wie AAAI Spring Symposia, ISAIM, Robophilosophy und CHI sowie in Journals wie Künstliche Intelligenz, AI & Society, Paladyn – Journal of Behavioral Robotics und Frontiers of Animal Science vorgestellt wurden.
Abb.: Oliver Bendel mit Pepper (Foto: Sara Zarubica)
In San Francisco haben sich im Juni 2022 Robotertaxis von Cruise auf einer Kreuzung getroffen und diese über Stunden blockiert. Dabei handelte es sich natürlich um einen technischen Fehler, keine echte Versammlung und keinen eigentlichen Aufstand. Der Vorgang erinnert dennoch an die Kurzgeschichte „Sally“ von Isaac Asimov aus dem Jahre 1953. Darin geht es um eine Farm, auf der ausgediente Privatautomatics (auch „Automatobile“ genannt), selbstständig fahrende Autos, ihr Gnadenbrot erhalten. Sally ist ein Cabriolet und besitzt „die schönsten, feinsten Linien“. Wie die anderen Automatics kann sie sich putzen, ja sich sogar wachsen und polieren. Sie ist nicht nur attraktiv, sondern auch frei, geradezu autonom. In ihrer Zeit auf der Farm hat „nie ein menschliches Wesen hinter ihrem Lenkrad gesessen“. Ein Bösewicht will die besonderen Autos ausschlachten. Doch diese jagen und eskortieren ihn, wobei Sally eine heldenhafte Rolle spielt. Am Ende wird er von seinem eigenen Bus getötet. Es stellt sich heraus, dass die Autos miteinander kommunizieren können, und offensichtlich haben die Automatobile den Automatobus angestiftet. Der Artikel „Asimovs Automatobile: Selbstständig fahrende Autos in Fiktion und Realität und als Gegenstand der Maschinenethik“ von Oliver Bendel, erschienen in Telepolis am 27. August 2013, geht auf die Kurzgeschichte im Detail ein und stellt einen Bezug zur Maschinenethik her.
