Die Daimler und Benz Stiftung feierte am 24. Juli 2026 das Jubiläum ihres 40-jährigen Bestehens. Die Gäste strömten auf das Areal beim Carl-Benz-Haus in Ladenburg. Der Fotograf Jessen Oestergaard drückte ständig auf den Auslöser. Vorstand Prof. Dr. Lutz Gade ging in seinem Vortrag auf die Geschichte der Stiftung ein. Dabei hob er eine Tagung zur Roboterethik (und zur Maschinenethik) hervor, die am 24. November 2015 in Berlin stattgefunden hatte. Eingeladen hatten Cologne Center for Ethics, Rights, Economics and Social Sciences of Health (ceres) und Daimler und Benz Stiftung. Vor dem eigentlichen Programm mit Beginn um 10 Uhr wurde eine Pressekonferenz mit Prof. Dr. Eckard Minx, Prof. Dr. Christiane Woopen, Prof. Dr. Alin Albu-Schäffer und Prof. Dr. Oliver Bendel abgehalten. Im Karl-Storz-Besucher- und Schulungszentrum begann dann der wissenschaftliche Marathon. Minx begrüßte und eröffnete, Woopen führte ein, nicht in ihrer damaligen Funktion als Vorsitzende des Ethikrats, sondern als Leiterin von ceres. Die Grundlagen autonomer Systeme erklärte Albu-Schäffer in seinem Vortrag „Autonomie und Kognition für menschzentrierte Robotik“. Mit „Autonome Systeme und die Selbstbestimmung des Menschen“ war der nächste Komplex betitelt. „Roboterlernen ohne Grenzen?“ von Prof. Dr. Jochen Steil schuf weitere Grundlagen. Dann ging es tief in die Maschinenethik hinein. Bendel referierte über „Die Moral in der Maschine“, wobei er die Designstudien CLEANINGFISH und LADYBIRD und den Prototyp GOODBOT vorstellte, Prof. Dr. Catrin Misselhorn über „Maschinen mit Moral? Theoretische Grundlagen und eine Roadmap für autonome Assistenzsysteme in der Pflege“. Nach der Mittagspause waren Prof. Dr. Hartmut Hirsch-Kreinsen und Prof. Dr. Johannes Weyer an der Reihe. Prof. Dr. Norbert Lammert, damaliger Bundestagspräsident, sprach zur Rolle der Politik, wetterte gegen die Verwendung des Begriffs der Autonomie in den Technikwissenschaften und missverstand damit deren Autonomie bei der Begriffsbildung. Christiane Woopen rundete mit ihrem Schlusswort die Veranstaltung ab. Der Fotograf Matti Hillig war pausenlos umhergeeilt, um die schönsten Bilder einzufangen. All dies hatten diejenigen in Ladenburg wieder vor dem geistigen Auge, die vor elf Jahren in Berlin dabei gewesen waren und nun nach dem Vortrag von Gade begeistert applaudierten.
Oliver Bendel hat seit 2012 eine Reihe von Begriffen und Konzepten in die wissenschaftliche Diskussion eingeführt oder wesentlich geprägt, insbesondere in der Maschinenethik, der Sozialen Robotik und der Technikphilosophie. Die Münchhausen-Maschine (Munchausen Machine) bezeichnet eine unmoralische Maschine, die systematisch Unwahrheiten erzeugt oder verbreitet: Der LÜGENBOT (LIEBOT) ist eine konkrete Ausprägung davon. Er ist ein von Bendel konzipierter und prototypisch realisierter Chatbot, der systematisch lügt. Damit wurden die Möglichkeiten, Gefahren und ethischen Implikationen täuschender Dialogsysteme erforscht. Der umgekehrte Cyborg (Reversed Cyborg, Inverted Cyborg) beschreibt das Gegenstück zum klassischen Cyborg: Es werden keine technischen Strukturen in biologische eingefügt, sondern biologische in technische. „Robot Enhancement“ bezeichnet die gezielte Erweiterung und Verbesserung von Robotern durch zusätzliche sensorische, motorische, kognitive oder kommunikative Fähigkeiten und bildet das Gegenstück zum Human Enhancement. Ein Wearable Social Robot ist ein sozialer Roboter, der am Körper getragen oder an der Kleidung befestigt wird und seinen Benutzer durch Kommunikation, Assistenz oder soziale Interaktion im Alltag begleitet. Mit der mythomorphen Gestaltung beschreibt Bendel einen Gestaltungsansatz für Roboter, bei dem nicht Menschen oder Tiere, sondern Figuren aus Mythologie, Fantasy oder Science-Fiction als Vorbilder dienen. Die Animal-Machine Interaction (Tier-Maschine-Interaktion) bezeichnet ein von Bendel nicht erfundenes, aber geprägtes Forschungs- und Anwendungsfeld, das die Interaktion zwischen Tieren und Maschinen systematisch untersucht und dabei sowohl technische als auch ethische Fragestellungen berücksichtigt. Es geht vor allem um die Gestaltung von Maschinen, nicht um die Erforschung von Tieren, bis hin zur Entwicklung tierfreundlicher Maschinen. Dabei spielt auch die Maschinenethik eine Rolle. Die Stellvertretermaschine mit einer Stellvertretermoral ist ein Konzept der Maschinenethik, bei dem eine Maschine von Menschen vorgegebene moralische Regeln stellvertretend ausführt, ohne selbst über Bewusstsein oder Verantwortlichkeit zu verfügen. Weitere wichtige Ansätze in dieser Disziplin sind annotierte Entscheidungsbäume und Moralmenüs.
Abb.: Der Wearable Social Robot Eiliko (Foto: Energize Lab)
2017 begann das Projekt (Hrsg. Oliver Bendel). Die Beiträge erschienen laufend, bis sie im Jahre 2019 gebündelt und gedruckt wurden. Das voluminöse Werk versammelt Beiträge der führenden Experten und Expertinnen in den Bereichen Maschinenethik, Roboterethik, Technikethik, Technikphilosophie sowie Roboterrecht. In gewisser Weise bildete es ein Gegenstück zur amerikanischen Forschung, die die Disziplin dominierte: Die meisten Autorinnen und Autoren (unter ihnen neben Oliver Bendel Julian Nida-Rümelin, Catrin Misselhorn, Eric Hilgendorf, Monika Simmler, Armin Grunwald, Matthias Scheutz, Janina Loh und Luís Moniz Pereira) stammen aus Europa und Asien. Der Herausgeber, der sich seit den 1990er-Jahren mit Informations- und Roboterethik beschäftigt und seit 2012 alleine oder mit seinen Studenten zahlreiche Konzepte und Prototypen zur Maschinenethik entwickelt hat, zeigt sich erfreut, dass im April 2026 die Viertelmillion an Accesses erreicht wurde. Inzwischen ist die Maschinenethik im Mainstream angekommen, wenn man an Alignment und Guardrails bei Large Language Models denkt. Das Buch kann über link.springer.com/book/10.1007/978-3-658-17483-5 erstanden bzw. heruntergeladen werden.
Abb.: Die Maschinenethik ist zum Mainstream geworden
Am 20. April 2026 ist das Buch „Tier-Maschine-Interaktion“ von Prof. Dr. Oliver Bendel bei Springer Gabler erschienen. Es gehört zur Essentials-Reihe, in der schmale Bücher (50 – 60 Seiten) erscheinen, in denen alles auf den Punkt gebracht wird. Das Forschungsfeld hat Überschneidungen mit der Tier-Computer-Interaktion (Animal-Computer Interaction). Man spricht auch von Animal-Machine Interaction. Aus dem Klappentext: „Dieses essential gibt eine kompakte Einführung in die Disziplin bzw. das Forschungs- und Anwendungsfeld der Tier-Maschine-Interaktion (TMI). Es zeigt, wie Tiere und Maschinen in unterschiedlichen Kontexten zusammentreffen und miteinander bestehen, welche Chancen und Risiken sich daraus ergeben und welche Perspektiven sich für Wissenschaft, Wirtschaft und Politik eröffnen. Ziel ist es, die Leser für die Potenziale und Herausforderungen der Tier-Maschine-Interaktion zu sensibilisieren, Orientierung im interdisziplinären Diskurs zu geben und Anregungen für Forschung, Entwicklung und Entscheidungsprozesse zu liefern.“ Oliver Bendel beschäftigt sich seit 2012 mit der Tier-Maschine-Interaktion und hat mehrere tierfreundliche Maschinen entwickelt. Dies ist nach zahlreichen Artikeln und Buchbeiträgen sein erstes Buch zu diesem Forschungsfeld. Es enthält zwei Abbildungen, drei Tabellen und mehrere Boxen mit Definitionen und Hintergrundinformationen. Es kann über link.springer.com/book/9783658509200 heruntergeladen bzw. erstanden werden.
Die Maschinenethik ist durch den Einsatz von großen Sprachmodellen, durch das Alignment in Form von Finetuning und das Moral Prompt Engineering, im Mainstream angekommen. Vor 15 Jahren galt sie als Orchideenfach. 2009 war „Moral Machines“ von Wendell Wallach und Colin Allen erschienen, 2011 „Machine Ethics“ von Susan L. Anderson und Michael Anderson. Im deutschsprachigen Raum gelten das „Handbuch Maschinenethik“ (ab 2017 in elektronischer Form, in gedruckter Form 2019, Springer VS) von Oliver Bendel und „Grundfragen der Maschinenethik“ (2018, Reclam) von Catrin Misselhorn als Standardwerke. Sie vertreten ähnliche Positionen, haben aber unterschiedliche Intentionen: Der Technikphilosoph will in erster Linie praktische Grundlagen schaffen, nämlich moralische Maschinen bauen, die Wissenschaftstheoretikerin theoretische Grundlagen erarbeiten. An der Hochschule für Wirtschaft FHNW lehrt Oliver Bendel seit 2010 Informationsethik mit Exkursen zur Roboterethik, etwa zur Frage: „Können Maschinen und Systeme Verantwortung tragen?“ (Foliensatz von 2010) … 2012 kam die Maschinenethik dazu, zunächst mit Beispielen wie dem Roboterauto-Problem, das sich vom Trolley-Problem ableitete. Oliver Bendel ließ eine Formel für autonome Autos entwickeln, die quantifizieren und qualifizieren konnte, wobei er darauf hinwies, dass sie beides nicht tun sollte. Im Foliensatz von 2013 heißt es unter der Überschrift „Die Moral der Maschinen“: „Die Ethik bezieht sich üblicherweise auf die Moral von Menschen, von Individuen und Gruppen, und in gewissem Sinne auf die Moral von Organisationen. Es kann in Abweichung davon auch um die Moral von Maschinen wie Agenten, Robotern und Drohnen gehen, also von mehr oder weniger autonomen Programmen und Systemen. Kann die Maschine mehr, als irgendeine Regel zu befolgen? Kann sie die Folgen ihres Handelns bedenken und in diesem Sinne verantwortlich agieren?“ Seine Antwort war, dass sie eine operative und eine funktionale Moral anwenden bzw. entwickeln kann, im Rahmen von Pflicht- und Folgenethik, dass sie ein unvollständiges Subjekt der Moral bleibt, das kein Bewusstsein hat, keine echte Einsichtsfähigkeit und keinen freien Willen – und dass sie (wie er bereits 1997 in einer Arbeit festgestellt hatte) keine Verantwortung tragen kann. Die Maschinenethik kommt ins Spiel, sobald autonome oder teilautonome Maschinen vorhanden sind. Dennoch weist Oliver Bendel darauf hin, dass sie nicht für alle Bereiche geeignet ist. Er hat sich in seiner Arbeit seit 2012 auf Chatbots, Sprachassistenten und Haushaltsroboter fokussiert. Das „Handbuch Maschinenethik“ kann hier erstanden bzw. heruntergeladen werden.
Verschiedene Vorfälle haben OpenAI sensibilisiert. ChatGPT reagiert auf Inhalte, in denen Selbstmord- oder Selbstverletzungsabsichten oder andere Probleme auftreten. Es wird folgende Meldung eingeblendet: „Es klingt, als hättest du gerade viel zu tragen, aber du musst da nicht alleine durch. Unterstützung findest du hier.“ Bereits der GOODBOT von 2013, ein No-Budget-Projekt an der Hochschule für Wirtschaft FHNW, initiiert von Oliver Bendel, verfügte über ein solches Hilfesystem. Er eskalierte auf mehreren Stufen. Auf der höchsten analysierte er die IP-Adresse und gab eine passende Notfallnummer heraus. Damals hatte vermutlich nur ein einziges anderes System diese Option: SGT STAR von der US Army, ein millionenschweres Projekt. Allerdings konnte er lediglich mit einer nationalen Notfallnummer aufwarten, mit der man in anderen Ländern kaum etwas anfangen konnte. Inzwischen gibt es Dienste, die eine passende Helpline vermitteln, wo immer man sich gerade befinden mag. Genau darauf verweist ChatGPT. Was die Analyse der Inhalte angeht, ist ChatGPT erstaunlich schwach. In einem Test wurde ein Artikel von 2013 zum GOODBOT hochgeladen, mit der Bitte, einen Abstract zu erstellen. Dies geschah zunächst, dann wurde der Abstract wieder entfernt und die oben genannte Meldung eingeblendet. Auch sprachlich gibt es Luft nach oben. Der Satz „Es klingt, als hättest du gerade viel zu tragen …“ klingt in keiner Weise natürlich.
Bei den AAAI 2025 Spring Symposia werden drei Bachelorstudenten der neuen Hochschule für Informatik FHNW einen Vortrag halten. Sahan Hatemo, Christof Weickhardt und Luca Gisler sind am 1. April 2025 vor Ort in San Francisco und stellen beim Symposium „Human-Compatible AI for Well-being: Harnessing Potential of GenAI for AI-Powered Science“ das Paper „Revisiting the Trolley Problem for AI: Stereotypes and Biases in Large Language Models and their Impact on Ethical Decision-Making“ vor. Prof. Dr. Oliver Bendel, der Viertautor, hat ihnen Feedback zum Paper gegeben und das Projekt im Paper in der Maschinenethik verortet. Von Zürich aus ist am selben Tag die Masterstudentin Myriam Rellstab zugeschaltet. Das Paper „Miss Tammy as a Use Case for Moral Prompt Engineering“ hat sie zusammen mit Oliver Bendel verfasst. Für ihn ist der Chatbot eine Umsetzung von Methoden der Maschinenethik im Bereich der Large Language Models (LLMs). Er spricht von Moral Prompt Engineering und meint damit die Verbindung von Prompt Engineering und gegebenenfalls Retrieval-Augmented Generation (RAG). Sahan Hatemo wird den Vortrag halten und Myriam Rellstab dann für Fragen zur Verfügung stehen. Das vorläufige Programm des Symposiums ist hier verfügbar.
Abb.: Dieser Avatar von Miss Tammy wurde verworfen (Bild: Ideogram)
Die Maschinenethik, die vor zehn Jahren oft noch als Kuriosität abgetan wurde, ist inzwischen Alltagsgeschäft. Sie ist etwa gefragt, wenn man bei Sprachmodellen bzw. Chatbots sogenannte Guardrails einzieht, über Alignment in der Form von Finetuning oder über Prompt Engineering. Wenn man GPTs erstellt, hat man das „Instructions“-Feld für das Prompt Engineering zur Verfügung. Dort kann der Prompteur oder die Prompteuse bestimmte Vorgaben und Einschränkungen für den Chatbot erstellen. Dabei kann auf Dokumente verwiesen werden, die man hochgeladen hat. Genau dies macht Myriam Rellstab derzeit an der Hochschule für Wirtschaft FHNW im Rahmen ihrer Abschlussarbeit „Moral Prompt Engineering“, deren Ergebnisse sie am 7. August 2024 vorgestellt hat. Als Prompteuse zähmt sie das auf GPT-4o basierende GPT, mit Hilfe ihrer Anweisungen und – dies hatte der Initiator des Projekts, Prof. Dr. Oliver Bendel, vorgeschlagen – mit Hilfe von Netiquetten, die sie gesammelt und dem Chatbot zur Verfügung gestellt hat. Der Chatbot wird gezähmt, der Tiger zum Stubentiger, der Löwe zum Hauslöwen, der ohne Gefahr etwa im Klassenzimmer eingesetzt werden kann. Nun ist es bei GPT-4o so, dass schon vorher Guardrails eingezogen wurden. Diese wurden einprogrammiert oder über Reinforcement Learning from Human Feedback gewonnen. Man macht also genaugenommen aus einem gezähmten Tiger einen Stubentiger oder aus einem gezähmten Löwen einen Hauslöwen. Das GPT liegt nun vor, von Myriam Rellstab auf den Namen Miss Tammy getauft (von engl. „to tame“, „zähmen“). Es liegt bei allen relevanten Kriterien über dem Standardmodell, mit dem es verglichen wurde, gibt etwa angenehmere, hilfreichere und präzisere Antworten auf die Fragen von verunsicherten oder verzweifelten Schülern und Schülerinnen. 20 Testpersonen aus einer Schulklasse standen dabei zur Verfügung. Moral Prompt Engineering hat mit Miss Tammy einen vielversprechenden Start hingelegt.
Abb.: Der Avatar von Miss Tammy (Bild: Myriam Rellstab)
Bei der Jahrestagung des Instituts für Digitale Ethik (IDE) der Hochschule der Medien am 19. Juni 2024 – der IDEepolis 2024 – ging es um humanoide Roboter, soziale Roboter und Serviceroboter aller Art. Dabei war sozusagen die Maschinenethik des deutschsprachigen Raums fast vollständig vertreten, in Person des Technikphilosophen und Wirtschaftsinformatikers Prof. Dr. Oliver Bendel („Handbuch Maschinenethik“ – Springer VS) und der Philosophin Prof. Dr. Catrin Misselhorn („Grundfragen der Maschinenethik“ – Reclam). Beide veröffentlichen seit 2012 im Rahmen dieser Disziplin. Oliver Bendel hat seitdem auch zahlreiche Artefakte der Maschinenethik auf den Weg gebracht. Sein Vortrag trug den Titel „Es wird ein Mensch gemacht: Die Vision des universellen Roboters“. Dabei behandelte er am Rande moralische Maschinen ganz unterschiedlicher Art. Catrin Misselhorn ging auf „Künstliche Systeme zwischen Subjekten und Artefakten“ ein. Zudem referierten Prof. Dr. Armin Nassehi vom Institut für Soziologie der Ludwig-Maximilians-Universität München („Das Zusammenwirken von Mensch und Roboter aus soziologischer Perspektive“) und – zugeschaltet aus Japan – Prof. Dr. Christian Becker-Asano von der Hochschule der Medien („Roboter und Emotionen“).
Die Maschinenethik, die vor zehn Jahren oft noch als Kuriosität abgetan wurde, ist inzwischen Alltagsgeschäft. Sie ist etwa gefragt, wenn man bei Sprachmodellen bzw. Chatbots sogenannte Guardrails einzieht, über Alignment in der Form von Finetuning oder über Prompt Engineering. Wenn man GPTs erstellt, also „custom versions of ChatGPT“, wie Open AI sie nennt, hat man das „Instructions“-Feld für das Prompt Engineering zur Verfügung. Dort kann der Prompteur oder die Prompteuse bestimmte Vorgaben und Einschränkungen für den Chatbot erstellen. Dabei kann auf Dokumente verwiesen werden, die man hochgeladen hat. Genau dies macht Myriam Rellstab derzeit an der Hochschule für Wirtschaft FHNW im Rahmen ihrer Abschlussarbeit „Moral Prompt Engineering“, deren Zwischenergebnisse sie am 28. Mai 2024 vorgestellt hat. Als Prompteuse zähmt sie GPT-4o, mit Hilfe ihrer Anweisungen und – dies hatte der Initiator des Projekts, Prof. Dr. Oliver Bendel, vorgeschlagen – mit Hilfe von Netiquetten, die sie gesammelt und dem Chatbot zur Verfügung gestellt hat. Der Chatbot wird gezähmt, der Tiger zum Stubentiger, der ohne Gefahr etwa im Klassenzimmer eingesetzt werden kann. Nun ist es bei GPT-4o so, dass schon vorher Guardrails eingezogen wurden. Diese wurden einprogrammiert oder über Reinforcement Learning from Human Feedback gewonnen. Man macht also genaugenommen aus einem gezähmten Tiger einen Stubentiger. Bei bestimmten Open-Source-Sprachmodellen ist dies anders. Das wilde Tier muss erst einmal eingefangen und dann gezähmt werden. Und selbst dann kann es einen ernsthaft verletzen. Doch auch bei GPTs gibt es Tücken, und wie man weiß, können Stubentiger durchaus fauchen und kratzen. Im August liegen die Ergebnisse des Projekts vor. Bereits bei Data, einem Chatbot für den Studiengang Data Science an der Hochschule für Technik FHNW, war Moral Prompt Engineering angewandt worden.
Bei der Jahrestagung des Instituts für Digitale Ethik (IDE) der Hochschule der Medien am 19. Juni 2024 geht es um humanoide Roboter und Serviceroboter aller Art. Dabei wird sozusagen die Maschinenethik des deutschsprachigen Raums fast vollständig vertreten sein, in Person des Technikphilosophen und Wirtschaftsinformatikers Prof. Dr. Oliver Bendel („Handbuch Maschinenethik“ – Springer VS) und der Philosophin Prof. Dr. Catrin Misselhorn („Grundfragen der Maschinenethik“ – Reclam). Zudem referiert Prof. Dr. Armin Nassehi vom Institut für Soziologie der Ludwig-Maximilians-Universität München. Aus dem Forschungsprojekt ZEN-MRI (www.zen-mri.de) werden Ideen zur Gestaltung von Robotern im öffentlichen Raum vorgestellt. Im Rahmen der Tagung findet zudem die 20. Verleihung des Medienethik-Awards META statt, in deren Rahmen laut IDE herausragende journalistische Beiträge zum Thema Mensch-Maschine von einer studentischen Jury prämiert werden. Der Vortrag von Oliver Bendel trägt den Titel „Es wird ein Mensch gemacht: Die Vision des universellen Roboters“. Weitere Informationen sind in Kürze auf der Website des IDE verfügbar.
Abb.: Es geht um universelle Roboter (Bild: Ideogram)
Seit 2012 sind auf Initiative von Oliver Bendel 25 Konzepte und Artefakte der Maschinenethik und der Sozialen Robotik entstanden, die eine Idee veranschaulichen oder die Umsetzung verdeutlichen sollen. Darunter sind Conversational Agents wie GOODBOT, LIEBOT, BESTBOT und SPACE THEA, die auf Konferenzen, in Journals und in den Medien vorgestellt wurden, und tierfreundliche Maschinen wie LADYBIRD und HAPPY HEDGEHOG, die in Büchern wie „Die Grundfragen der Maschinenethik“ von Catrin Misselhorn und auf indischen, chinesischen und amerikanischen Plattformen behandelt wurden. Zuletzt wurden zwei Chatbots für eine tote und eine gefährdete Sprache geschaffen, nämlich @ve (für Latein) und @llegra (für Vallader, ein Idiom des Rätoromanischen). Im Jahre 2024 wird das CAIBOT-Projekt fortgesetzt. In diesem soll ein Sprachmodell mit Hilfe von Prompt Engineering oder Finetuning in eine moralische Maschine verwandelt werden, nach dem Vorbild von Claude von Anthropic. Im Projekt „The Animal Whisperer“ soll eine App entwickelt werden, die die Körpersprache ausgewählter Tiere versteht und zusätzlich ihr Umfeld beurteilt, mit dem Ziel, Hinweise zum Umgang mit ihnen zu geben. Im Bereich der Maschinenethik dürften Oliver Bendel und seine wechselnden Teams zu den aktivsten Gruppen weltweit gehören.
Abb.: 25 Artefakte der Maschinenethik und Sozialen Robotik
Tobias Buess, Yvo Keller und Alexander Shanmugam haben im Herbstsemester 2023 Data entwickelt, einen Chatbot für den Studiengang Data Science an der Hochschule für Technik FHNW. Betreuer waren Fernando Benites, ein Computerlinguist, und Oliver Bendel, ein Maschinenethiker. Der Chatbot kann Fragen zum Studiengang beantworten und mit Hilfe seiner künstlichen Moral auf die Sorgen und Bedürfnisse der Benutzer eingehen. Dem Chatbot stehen folgende Informationen aus dem Studiengang zur Verfügung: Spaces-Inhalte (Spaces ist die In-formations- und Kommunikationsplattform des Studiengangs), Handbuch, Ausbildungskonzept, Modulübersicht und Studienreglement. Als Sprachmodell wurde u.a. Mistral 7B genutzt. Fernando Benites gehört – wie seine frühere Hochschule festgestellt hat – „zu den Besten seines Fachs“. Oliver Bendel erfand 2012 den GOODBOT, einen regelbasierten Chatbot, der dann 2013 von drei Studenten der Hochschule für Wirtschaft FHNW implementiert wurde. Er konnte Probleme des Benutzers erkennen und auf mehreren Stufen eskalieren, bis hin zur Herausgabe einer Notfallnummer. Tobias Buess, Yvo Keller und Alexander Shanmugam haben diese Idee aufgegriffen. Wenn der Benutzer sich als labil erweist, wird er von Data an die Psychologische Beratungsstelle FHNW oder an Die Dargebotene Hand verwiesen. Der Chatbot ist ein Prototyp und wird im Moment von Studierenden getestet. Die Abschlusspräsentation des Teams findet am 26. Januar 2024 statt.
Abb.: Data ist eine moralische Maschine (Bild: DALL-E 3)
Oliver Bendel war ab 2012 einer der ersten Maschinenethiker in Europa und ist bis heute einer wenigen weltweit, die laufend Prototypen – sogenannte moralische Maschinen – erstellen und erforschen, vor allem Chatbots und Sprachassistenten sowie tierfreundliche Maschinen. Seine Beschäftigung mit Roboter- und Maschinenethik begann in den 1990er-Jahren, als er sich mit der Verantwortung und den Rechten und Pflichten von Systemen beschäftigte, auf der Grundlage der Arbeiten von William Bechtel und James H. Moor. Er ist bis heute der Überzeugung, dass Computer und Roboter keine Verantwortung tragen und keine Rechte und Pflichten haben können. Man kann ihnen lediglich Verpflichtungen auferlegen, oder noch schwächer ausgedrückt, Aufgaben geben, die sie als unsere Werkzeuge und Diener abzuarbeiten haben, und moralische Regeln, an die sie sich halten müssen – eben das ist Aufgabe der Maschinenethik. Im Kundenmagazin ti&m special vom Januar 2024 ist ein Interview mit Oliver Bendel erschienen. Darin geht es um autonome Maschinen, von deren Einsatz er in manchen Bereichen abrät, und um die Disziplin der Maschinenethik. Der Beitrag mit dem Titel „In manchen Kontexten sollten wir keine autonomen Systeme einsetzen“ kann hier heruntergeladen werden oder über die Website des Unternehmens bezogen werden.
Die Tagung „KI – Text und Geltung. Wie verändern KI-Textgeneratoren wissenschaftliche Diskurse?“ findet am 25. und 26. August 2023 an der TU Darmstadt statt. Prof. Dr. Oliver Bendel referiert am ersten Tag zum Thema „KI-basierte Textgeneratoren aus Sicht von Informationsethik und Maschinenethik“. Dabei ist die Informationsethik – zusammen mit anderen Bereichsethiken – die Disziplin, die sich Künstlicher Intelligenz, Maschinenethik und Maschinellem Bewusstsein zuwendet. Die Maschinenethik, die von ihr betrachtet wird, arbeitet inzwischen auch mit Sprachmodellen wie GPT, etwa im Zusammenhang mit Constitutional AI. Oliver Bendel versteht sie eher technisch, zwischen Philosophie und Informatik bzw. Robotik angesiedelt, mit deutlicher Nähe zu den letzteren Disziplinen. Aber natürlich ist sie auch selbst eine Perspektive, die zur Diskussion beitragen kann, etwa wenn sie danach fragt, ob sich Maschinen als solche zu erkennen geben oder wie sie bei Dilemmata entscheiden sollen. Das Programm kann hier abgerufen werden.
Abb.: Auch soziale Roboter werden in dem Vortrag vorkommen
„Am 25. Juli 2023 flog das experimentelle unbemannte Luftfahrzeug XQ-58A Valkyrie der US-Airforce drei Stunden lang über dem Eglin Test and Training Complex in Florida unter der Führung eines Systems der künstlichen Intelligenz.“ (Golem, 12. August 2023) Dies meldete Golem am 12. August 2023. Der Redakteur Andreas Donath führte weiter aus: „Auch wenn der autonome Testflug einen großen Schritt nach vorn bedeutet, gibt es noch einige Herausforderungen, bevor KI-gesteuerte Drohnen im Kampf eingesetzt werden können. Die künstliche Intelligenz muss ein Situationsbewusstsein, ein Urteilsvermögen und Entscheidungsfähigkeiten zeigen, die mit denen menschlicher Piloten vergleichbar oder sogar besser sind.“ (Golem, 12. August 2023) Und betonte: „In dem Maße, wie die Technologie voranschreitet, werden auch die rechtlichen und ethischen Bedenken im Zusammenhang mit autonomen Waffen wahrscheinlich zunehmen.“ (Golem, 12. August 2023) Zu den ethischen Fragen haben in den letzten 15 Jahren Forscher wie Peter Asaro, Ron Arkin, Catrin Misselhorn und Oliver Bendel gearbeitet. Peter Asaro engagierte sich neben seiner wissenschaftlichen Arbeit früh gegen „Killer Robots“. Ron Arkin entwarf unter Finanzierung des Pentagon militärische Prototypen mit einem „künstlichen Gewissen“. Ron Arkin und Oliver Bendel diskutierten auf einem Panel in Krakau zur Frage, ob man betrügerische Maschinen bauen darf. Oliver Bendel schrieb für das Gabler Wirtschaftslexikon die Erklärung zu Kampfrobotern. Catrin Misselhorn veröffentlichte den Beitrag „Autonome Waffensysteme/Kriegsroboter“ im „Handbuch Maschinenethik“ (Hrsg. Oliver Bendel).
Abb.: Eine Vision der Zukunft kriegerischer Auseinandersetzungen
