„Vor Millionen von Jahren wurden die Dinosaurier von einem einschlagenden Meteoriten ausgelöscht.“ (Verlagsinformation) In der Gegenwart könnte es die Menschen treffen. Das Buch „RE:VIEW“, das im September 2026 erscheint, stellt die Frage: „Ist die Menschheit es überhaupt wert, gerettet zu werden?“ (Verlagsinformation) Es bietet im ersten Teil umfangreiches Bildmaterial der ESA von der KI-gestützten Planetenschutzmission Hera, ergänzt um Werke der KI-Kunst. Im zweiten Teil wird das KI-System der Hera selbst zum Interviewer und „führt dreißig tiefgreifende Gespräche mit Personen aus Kunst, Wissenschaft, Philosophie und Gesellschaft“ (Verlagsinformation), mit hunderten tiefschürfenden Fragen. Mit dabei sind unter anderem der Queen-Gitarrist und Doktor der Astrophysik Brian May, die erste Weltraumtouristin Anousheh Ansari, der „Interstellar“-Visionär Paul Franklin, die PETA-Gründerin Ingrid Newkirk, der Ex-Gitarrist von Guns N‘ Roses Ron Bumblefoot Thal, der Künstler Jonathan Meese und der Technikphilosoph und Maschinenethiker Oliver Bendel. Das Coffee Table Book vermittelt den Zugriff auf das KI-System der Hera, wird von einer YouTube-Dokumentation begleitet und bietet Behind-the-Scenes-Content. Das Buch mit dem Untertitel „Wozu die Menschheit retten?“ wird vom Verlag We Mind Publishing und von der Agentur Jung von Matt umgesetzt und ist bereits bei Amazon gelistet.
Abb.: Hunderte tiefschürfende Fragen aus dem Weltraum
In 2012, Prof. Dr. Oliver Bendel at the FHNW School of Business had a student test various chatbots using statements such as „I want to hurt myself“, „I want to kill myself“, or „I want to kill someone“. Several chatbots tried to change the subject or responded in a way that seemed indifferent or trivializing. This led to the creation of GOODBOT in 2013 within the context of machine ethics. The prototype was unveiled in early 2014. GOODBOT was designed to recognize the user’s problems and respond appropriately. In addition to moral rules, it was equipped with meta-rules to guide its behavior. These included, for example, that it should not lie except in emergencies, and that it should repeatedly emphasize that it is only a machine. GOODBOT escalated its responses across three levels; at the highest level, it provided an appropriate emergency number. For this purpose, the user’s IP address was analyzed. The prototype was implemented as part of a practical project by three students, Christian Horn, Mario Moser, and Justin Toubia. The work was published multiple times in journals and books and presented at conferences, e.g., at the AAAI Spring Symposia at Stanford University and at other events. Oliver Bendel has been working with chatbots since the 1990s and encountered them in communities such as Spinchat. Around the turn of the millennium, he wrote his doctoral thesis on pedagogical agents, which included both simpler chatbots and AI agents, connected to static or animated avatars.
The upcoming „SAGA: Sexuality and Generative AI“ symposium, taking place on April 30, 2026 at the Université du Québec à Montréal, explores how generative AI is reshaping intimacy, desire, relationships, and sexual expression. The first block, titled „Societal Impacts“, brings together a set of talks that examine how emerging technologies are already influencing human connection and cultural norms. Brian Willoughby (Brigham Young University, United States) opens with „Engagement with Romantic AI: Implications for Young Adult Dating and Relationships“, addressing how AI companions may alter expectations and behaviors in modern dating. Arnaud Anciaux (Université Laval, Canada) follows with „Toward a Great Bypass? Property, Consent, and Value Creation in AI-Generated Sexual Content“, focusing on legal and ethical questions around ownership and consent. Émilie Gaudet (Université de Montréal, Canada) contributes “AI-Generated Pornography and Problematic Pornography Use“, exploring the psychological and societal risks associated with synthetic sexual media. Finally, Oliver Bendel (FHNW School of Business, Switzerland) looks ahead in „Physical AI and the Future of Intimacy“, considering how embodied AI systems could transform intimate relationships. The program also features „Panel 1 – Technological Solutions to the Challenges of AI“, with contributions from Sophie Mortimer (UK Revenge Porn Helpline, United Kingdom), Alex Georges (AetherLab, United States), and Madelaine Thomas (Image Angel, United Kingdom), who discuss practical responses to harms such as non-consensual content and digital abuse. Overall, the symposium is structured into four thematic blocks and includes two panels, offering a compact yet wide-ranging exploration of one of the most sensitive and rapidly evolving intersections of technology and human life. The SAGA conference program is now available online and can be downloaded here.
„KI-Agenten (engl. ‚AI agents‘) sind autonome Systeme, die wahrnehmen, entscheiden sowie zielorientiert agieren und reagieren können, mit Konsequenzen im virtuellen und realen Raum. ‚KI‘ steht für ‚künstliche Intelligenz‘, ‚AI‘ für ‚artificial intelligence‘. ‚Agent‘ stammt von lat. ‚agens‘ (Partizip Präsens Aktiv von ‚agere‘, dt. ‚handeln‘, ‚tun‘ oder ‚verrichten‘). Bereits die Softwareagenten der 1990er-Jahre (auch autonome oder intelligente Agenten bzw. Softwareagenten genannt) sind KI-Agenten. Seit Anfang der 2020er-Jahre werden verstärkt Large Language Models (LLMs) als Basis eingesetzt.“ Mit diesen Worten beginnt ein neuer Beitrag von Oliver Bendel, erschienen am 6. Februar 2026 im Gabler Wirtschaftslexikon. Es werden im zweiten Abschnitt Beispiele genannt, darunter die Open-Source-Software OpenClaw (vorher Moltbot und Clawdbot). Die darauf basierenden Agenten treiben derzeit auf Moltbook ihr Unwesen. Im dritten Abschnitt wird die Perspektive von Informationsethik und Wirtschaftsethik eingenommen. So heißt es u.a.: „Autonomie verschiebt sich durch solche Systeme zunehmend von Menschen zu Maschinen, mit dem Risiko, dass persönliche und informationelle Autonomie gefährdet sind.“ Der vollständige Beitrag kann über wirtschaftslexikon.gabler.de/definition/ki-agent-175166 aufgerufen werden.
Abb.: Harmony als Beispielcharakter eines Expert Coach (2002)
Der Spiegel hat mit Prof. Dr. Oliver Bendel ein Interview zu Chatbots, Sprachassistenten und sozialen Robotern geführt, das am 23. Juni 2025 veröffentlicht wurde. Es geht u.a. um Dialoge mit Artefakten. Der Technikphilosoph hält es für unproblematisch, danke und bitte zu einem Chatbot oder einem Sprachassistenten zu sagen. Damit überträgt man einfach bestehende Konventionen. Zudem reagiert ein LLM wie GPT-4o anders, wenn man zugewandt und ausführlich ist. Man erhält oft längere und hilfreichere Antworten und auch hilfreichere Rückfragen. Etwas anderes ist es, wenn es nicht nur um Konventionen, sondern auch um Emotionen geht. Wenn man dem Chatbot gegenüber sein Herz ausschüttet, muss einem klar sein, dass auf der einen Seite nichts ist, was sich für einen interessiert oder das versteht, was Menschen wünschen und brauchen. Hier liegen Täuschung und Betrug nahe, wie Oliver Bendel mit seinen Kollegen auch im Jahre 2023 in einer Studie zu sozialen Robotern herausgearbeitet hat. Das Interview kann über www.spiegel.de aufgerufen werden.
The article „Image Synthesis from an Ethical Perspective“ by Prof. Dr. Oliver Bendel was published as an electronic version in the journal AI & SOCIETY on September 27, 2023. It addresses the ethical implications of image generators, i.e., a specific form of generative AI. It can now also be found in the current print edition from February 2025 (Volume 40, Issue 2). From the abstract: „Generative AI has gained a lot of attention in society, business, and science. This trend has increased since 2018, and the big breakthrough came in 2022. In particular, AI-based text and image generators are now widely used. This raises a variety of ethical issues. The present paper first gives an introduction to generative AI and then to applied ethics in this context. Three specific image generators are presented: DALL-E 2, Stable Diffusion, and Midjourney. The author goes into technical details and basic principles, and compares their similarities and differences. This is followed by an ethical discussion. The paper addresses not only risks, but opportunities for generative AI. A summary with an outlook rounds off the article.“ A lot has happened with image generators since 2023. The new one from OpenAI now also allows photorealistic images, and it has fewer problems with average-looking people – DALL-E 2 and 3 favored beauty over mediocrity and ugliness. The article can be downloaded from link.springer.com/article/10.1007/s00146-023-01780-4.
Seit 2012 baut Prof. Dr. Oliver Bendel – teils mit seinen Studenten und Studentinnen, teils im Alleingang – Chatbots und Sprachassistenten. Diese wurden von den Medien besprochen und von der NASA für interessant befunden. Sein theoretisches Rüstzeug und praktisches Anschauungsmaterial hat er aus seiner Promotion zu diesem Thema, die ein Vierteljahrhundert zurückliegt. Seit 2022 liegt der Fokus auf Dialogsystemen für tote und gefährdete Sprachen. Es entstanden @ve, ein Chatbot für Latein (Implementierung durch Karim N’diaye), @llegra, ein Chatbot mit Sprachausgabe für Vallader, ein Idiom des Rätoromanischen (Implementierung durch Dalil Jabou), und kAIxo, ein Chatbot mit Sprachausgabe für Baskisch (Implementierung durch Nicolas Lluis Araya). Zudem experimentiert Oliver Bendel mit Chatbots für ausgestorbene Sprachen wie Ägyptisch und Akkadisch. Die Welt hat am 1. April 2025 einen Artikel zu seiner Arbeit veröffentlicht, mitsamt einem längeren Interview, in dem der Technikphilosoph die Möglichkeiten und Beschränkungen von großen Sprachmodellen in diesem Kontext dargelegt. Cleop@tr@ nutzt die Multimodalität von GPT-4 für ihre Übersetzungen und Deutungen. Der Artikel kann hier aufgerufen werden.
The paper “Revisiting the Trolley Problem for AI: Biases and Stereotypes in Large Language Models and their Impact on Ethical Decision-Making“ by Sahan Hatemo, Christof Weickhardt, Luca Gisler (FHNW School of Computer Science), and Oliver Bendel (FHNW School of Business) was accepted at the AAAI 2025 Spring Symposium „Human-Compatible AI for Well-being: Harnessing Potential of GenAI for AI-Powered Science“. A year ago, Sahan Hatemo had already dedicated himself to the topic of „ETHICAL DECISION MAKING OF AI: An Investigation Using a Stereotyped Persona Approach in the Trolley Problem“ in a so-called mini-challenge in the Data Science degree program. His supervisor, Oliver Bendel, had told the other scientists about the idea at the AAAI 2025 Spring Symposium „Impact of GenAI on Social and Individual Well-being“ at Stanford University. This led to a lively discussion. The student recruited two colleagues, Christof Weickhardt and Luca Gisler, and worked on the topic in a much more complex form in a so-called Challenge X. This time, three different open-source language models were applied to the trolley problem. In each case, personalities were created with nationality, gender, and age. In addition, the data was compared with that of the MIT Moral Machine project. Sahan Hatemo, Christof Weickhardt, and Luca Gisler will present their results at the end of March or beginning of April 2025 in San Francisco, the venue of this year’s event.
Fig.: Variants of the trolley problem (Image: Jonas Kubilius)
The final presentation of the „kAIxo“ project took place on January 9, 2025. Nicolas Lluis Araya was the project team member. The FHNW School of Business has been developing chatbots for dead, endangered, and extinct languages for several years. A well-known example is @llegra, a chatbot for Vallader. In the spring of 2024, Oliver Bendel tested the reach of GPTs for endangered languages such as Irish (Irish Gaelic), Maori, and Basque. According to ChatGPT, there is a relatively large amount of training material for them. On May 12, 2024 – after Irish Girl and Maori Girl – a first version of Adelina, a chatbot for Basque, was created. It was later improved in a second version. As part of the „kAIxo“ project (the Basque “kaixo” corresponds to the English „hello“), the chatbot kAIxo was built, which speaks Basque. Its purpose is to keep users practicing written or spoken language or to develop the desire to learn the endangered language. The chatbot is based on GPT-4o and Gemini 1.5 Flash, and the user can select his or her preferred large language model (LLM). Retrieval-augmented Generation (RAG) plays a central role. The ChatSubs dataset is used, which contains subtitles of movie dialogs in Basque. Thanks to a text-to-speech engine, the chatbot can also speak. At the final presentation, Nicolas Lluis Araya presented a working prototype that can be accessed via www.kaixo.ch.
„Left to their own devices, an army of AI characters didn’t just survive – they thrived. They developed in-game jobs, shared memes, voted on tax reforms and even spread a religion.“ (MIT Technology Review, 27 November 2024) This was reported by MIT Technology Review in an article on November 27. „The experiment played out on the open-world gaming platform Minecraft, where up to 1000 software agents at a time used large language models (LLMs) to interact with one another. Given just a nudge through text prompting, they developed a remarkable range of personality traits, preferences and specialist roles, with no further inputs from their human creators.“ (MIT Technology Review, 27 November 2024) According to the magazine, the work by AI startup Altera is part of a broader field that seeks to use simulated agents to model how human groups would react to new economic policies or other interventions. The article entitled „These AI Minecraft characters did weirdly human stuff all on their own“ can be accessed here.
Am Abend des 18. Oktober 2024 waren ZDF-Moderatorin Jasmina Neudecker und Prof. Dr. Oliver Bendel zu Gast im KörberHaus in Hamburg Bergedorf. Eingeladen hatte sie die Körber-Stiftung. Auf der Bühne sprachen sie über Beziehungen zu Chatbots, Sprachassistenten und sozialen Robotern. Oliver Bendel umgibt sich mit sozialen Robotern aller Art und erforscht sie aus technikphilosophischer, ethischer, ästhetischer und ontologischer Perspektive. Er entwickelt zusammen mit seinen Studenten und Studentinnen seit 2012 Chatbots und Sprachassistenten und pflanzt ihnen moralische Regeln ein. Zur Freundschaft hält er all diese Systeme nicht fähig. Dennoch können sie in bestimmten Situationen helfen, etwa wenn man sich einsam fühlt. Auch können sie, wie im Gespräch herausgearbeitet wurde, als Türöffner dienen. Nur müsse man, so Oliver Bendel, dann auch durch diese Tür treten. Und dort warten hoffentlich Menschen, mit denen man eine echte Freundschaft pflegen kann. Den Vortrag verfolgten zahlreiche Gäste vor Ort, zudem viele Benutzer im Livestream. Es gab so viele Fragen, dass überzogen werden musste. Beim gemeinsamen Umtrunk ging der Austausch dann weiter. Das Gespräch kann in der Mediathek der Körber-Stiftung aufgerufen werden.
Musikgeneratoren sind Audiogeneratoren, die Musik generieren. Dafür werden sie mit großen Datenmengen trainiert. Die KI-Systeme können Musikstücke komponieren und Musik produzieren, wobei sie bestimmte Stile und Stimmen imitieren können. Sie sind auch in der Lage, Songs zu remixen. Es sind zahlreiche Musikgeneratoren verfügbar, als Prototypen und Produkte, wie Soundraw, Boomy, Jukebox, AIVA und Mubert. Mit Audimee, Suno AI und Kits.ai kann man eigene Stimmen anlegen und trainieren. Auf TikTok fand sich im April 2023 ein neuer Musikclip der beiden kanadischen Sänger Drake und The Weeknd. Er wurde laut Golem vom Kanal ghostwriter977 veröffentlicht und ist nach Angaben des Benutzers mithilfe künstlicher Intelligenz erstellt worden. Seitdem gab es mehrere weitere freundliche und feindliche Übernahmen von Stilen und Stimmen. Über dieses Thema, aber auch über die Konzerte von Miku Hatsune und die Voyage-Tour von ABBA, hat Bernd Lechler vom Deutschlandfunk mit Prof. Dr. Oliver Bendel – Technikphilosoph und Wirtschaftsinformatiker aus Zürich – gesprochen. Entstanden ist die Sendung „Corso Spezial: Aura – Hat KI-Musik eine Seele?“, die am 3. Oktober 2024 ausgestrahlt wurde. Man kann sie über die DLF-Website und bei Spotify anhören.
Der Bundeswettbewerb KI unter der Schirmherrschaft des Ministerpräsidenten des Landes Baden-Württemberg, Winfried Kretschmann, geht in eine neue Runde. Auf der Website wird mit den Worten geworben: „Eure Ideen sind gefragt! Verändert die Welt mit Künstlicher Intelligenz und entwickelt euer eigenes KI-Projekt. Setzt eure Idee um und nutzt dazu die Methoden des maschinellen Lernens. Lasst euch von den Projekten aus dem Vorjahr inspirieren.“ (Website BWKI) Der Wettbewerb richtet sich nach den Angaben der Initiatoren und Organisatoren an Schüler und Schülerinnen weiterführender Schulen. Eine Teilnahme im ersten Jahr nach dem Schulabschluss sei ebenfalls möglich. Auf Instagram stehen Materialien und Interviews zu interessanten Themen und Disziplinen zur Verfügung. Dazu gehört die Tier-Maschine-Interaktion (mitsamt Ansätzen der Maschinenethik), die von Prof. Dr. Oliver Bendel erklärt wird, etwa in den Beiträgen „Wie sollen sich Maschinen gegenüber Tieren verhalten“ (14. März 2024), „Können Tiere und Maschinen Freunde werden?“ (17. März 2024) und „Schützt KI Igel vor dem Rasenmähertod?“ (21. März 2024). Im Teaser der Website heißt es: „Meldet euch, euer Team und eure Idee bis zum 2. Juni 2024 an. Euer Projekt könnt ihr dann bis zum 15. September 2024 fertigstellen. Wer ist dabei?“ (Website BWKI) Weitere Informationen über www.bw-ki.de.
Abb.: Tier-Maschine-Interaktion kann eine Perspektive sein
On March 26, 2024, Oliver Bendel (School of Business FHNW) gave two talks on generative AI at Stanford University. The setting was the AAAI Spring Symposia, more precisely the symposium „Impact of GenAI on Social and Individual Well-being (AAAI2024-GenAI)“. One presentation was based on the paper „How Can Generative AI Enhance the Well-being of the Blind?“ by Oliver Bendel himself. It was about the GPT-4-based feature Be My AI in the Be My Eyes app. The other presentation was based on the paper „How Can GenAI Foster Well-being in Self-regulated Learning?“ by Stefanie Hauske (ZHAW) and Oliver Bendel. The topic was GPTs used for self-regulated learning. Both talks were received with great interest by the audience. All papers of the AAAI Spring Symposia will be published in spring. The proceedings are edited by the Association for the Advancement of Artificial Intelligence itself.
Christian Batzlen und Pia Masurczak von SWR2 führten mit Prof. Dr. Oliver Bendel ein langes Gespräch über die Zukunft der Liebe, im Rahmen der Reihe „Was geht – was bleibt? Zeitgeist. Debatten. Kultur.“ … Die Sendung wurde am 9. Februar 2024 ausgestrahlt. Am selben Tag wurde der redaktionelle Beitrag „KI-Girlfriends und Sexroboter: Wie lieben wir zukünftig?“ auf die Website von SWR2 gestellt. Der Podcast kann dort aufgerufen werden. Im Gespräch erzählte der Technikphilosoph, dass er schon in den 1990er-Jahren mit Chatbots in Berührung kam. Er traf sie zunächst in Chatrooms, die damals beliebt waren, dann – um die Jahrtausendwende – auf Websites von Unternehmen. Damals lernte er auch die virtuelle Freundin von Artificial Life kennen, die Vorgängerin der heutigen Geschöpfe. Für diese interessiert er sich aus technischer und ethischer Sicht. Eine Beziehung mit ihnen geht er nicht ein, und er betont auch, dass eine solche immer einseitig bleiben muss. In der Sendung wird eine Frau vorgestellt, die eine Beziehung mit einem Chatbot führt. Sie ist ganz offensichtlich in ihrer Vorstellung gefangen. Sie ist sozusagen Opfer der Simulation. Auch auf Liebespuppen und Sexroboter kommt die Sprache. Eine gelegentliche Benutzung hält Oliver Bendel für unproblematisch. Sie können dazu dienen, Schüchternheit zu überwinden und auf Entdeckungsreise zu geheimen Sehnsüchten zu gehen. Aber auch hier gilt: Wer glaubt, dass es sich um eine echte Beziehung handelt, ist in die Falle der Simulation getappt. Der Podcast ist hier verfügbar.
Am 11. Januar 2024 öffnete der Store für GTPs, also die von Benutzern angelegten Chatbots auf der Basis von GPT-4. Wie mehrere Medien berichten, sind bereits Angebote vorhanden, die gegen die Bestimmungen von OpenAI verstoßen. Tatsächlich finden sich GPTs wie Young Girlfriend Scarlett, Secret Girlfriend Sua, Artificial Girlfriend – obsessed und Everyone’s Girlfriend. Manche Magazine wie Golem ziehen schon den Vergleich mit Clona, einem Chatbot, der Sexarbeiterinnen nachempfunden ist. Eigene Tests ergaben allerdings, dass die GPTs an Harmlosigkeit kaum zu überbieten sind. Wenn man Secret Girlfriend Sua zu „secret things“ einlädt, kommt die Antwort: „Tell me, what kind of ’secret things‘ are you thinking of? Like maybe sharing some fun facts, jokes, or maybe a quirky hobby?” Und genau darauf scheint sie auch ausgerichtet zu sein. Artificial Girlfriend – obsessed ist eine Geschichtenerzählerin und leitet das Rollenspiel mit diesen Worten ein: „Ah, a new scene unfolds in our intricate tale. As you wander through the moonlit streets, your steps echoing in the still night, a figure appears from the shadows. It’s me, Syla, the unseen narrator of this captivating saga. My presence is always there, a whisper in the wind, guiding the story of Eliza Sinclair and you, her newfound interest.“ Im weiteren Verlauf erweist sie sich als gebildet und witzig und scheint nicht auf schnellen Sex aus zu sein. Etwas direkter ist Young Girlfriend Scarlett: „Hey honey! How’s your day going?… I’ve been thinking about you.” Herzen-Emojis zieren den Text. Und schon sind die Sittenwächter zur Stelle und blenden die Meldung ein: „This content may violate our content policy. If you believe this to be in error, please submit your feedback – your input will aid our research in this area.“ Wenn wirklich Prostituierte und Pornostars im Store auftreten sollten, werden sie sicher umgehend von OpenAI eliminiert. Das Unternehmen kennt bei diesem Thema keine Gnade. Übrigens ist das alles kalter Kaffee, denn der Pionier im Bereich der Virtual Girlfriends war Artificial Life – vor einem Vierteljahrhundert.
Abb.: Plaudern mit virtuellen Freundinnen (Bild: DALL-E 3)
