Die Tagung „KI – Text und Geltung. Wie verändern KI-Textgeneratoren wissenschaftliche Diskurse?“ findet am 25. und 26. August 2023 an der TU Darmstadt statt. Prof. Dr. Oliver Bendel referiert am ersten Tag zum Thema „KI-basierte Textgeneratoren aus Sicht von Informationsethik und Maschinenethik“. Dabei ist die Informationsethik – zusammen mit anderen Bereichsethiken – die Disziplin, die sich Künstlicher Intelligenz, Maschinenethik und Maschinellem Bewusstsein zuwendet. Die Maschinenethik, die von ihr betrachtet wird, arbeitet inzwischen auch mit Sprachmodellen wie GPT, etwa im Zusammenhang mit Constitutional AI. Oliver Bendel versteht sie eher technisch, zwischen Philosophie und Informatik bzw. Robotik angesiedelt, mit deutlicher Nähe zu den letzteren Disziplinen. Aber natürlich ist sie auch selbst eine Perspektive, die zur Diskussion beitragen kann, etwa wenn sie danach fragt, ob sich Maschinen als solche zu erkennen geben oder wie sie bei Dilemmata entscheiden sollen. Das Programm kann hier abgerufen werden.
Abb.: Auch soziale Roboter werden in dem Vortrag vorkommen
Das Schweizer Magazin Bref hat im Juni 2023 ein Interview mit Prof. Dr. Oliver Bendel abgedruckt. Es geht darin u.a. um künstliche Intelligenz, etwa um Sprachmodelle, die ChatGPT und Bildgeneratoren wie DALL-E zugrunde liegen – und eigenen Projekten wie @ve und @llegra. Mit diesen Chatbots sollen tote und gefährdete Sprachen wiederbelebt bzw. gerettet werden. In früheren Projekten pflanzten die Teams um Oliver Bendel den Chatbots im Kontext der Maschinenethik vor allem moralische Regeln ein. Gegen Ende des Interviews heißt es: „Wir sollten immer daran denken: Die KI ist ein Werkzeug. Wir haben es geschaffen und wir haben die Macht, es zu gestalten und zu kontrollieren. Als Maschinenethiker habe ich dafür gesorgt, dass unseren Chatbots moralische Regeln eingepflanzt werden, an die sie sich strikt halten. Sie erkennen Probleme des Benutzers, die wir vorausgesehen haben, verhalten sich ihm gegenüber moralisch adäquat und machen immer wieder deutlich, dass sie nur Maschinen sind. Das alles ist sehr verlässlich.“ Das Interview kann über brefmagazin.ch/artikel/der-digitale-graben-wird-durch-die-ganze-welt-gehen/ aufgerufen werden.
Am 20. Juni 2023 hält Prof. Dr. Oliver Bendel einen Onlinevortrag für LeLa, das Lernlabor Hochschuldidaktik für Digital Skills, ein Kooperationsprojekt der fünf Zürcher Hochschulen ETH Zürich, PHZH, UZH, ZHAW und ZHdK. „Ethische Implikationen generativer KI“ sind das Thema. Zunächst klärt der Technikphilosoph den Begriff der generativen KI (engl. „generative AI“). Dann stellt er aus Sicht von Informations- und Maschinenethik verschiedene Überlegungen zu diesem Bereich an, wobei er vor allem auf ChatGPT fokussiert. So ist die Frage, woher die Daten für das zugrunde liegende Sprachmodell kommen und unter welchen Bedingungen das Reinforcement Learning from Human Feedback abläuft. Zudem dürfte relevant sein, welche Daten man beim Prompt preisgibt und welche Prompts auf welche Art und Weise zurückgewiesen werden. Ein weiteres Problemfeld ist das Halluzinieren der Sprachmodelle bzw. der darauf basierenden Anwendungen. Diese verdrehen Fakten und erfinden Referenzen. Mit Visual ChatGPT soll man über Texteingaben Bilder generieren und dann einzelne Elemente editieren können. Solche und andere Bildgeneratoren wie DALL-E, Stable Diffusion und Midjourney werfen wiederum zahlreiche ethische Fragen auf, auch mit Blick auf den Kunstbereich. GPT-3 und GPT-4 bzw. ChatGPT sind nicht nur für bzw. als Chatbots und Contentgeneratoren relevant, sondern auch für Industrie- und Serviceroboter. In diesem Bereich hat indes vor allem das Sprachmodell PaLM-E Aufmerksamkeit erregt. Indem Bilddaten und Daten zu Zuständen und Ereignissen integriert werden, werden Virtualität und Realität verbunden. Konkret kann der Benutzer mit Hilfe eines Prompts einem Roboter eine Anweisung geben, die dieser dann in seiner Umgebung ausführt, die er vorher beobachtet hat und weiter beobachtet. Dabei sind wiederum Herausforderungen vorhanden, etwa mit Blick auf Verlässlichkeit und Haftung. Weitere Informationen zur Reihe „AI or what the ChatGPT“ über dizh.ch/event/was-sind-die-ethische-implikationen-generativer-ki/.
„Inspirierend anders“, der Podcast von Luca Beutel, ging vor kurzem in die Forschung. Für die ersten beiden Folgen hat der Mann mit dem Schnäuzer mit Prof. Dr. Oliver Bendel gesprochen. Der Technikphilosoph lebt in Zürich und arbeitet an mehreren Hochschulen der FHNW. Die erste Folge, ausgestrahlt seit dem 2. Mai 2023, heißt „#165 IAF – Die ultimative Maschine: Wie Robotik die Grenzen der Menschheit erweitert“. Oliver Bendel stellt darin die Grundlagen der Robotik dar und bringt diese in einen Zusammenhang mit der Künstlichen Intelligenz (KI). Ursprünglich wurden deren Gegenstände zusammengedacht. Dann haben sie sich aber getrennt entwickelt. Nun wachsen Roboter und KI-Systeme immer mehr zusammen. Am 9. Mai 2023 erschien die zweite Folge mit dem Titel „#167 IAF – Menschliche Bedürfnisse, robotische Lösungen: Die Zukunft der menschenähnlichen Roboter“. Darin geht es u.a. um ethische und ästhetische Fragen, die sich zu sozialen Robotern wie Pflegerobotern und Sexrobotern stellen. Auch die zweite Folge kann u.a. über Spotify aufgerufen werden.
Abb.: So stellt sich DALL-E einen humanoiden Roboter vor
„Inspirierend anders“, der Podcast von Luca Beutel, geht in die Forschung. Für die ersten beiden Folgen hat der Mann mit dem Schnäuzer mit Prof. Dr. Oliver Bendel gesprochen. Der Technikphilosoph lebt in Zürich und arbeitet an mehreren Hochschulen der FHNW. Die erste Folge, ausgestrahlt seit dem 2. Mai 2023, heißt „#165 IAF – Die ultimative Maschine: Wie Robotik die Grenzen der Menschheit erweitert“. Oliver Bendel stellt darin die Grundlagen der Robotik dar und bringt diese in einen Zusammenhang mit der Künstlichen Intelligenz. Ursprünglich wurden deren Gegenstände zusammengedacht. Dann haben sie sich aber getrennt entwickelt. Nun wachsen Roboter und KI-Systeme immer mehr zusammen. Eine Woche später erscheint die zweite Folge mit dem Titel „#167 IAF – Menschliche Bedürfnisse, robotische Lösungen: Die Zukunft der menschenähnlichen Roboter“. Darin geht es u.a. um ethische und ästhetische Fragen, die sich zu sozialen Robotern wie Pflegerobotern und Sexrobotern stellen. Die erste Folge kann u.a. über Spotify aufgerufen werden.
Abb.: Der Podcast kann u.a. über Spotify gehört werden
„Die Shift ist eine exklusive Plattform zur Digitalen Ethik. Was begeistert uns bei neuartigen Angeboten, die dank Big Data, Künstlicher Intelligenz & Co. möglich sind? Was akzeptieren Kundinnen und Kunden sowie die Gesellschaft, was nicht? Und wo sind Grenzen nötig? Diese Fragen stehen im Zentrum der Shift. Es geht um aktuelle Kundenerwartungen sowie Akzeptanz und Vertrauen im digitalen Raum.“ (Website Shift) So steht es auf der Website der Tagung, die 2023 bereits in die fünfte Runde geht. Die Keynote hält Prof. Dr. Oliver Bendel aus Zürich. Er geht zunächst auf soziale Roboter ein und auf die Disziplinen Künstliche Intelligenz, Maschinenethik und Maschinelles Bewusstsein. Dann beschreibt er mehrere soziale Roboter, die auch als Serviceroboter im engeren Sinne eingesetzt werden. Auf dieser empirischen Basis stellt er ethische Überlegungen an. Am Ende behandelt er Sprachmodelle wie GPT-3 bzw. GPT-4 und PaLM-E. Er zeigt, wie soziale Roboter von diesen profitieren können, in ihrer Sprachfähigkeit und bei ihrer Wahrnehmung der Welt. Auch Ansätze der Maschinenethik sind ein Thema, von der Einpflanzung moralischer Regeln bis hin zur Nutzung von Moralmenüs. Weitere Informationen zur Shift über digitalresponsibility.ch/digitaleethikkonferenz/ …
Abb.: So stellt sich DALL-E einen humanoiden Roboter vor
„Generative KI (‚KI‘ steht für ‚künstliche Intelligenz‘) ist ein Sammelbegriff für KI-basierte Systeme, mit denen auf scheinbar professionelle und kreative Weise alle möglichen Ergebnisse produziert werden können, etwa Bilder, Video, Audio, Text, Code, 3D-Modelle und Simulationen. Menschliche Fertigkeiten sollen erreicht oder übertroffen werden. Generative KI kann Schüler, Studenten, Lehrkräfte, Büromitarbeiter, Politiker, Künstler und Wissenschaftler unterstützen und Bestandteil von komplexeren Systemen sein. Man spricht auch, dem englischen Wort folgend, von Generative AI, wobei ‚AI‘ die Abkürzung für ‚Artificial Intelligence‘ ist.“ Mit diesen Worten beginnt ein Beitrag, der am 22. Februar 2023 im Gabler Wirtschaftslexikon erschienen ist. Es werden Informationen zu Entwicklung und Hintergrund sowie einige Beispiele für Anwendungen gegeben. Am Ende wird die Perspektive der Ethik eingenommen, unter besonderer Berücksichtigung der Informationsethik. Der Beitrag von Oliver Bendel kann über wirtschaftslexikon.gabler.de/definition/generative-ki-124952 abgerufen werden.
„Was sollte Ihrer Einschätzung nach zum Thema ‚Bewusste Künstliche Intelligenz‘ diskutiert werden, geschehen oder unterbleiben? Welche Forschungsansätze und Narrative gehören weiterentwickelt, aufgelöst und ersetzt, welche Irrwege endlich beendet, und welche Ansätze und Nischen sollten deutlich mehr Aufmerksamkeit erhalten? Aus welchen Gründen wird derzeit überhaupt über Künstliches Bewusstsein gesprochen, und was halten Sie für vielversprechend, möchte man ‚Bewusstsein‘ künstlich bewirken?“ Diese Fragen stellte Ende 2020 das KIT – Karlsruher Institut für Technologie verschiedenen Experten auf dem Gebiet. Oliver Bendel reichte im Frühjahr 2021 den Beitrag „Soziale Roboter und ihr Sprung in die Zukunft“ ein. Er stellte die drei Disziplinen Künstliche Intelligenz, Maschinenethik und Maschinelles Bewusstsein (Künstliches Bewusstsein) in einen Zusammenhang und klärte, welchen Gegenstand sie jeweils haben und welchen Ursprung oder welches Vorbild dieser wiederum hat. Dann zeigte er auf, wie die Soziale Robotik die drei Disziplinen einbezieht und ausnutzt. Der Band soll 2023 bei KIT Scientific Publishing unter dem Titel „Künstliche Intelligenz und Bewusstsein – Statements 2021“ erscheinen. Der Beitrag kann hier als Preprint heruntergeladen werden.
Am 17. November 2022 sind die Proceedings von „How Fair is Fair? Achieving Wellbeing AI“ (Organisatoren: Takashi Kido und Keiki Takadama) auf CEUR-WS erschienen. Das AAAI 2022 Spring Symposium fand vom 21. bis 23. März 2022 an der Stanford University statt. Im elektronischen Band finden sich sieben Full Papers mit 6 – 8 Seiten: „Should Social Robots in Retail Manipulate Customers?“ von Oliver Bendel und Liliana Margarida Dos Santos Alves (3. Platz der Best Presentation Awards), „The SPACE THEA Project“ von Martin Spathelf und Oliver Bendel (2. Platz der Best Presentation Awards), „Monitoring and Maintaining Student Online Classroom Participation Using Cobots, Edge Intelligence, Virtual Reality, and Artificial Ethnographies“ von Ana Djuric, Meina Zhu, Weisong Shi, Thomas Palazzolo und Robert G. Reynolds, „AI Agents for Facilitating Social Interactions and Wellbeing“ von Hiro Taiyo Hamada und Ryota Kanai (1. Platz der Best Presentation Awards) , „Sense and Sensitivity: Knowledge Graphs as Training Data for Processing Cognitive Bias, Context and Information Not Uttered in Spoken Interaction“ von Christina Alexandris, „Fairness-aware Naive Bayes Classifier for Data with Multiple Sensitive Features“ von Stelios Boulitsakis-Logothetis und „A Thermal Environment that Promotes Efficient Napping“ von Miki Nakai, Tomoyoshi Ashikaga, Takahiro Ohga und Keiki Takadama. Zudem gibt es mehrere Short Papers und Extended Abstracts. Die Proceedings können über ceur-ws.org/Vol-3276/ abgerufen werden.
Insgesamt 30 Beiträge enthält der von Oliver Bendel herausgegebene Springer-Band „Soziale Roboter“, wenn man das Vorwort mitzählt. Von Felix Lindner stammt die Abhandlung „Soziale Robotik und KI: Wie sich Roboter autonom nach Werten und Normen verhalten können“. Aus dem Abstract: „Während im öffentlichen Diskurs Künstliche Intelligenz und Robotik häufig ganz selbstverständlich zusammengedacht werden, haben sich historisch zwei separate Disziplinen entwickelt: die Künstliche Intelligenz beschäftigt sich mit der Formalisierung und Algorithmisierung von Schlussfolgern und Problemlösen, und die Robotik befasst sich mit der maschinellen Wahrnehmung der Umwelt sowie der autonomen Ausführung von Handlungen. In diesem Kapitel wird die Soziale Robotik als ein Bindeglied zwischen den beiden Disziplinen aufgefasst. Soziale Roboter sind Roboter, die sich nach den Werten und Normen des sozialen Miteinanders richten. Damit dies möglich wird, müssen Verfahren aus der Robotik um eine soziale Dimension erweitert werden. Eine Möglichkeit besteht darin, Techniken aus der Künstlichen Intelligenz zu verwenden, um soziale Werte und Normen explizit zu modellieren. Der Beitrag thematisiert das sogenannte Value-Alignment-Problem in der Künstlichen Intelligenz im Allgemeinen und demonstriert anhand von sozialer Roboter-Navigation im Speziellen, wie Techniken aus der Künstlichen Intelligenz für die Soziale Robotik genutzt werden können, damit Roboter ihre Handlungen nach menschlichen Werten und Normen ausrichten.“ Das Buch ist Anfang November 2021 erschienen und kann über link.springer.com/book/10.1007/978-3-658-31114-8 bezogen werden.
Abb.: Verhält sich dieser Roboter nach Werten und Normen?
Das Buch „Soziale Roboter“ (Hrsg. Oliver Bendel) ist am 4. November 2021 bei Springer Gabler erschienen. Es besteht aus fünf Teilen: „Grundlagen, -begriffe und -fragen“, „Soziale Robotik und andere Disziplinen“, „Gestaltung, Interaktion und Kommunikation“, „Anwendungsbereiche sozialer Roboter“ und „Die Zukunft sozialer Roboter“. Es sind, das Vorwort mitgezählt, 30 Beiträge, mit ca. 35 Abbildungen, bei ca. 570 Seiten. Der Untertitel lautet: „Technikwissenschaftliche, wirtschaftswissenschaftliche, philosophische, psychologische und soziologische Grundlagen“. Mit dabei sind führende Expertinnen und Experten der Sozialen Robotik, der Robotik, der Künstlichen Intelligenz, der Soziologie, der Psychologie und der Philosophie. Sie lehren und forschen an Hochschulen in der Schweiz, in Deutschland, in Österreich, in Dänemark und in Schweden. Auch ein Hersteller ist vertreten, der über den Einsatz seines Produkts berichtet. Die einzelnen Kapitel können im PDF- oder HMTL-Format über SpringerLink heruntergeladen werden. In Kürze stehen Gesamt-PDF und Printversion zur Verfügung.
Abb.: Ein kommunizierender und rezipierender Roboter
Am 22. September 2021 ist das Buch „300 Keywords Soziale Robotik“ von Oliver Bendel bei Springer Gabler erschienen. Es ist bereits über Springer Link abrufbar. Weitere Kanäle folgen in einigen Tagen. Die „Keywords“-Bücher werden üblicherweise aus den „Schlüsselwörtern“ zusammengestellt, die im Gabler Wirtschaftslexikon erscheinen, dem größten Wirtschaftslexikon im deutschsprachigen Raum. Der Springer-Verlag ist Herausgeber, die Autorinnen und Autoren werden eingangs aufgeführt. Eine Ausnahme sind „400 Keywords Informationsethik“ (2016 und 2019) und „350 Keywords Digitalisierung“ (2019). Sie stammen von einem einzigen Autor, nämlich von Oliver Bendel. Er verwendet ebenfalls seine Definitionen und Erklärungen aus dem Gabler Wirtschaftslexikon, ergänzt sie aber um zahlreiche weitere Einträge. Es entstehen Nachschlagewerke aus einem Guss, in einem Stil und aus klar definierten Perspektiven heraus. Die Nachfrage ist bei beiden Büchern enorm. So liegt „400 Keywords Informationsethik“ bereits in der zweiten Auflage vor, und „350 Keywords Digitalisierung“ kann fast 150.000 Downloads (einzelne Kapitel und gesamtes Buch) verzeichnen. Im dritten „Keywords“-Band von Oliver Bendel werden nicht nur zahlreiche Termini erläutert und eigene Systematiken vorgestellt, sondern auch etliche soziale Roboter und Sprachassistenten aus Fiktion und Realität genannt. Zusammen mit „Soziale Roboter“ – das ebenfalls 2021 bei Springer erscheint, ca. einen Monat später – liegen dann zwei deutschsprachige Grundlagenwerke zum Thema vor. Weitere Informationen zum neuen „Keywords“-Buch sind über www.springer.com/de/book/9783658348328 erhältlich.
Seit 2012 wurden von Prof. Dr. Oliver Bendel 20 Konzepte und Artefakte der Maschinenethik und der Sozialen Robotik skizziert. Elf Artefakte wurden umgesetzt, darunter LADYBIRD, der tierfreundliche Saugroboter, HAPPY HEDGEHOG, der tierfreundliche Rasenmähroboter, GOODBOT und BESTBOT mit ihrer Fähigkeit, Probleme des Benutzers zu erkennen und adäquat darauf zu reagieren, und LIEBOT, der Chatbot, der systematisch lügen kann. Einige von ihnen haben es zu einer gewissen Bekanntheit gebracht und wurden auf internationalen Konferenzen und in internationalen Medien vorgestellt. Ethik muss nicht unbedingt das Gute hervorbringen, ist der Informations- und Maschinenethiker überzeugt. Sie sollte das Gute und das Böse erforschen und wie jede Wissenschaft dem Erkenntnisgewinn dienen. Entsprechend baut er sowohl moralische als auch unmoralische Maschinen. Die unmoralischen behält er aber in seinem Lab. Das zwölfte Artefakt – ein Prototyp aus dem Bereich der „simple, soft social robots“ – wird noch nicht im laufenden Projekt des Jahres 2021, aber vermutlich in einem darauffolgenden Projekt im Jahre 2022 umgesetzt. Mit den 20 Konzepten und Artefakten ist die Hochschule weltweit eine der aktivsten in der Maschinenethik.
Die Zeitschrift für Berufs- und Wirtschaftspädagogik widmet sich im Sommer 2021 dem Thema „Künstliche Intelligenz in der beruflichen Bildung: Zukunft der Arbeit und Bildung mit intelligenten Maschinen?!“. Herausgegeben wird das Sonderheft von Prof. Dr. Sabine Seufert und ihren Kollegen. In der Verlagsinformation heißt es: „Die Autorinnen und Autoren reflektieren kritisch die Auswirkungen der KI auf die berufliche Bildung. In einem ersten Teil untersuchen sie die Implikationen von KI auf gewerblich-technische Berufe, Industrieberufe, IT-Berufe und Pflegeberufe. In einem zweiten Teil widmen sie sich Forschungsrichtungen zur KI in der Berufsbildung – von der Individualisierung durch Hybrid Intelligence über Learning Analytics, Augmented Reality und Virtual Reality bis zur beruflichen Rehabilitation und Lernortkooperation.“ (Information Franz Steiner Verlag) Der Beitrag von Prof. Dr. Oliver Bendel trägt den Titel „Strukturelle und organisationale Rahmenbedingungen für den Einsatz von Pflegerobotern“. Das Heft kann über elibrary.steiner-verlag.de/book/99.105010/9783515130752 bestellt werden. Eine Leseprobe ist hier erhältlich.
Abb.: Auch Virtual Reality spielt im Heft eine Rolle
Ein Interview mit Prof. Dr. Oliver Bendel zu Pflegerobotern wurde am 4. Januar 2021 auf der Plattform Digitales Gesundheitswesen veröffentlicht. Die erste Frage von Heiner Sieger lautete: „Was werden soziale Roboter in der digitalen Pflegewelt der Zukunft können und was nicht?“ Die Antwort des Informations- und Maschinenethikers aus Zürich war: „In manchen Bereichen traut man sozialen Robotern zu wenig zu, in anderen zu viel. Das Ausziehen und Anziehen von Pflegebedürftigen sowie das verletzungsfreie Reichen von Nahrung wird vielleicht auch 2025 nicht beherrscht. Auch das Umbetten und Aufrichten wird wohl nur zusammen mit einer Pflegekraft geleistet werden können. Andere Tätigkeiten, wie Dinge holen, aufheben und reichen, Flaschen öffnen und Patienten einsammeln, sind für Modelle wie Lio schon heute Standard.“ Das ganze Interview kann über digitales-gesundheitswesen.de/oliver-bendel/ aufgerufen werden.
Abb.: Einen Apfel zu überreichen ist für einen Roboter kein Problem
„Wer hat Angst vor der KI?“ Dieser Frage geht Carmen Gräf am 16. Juli 2020 von 22 bis 23 Uhr bei RBB Kultur nach. „Erst lernten die Computer rechnen, dann organisieren, analysieren, sprechen und schließlich – denken. Dank Künstlicher Intelligenz. Nun ist die Forschung dabei, den Computern auch das Fühlen beizubringen. Eine neue Stufe Künstlicher Intelligenz entsteht. Das sorgt für jede Menge Hoffnung und Euphorie, aber auch für Angst und Unbehagen. Wird die Maschine den Menschen überholen oder kann der Mensch die digitalen Potentiale sinnvoll nutzen? Ein Einblick in aktuelle Diskussionen, Forschungen und Anwendungen.“ (RBB Kultur) Erwähnt werden auch die Entwicklungen des Informations- und Maschinenethikers Oliver Bendel, konkret der LIEBOT, der systematisch die Unwahrheit sagt, und HAPPY HEDGEHOG, der igelfreundliche Rasenmähroboter. Die Sendung ist ein Jahr lang in der ARD-Mediathek abrufbar.
