Die Heinrich-Böll-Stiftung kündigt eine Veranstaltung zu autonomen Kampfrobotern an: „Künstliche Intelligenz (KI) ist das große Glücksversprechen des 21. Jahrhunderts und wird viele Lebensbereiche moderner Industriegesellschaften dramatisch verändern, von der Mobilität zur industriellen Fertigung oder der Krankenpflege. KI wird auch die Sicherheits- und Verteidigungspolitik verändern. Sie wird dazu führen, dass moderne Waffensysteme zunehmend autonom agieren und die menschlichen Eingriffsmöglichkeiten auf ein Minimum reduzieren.“ (Information HBS) Dies werfe, so die Stiftung, ethische Fragen auf, insbesondere dann, wenn zukünftig Kampfroboter ihre Ziele autonom auswählen und bekämpfen. „Doch wie realistisch ist dieses Szenario? Wieviel Autonomie steckt schon heute in modernen Waffensystemen und welche Entwicklungstendenzen zeichnen sich ab?“ (Information HBS) Diese Fragen will man mit Noel Sharkey, „einem führenden Experten für Ethik und Robotik“, einer Vertreterin des Auswärtigen Amtes und einem Mitglied des Bundestags diskutieren. Die Veranstaltung findet am 23. Januar 2019 von 19.00 bis 20.30 Uhr bei der Heinrich-Böll-Stiftung in Berlin statt.
Wie verschiedene Medien melden, hat die chinesische Nachrichtenagentur Xinhua ein System vorgestellt, das im Fernsehen Nachrichten verlesen kann. Die verfügbaren Avatare sind realen Sprechern nachgebildet, nämlich Qiu Hao und Zhang Zhao. Die digitale Kopie von Qiu spricht chinesisch, die von Zhang englisch. „Das System nutzt Künstliche Intelligenz (KI) und maschinelles Lernen, um die Stimme, Lippenbewegungen, Mimik und Gestik der Vorbilder möglichst realistisch zu imitieren. Dadurch solle ein möglichst lebensnahes Abbild entstehen und kein kalter Roboter, erklärte Xinhua. Das System ist zudem lernfähig. Das bedeutet, die Avatare lernen von Videos menschlicher Sprecher und werden dadurch mit der Zeit besser.“ (Golem, 9. November 2018) Im Moment klingt die Stimme von Zhang erstaunlich künstlich. Die Stimmen üblicher Text-to-Speech-Engines erreichen eine bessere Qualität. Mit Hilfe von SSML kann man sie noch menschenähnlicher gestalten. Virtuelle Nachrichtensprecher sind insgesamt ein alter Hut. Ananova, eine virtuelle Nachrichtensprecherin, hatte vor 20 Jahren eine gewisse Popularität erlangt. Sie wechselte 2000 für eine Ablösesumme von 95 Millionen Pfund zum Telefonanbieter Orange.
Das Buch „Pflegeroboter“, herausgegeben von Oliver Bendel, ist im November 2018 bei Springer Gabler erschienen, herunterladbar bei SpringerLink (bis Ende des Jahres folgt die Printausgabe). Es bündelt technische, wirtschaftliche, medizinische und ethische Reflexionen über Pflegeroboter. Autorinnen und Autoren sind (in alphabetischer Reihenfolge) Elisabeth André, Heidrun Becker, Oliver Bendel, Hans Buxbaum, Sabine Daxberger, Nicola Döring, Michael Früh, Alina Gasser, Christoph Gisinger, Klaus Hauer, Manfred Hülsken-Giesler, Kathrin Janowski, Christoph Kehl, Jeanne Kreis, Birgit Lugrin, Katja Mombaur, Hartmut Remmers, Hannes Ritschel, Daniel Schilberg, Sumona Sen und Bernd Carsten Stahl. Manche Autoren gehen Fragen aus Wirtschafts-, Medizin- und Informationsethik nach: Wer trägt die Verantwortung bei einer fehlerhaften Betreuung und Versorgung durch die Maschine? Inwieweit kann diese die persönliche und informationelle Autonomie des Patienten unterstützen oder gefährden? Ist der Roboter eine Entlastung oder ein Konkurrent für Pflegekräfte? Weitere Informationen über www.springer.com/de/book/9783658226978. Zur Verfügung steht auch ein Flyer.
In November 2018 the „Proceedings of Robophilosophy 2018“ with the title „Envisioning robots in society – power, politics, and public space“ were published. Editors are Mark Coeckelbergh, Janina Loh, Michael Funk, Johanna Seibt, and Marco Nørskov. In addition to the contributions of the participants, the book also contains abstracts and extended abstracts of the keynotes by Simon Penny, Raja Chatila, Hiroshi Ishiguro, Guy Standing, Catelijne Muller, Juha Heikkilä, Joanna Bryson, and Oliver Bendel (his article about service robots from the perspective of ethics is available here). Robophilosophy is the most important international conference for robophilosophy and roboethics. In February 2018 it took place at the University of Vienna. Machine ethics was also an issue this time. „Robots are predicted to play a role in many aspects of our lives in the future, affecting work, personal relationships, education, business, law, medicine and the arts. As they become increasingly intelligent, autonomous, and communicative, they will be able to function in ever more complex physical and social surroundings, transforming the practices, organizations, and societies in which they are embedded.“ (IOS Press) More information via www.ios.com.
„Therapieroboter unterstützen therapeutische Maßnahmen oder wenden selbst, häufig als autonome Maschinen, solche an. Sie sind mit ihrem Aussehen und in ihrer Körperlichkeit wie traditionelle Therapiegeräte präsent, machen aber darüber hinaus selbst Übungen mit Gelähmten, unterhalten Betagte und fordern Demente und Autisten mit Fragen und Spielen heraus. Manche verfügen über mimische, gestische und sprachliche Fähigkeiten und sind in einem bestimmten Umfang denk- und lernfähig (wenn man diese Begriffe auf Computersysteme anwenden will).“ Mit diesen Worten beginnt der Beitrag „Therapieroboter“ von Oliver Bendel für das Wirtschaftslexikon von Springer Gabler, erschienen im November 2018. Auch die Perspektive der Ethik wird eingenommen: „Der Frage der Verantwortung widmen sich Informationsethik und Medizinethik sowie Roboterethik. Der Hersteller (respektive der Entwickler) muss, zusammen mit dem Heim oder der Anstalt bzw. einer sonstigen Einrichtung, die Verantwortung tragen und die Haftung übernehmen. Allerdings kann er sich darauf berufen, dass die Effekte insgesamt positiv sein mögen, und darauf beharren, dass Einzelfälle mit negativen Implikationen in Kauf zu nehmen und zu verkraften seien.“ Der Beitrag kann über wirtschaftslexikon.gabler.de/definition/therapieroboter-100563 abgerufen werden.
Unter der Überschrift “Die Maschine als Gespielin” berichtete die SonntagsZeitung am 21. Oktober 2018 über den zunehmenden Gebrauch von Liebespuppen und die Weiterentwicklung von Sexrobotern. Ein ähnlicher Artikel war bereits am 29. September des Jahres in der Süddeutschen Zeitung erschienen. Oliver Bendel und Christian Weber hatten sich im Münchner Excelsior am Hauptbahnhof getroffen und waren von dort in Gedanken nach Dortmund gereist, wo sich das Bordoll befindet, und nach Barcelona und Moskau. Auch in der Schweiz, erzählte der Informations- und Maschinenethiker aus Zürich, legt sich das eine oder andere Etablissement eine Liebespuppe zu. Beispiele sind das Studio Elite in Luzern, die OltenGirls in Olten und der Lust-Tempel in Wohlen. Die Bereitstellung und Nutzung von Liebespuppen muss nach seiner Meinung erforscht werden, wie auch die Frage, ob man sie in Pflege und Therapie einsetzen kann. Der Beitrag in der SonntagsZeitung kann hier heruntergeladen werden.
Abb.: Auch in der Schweiz verbreiten sich Liebespuppen
„Hilf mir, Justin!“ lautet der Titel eines Beitrags von Sina Horsthemke im Magazin Focus-Gesundheit vom 23. Oktober 2018. Er beginnt mit folgenden Worten: „Obwohl Justin erst zehn Jahre alt ist, hat er die Kraft eines Erwachsenen. Seine blauen Arme sind so stark, dass er einen Kasten Bier tragen kann. Sie sind so lang, dass er Gegenstände aus 2,70 Meter Höhe greift. Trotz seiner 200 Kilo hält Justin auf seinen Rollen locker mit gehenden Menschen mit. Im Deutschen Zentrum für Luft- und Raumfahrt (DLR), wo Wissenschaftler den Roboter entwickelt haben, hat er alle Hände voll zu tun. Er übt für zukünftige Mars-Missionen. Und dafür, bald in einem Krankenhaus die Pflegekräfte zu unterstützen.“ Um Pflegeroboter geht es in dem vierseitigen, bebilderten Artikel, und zu Wort kommen u.a. Dr.-Ing. Alexander Dietrich (Leiter des „Smile“-Projekts am DLR in Oberpfaffenhofen bei München), Dr. rer. medic. Patrick Jahn (Leiter Stabsstelle Pflegeforschung am Universitätsklinikum Halle) und Prof. Dr. oec. HSG Oliver Bendel (Informations- und Maschinenethiker an der Hochschule für Wirtschaft FHNW in Brugg-Windisch). Das Heft kann über www.focus-magazin.de/focus-gesundheit bezogen werden.
Unter der Überschrift „AI love you“ berichtete die Süddeutsche Zeitung am 29. September 2018 über den zunehmenden Gebrauch von Liebespuppen und die Weiterentwicklung von Sexrobotern. Vorausgegangen war ein einstündiges Interview mit Oliver Bendel, der als Informations- und Maschinenethiker dieses Phänomen erforscht. Der Journalist und er trafen sich im Münchner Excelsior am Hauptbahnhof und reisten von dort in Gedanken nach Dortmund, wo sich das Bordoll befindet, und nach Barcelona und Moskau. Auch in der Schweiz, erzählte der Ethiker, legt sich das eine oder andere Etablissement eine Liebespuppe zu. So weit wie das Bordoll, wo es keine Menschen mehr gibt, die Besitzerin und die Kunden ausgenommen, treibt es aber noch niemand. Im Bordoll interessieren sich die meist jungen Männer auch für Fantasyfiguren, für Elfen und Manga- und Animemädchen. So etwas muss erforscht werden, wie auch die Frage, ob man Liebespuppen in Pflege und Therapie einsetzen kann. Dieser Frage widmet sich wiederum ein aktueller Beitrag von Oliver Bendel in der IT for Health. Der Beitrag in der Süddeutschen kann hier kostenpflichtig abgerufen werden.
Am 10. September 2018 wurde die Sendung „Pflege – Was kann sie leisten, was muss sich ändern?“ in Bayern 2 ausgestrahlt. Zu Wort kommt Oliver Bendel, Informations- und Maschinenethiker aus Zürich. Er beschäftigt sich seit mehreren Jahren mit Robotern in der Pflege. Er ist nicht der Meinung, dass diese den Pflegenotstand beheben können. Dafür braucht es andere Maßnahmen. Sie können aber die Pflegekraft unterstützen. Oliver Bendel hält es für wichtig, diese Perspektive einzunehmen und nicht ausschließlich auf den Patienten zu schauen. Natürlich ist dieser ebenso wichtig, und er ist sozusagen der Ausgangspunkt aller einschlägigen Strukturen und Prozesse. Für ihn bedeuten Pflegeroboter sowohl Vor- als auch Nachteile. Einerseits stärken sie seine persönliche Autonomie, machen ihn unabhängiger und beweglicher. Andererseits schwächen sie seine informationelle Autonomie. Manche der Roboter, die sich in Pflegeheimen und Krankenhäusern finden, verfügen über Kameras und Mikrofone und damit zusammenhängend über Gesichts- und Stimmerkennung. Das ist ebenso nützlich wie gefährlich. Der Podcast kann hier angehört werden (Link nicht mehr gültig).
Im „Tatort“ vom 16. September 2018 war der Roboter der Mörder. Wobei, er war eher das Werkzeug der Mörderin, die ihm eine neue Armbewegung beibrachte. Tatsächlich lassen sich Roboter dieser Art ganz einfach trainieren, indem man ihren Arm führt und die Bewegung abspeichert. Diese muss dann nur noch zur richtigen Zeit ablaufen. Im Krimi tat sie das, und das Opfer war so freundlich, sich genau so zu positionieren, dass sie – der Greifer umfasste eine metallene Spitze, die eigentlich zu anderen Zwecken diente – tödlich war. Die Frankfurter Allgemeine Zeitung vom selben Tag machte den Faktencheck. Sie hatte Oliver Bendel nach der Verantwortung gefragt. Nach seiner Meinung kann ein autonomer Roboter (oder ein KI-System) kaum eine moralische Verantwortung haben. Man könnte allenfalls sagen, dass er, indem er eine Aufgabe übernimmt, eine Verantwortung trägt. Dies wäre eine sehr schwache Form der Primärverantwortung. Man kann ihn nicht zur Verantwortung ziehen (Sekundärverantwortung), und wenn, dann gleitet man schon in die rechtliche Perspektive hinüber (Tertiärverantwortung). Wenn man einem Roboter Verantwortung überträgt, wird diese in gewisser Weise zerstört. Das macht dann nichts, wenn es sich um eine einfache Aufgabe ohne ernsthafte Konsequenzen handelt. Der Faktencheck kann über www.faz.net/aktuell/feuilleton/medien/tatort/der-neue-tatort-aus-berlin-im-faktencheck-15787708.html aufgerufen werden.
Im „Handbuch Maschinenethik“ ist im August 2018 der Beitrag „Wozu brauchen wir die Maschinenethik?“ von Oliver Bendel erschienen. Die Zusammenfassung: „Die Maschinenethik ist eine junge, dynamische Disziplin. Es ist einfach, ihren Gegenstand zu bestimmen, die Moral in der Maschine, und es fanden zahlreiche begriffliche Klärungen statt. Dennoch gibt es immer wieder Verwechslungen und Missverständnisse. Diese erinnern an die Diskussionen der ersten 40, 50 Jahre der Künstlichen Intelligenz. Dieser wurde vorgehalten, keine Fortschritte zu erzielen, ihr wurde vorgeworfen, dass Systeme nicht intelligent sein können, und es wurde von manchen nicht realisiert oder akzeptiert, dass man metaphorisch oder intentional sprechen kann, mit in die Zukunft gerichteten Absichten. Der vorliegende Beitrag will Grundlagen der Maschinenethik erarbeiten, ohne andere Grundlagenartikel und -bücher nachzuzeichnen und zusammenzufassen. Vielmehr wird, nachdem der Begriff der Maschinenethik erörtert wurde, die Frage beantwortet, warum wir eine solche Disziplin brauchen, zunächst aus philosophischer, dann aus praktischer Perspektive.“ Die Beiträge des von Oliver Bendel herausgegebenen Springer-Handbuchs erscheinen laufend und werden über link.springer.com/referencework/10.1007/978-3-658-17484-2 aufgeführt.
Das Buch „Pflegeroboter“, herausgegeben von Oliver Bendel, bündelt technische, wirtschaftliche, medizinische und ethische Reflexionen über Pflegeroboter. „Pflegeroboter, im Moment noch mehrheitlich Prototypen, unterstützen oder ersetzen menschliche Pflegekräfte bzw. Betreuer. Sie bringen Kranken und Alten die benötigten Medikamente und Nahrungsmittel, helfen beim Hinlegen und Aufrichten oder alarmieren den Notdienst. Vorteile von Pflegerobotern sind durchgehende Verwendbarkeit und gleichbleibende Qualität der Dienstleistung. Nachteile sind Kostenintensität (bei möglicher Amortisation) und Komplexität der Anforderungen. Unter der wissenschaftlichen Leitung von Prof. Dr. Oliver Bendel trafen sich im September 2017 Vertreter verschiedener wissenschaftlicher Disziplinen im Rahmen eines Ladenburger Diskurses der Daimler und Benz Stiftung, um über den aktuellen und künftigen Einsatz von Pflegerobotern zu sprechen und Forschungspotenziale zu identifizieren. Die Autoren gehen in ihren Beiträgen auch Fragen aus Wirtschafts-, Medizin- und Informationsethik nach: Wer trägt die Verantwortung bei einer fehlerhaften Betreuung und Versorgung durch die Maschine? Inwieweit kann diese die persönliche und informationelle Autonomie des Patienten unterstützen oder gefährden? Ist der Roboter eine Entlastung oder ein Konkurrent für Pflegekräfte? Antworten müssen von Wissenschaft und Gesellschaft gefunden werden.“ (Information Springer) Das Buch kommt im November 2018 in gedruckter Form und als Open-Access-Ausgabe heraus. Weitere Informationen über www.springer.com/de/book/9783658226978. Zur Verfügung steht auch ein Flyer.
Abb.: Im Alter sind oft Betreuung und Pflege notwendig
„Keywords wie Digitalisierung, Künstliche Intelligenz und Big Data sind in aller Munde. Der Versicherungs- und Bankenmarkt steht unter ständiger Veränderung, Rahmenbedingungen ändern sich rapide und eine optimale Kundenbindung gewinnt zunehmend an Bedeutung. Doch worauf dürfen – und müssen – wir uns zukünftig einstellen?“ (Einladung APRIL) Über diese und weitere Themen wird beim diesjährigen APRIL-Praxisforum in München am 26. September 2018 diskutiert. Die Keynote von Oliver Bendel aus Zürich trägt den Titel „Im Dialog mit Maschinen“. Ob iPal, Pepper oder Lio – viele Roboter verstehen uns und sprechen mit uns. Virtuelle Assistenten wie Siri und Cortana belauschen uns und klingen immer menschenähnlicher. Alexa kann dank SSML inzwischen flüstern. Mit SSML kann man grundsätzlich in die Stimme eingreifen, sie höher und tiefer, jünger und älter machen, sie zufrieden und unsicher klingen lassen. Bei Google Duplex wurde zudem die Sprechweise angepasst, wurden Unterbrechungen und Ähs eingebaut. Was ist der technische Stand bei der Sprachsynthese, was ist aus ethischer Sicht anzumerken? Auf solche Fragen gibt Oliver Bendel Antworten. Weitere Informationen über www.april.de/index.php?id=124.
An der Hochschule für Wirtschaft FHNW wurde von März bis August 2018 der BESTBOT entwickelt. Vorgängerprojekte waren der GOODBOT (2013) und der LIEBOT (2016). Prof. Dr. Oliver Bendel forscht seit einigen Jahren in der jungen Disziplin der Maschinenethik. Diese bringt in Zusammenarbeit mit Robotik und Künstlicher Intelligenz (KI) moralische Maschinen hervor. Anfang 2018 stellte Bendel an der Stanford University im Rahmen einer KI-Konferenz sein Paper „From GOODBOT to BESTBOT“ vor, das die Grundlage für das BESTBOT-Projekt legte. David Studer programmierte den Chatbot in Java. Zudem verwendete er JavaScript, HTML und CSS. In technischen Fragen stand ihm Prof. Dr. Bradley Richards zur Seite. Wie der LIEBOT ist der BESTBOT ein vernetztes System, das Suchmaschinen und Lexika benutzt. Er analysiert die Texteingaben des Benutzers mit textbasierter Emotionserkennungssoftware. Zugleich wird Gesichtserkennung eingesetzt, wiederum mit Emotionserkennung. Wenn der Benutzer zum Beispiel angibt, dass es ihm gut geht, sein Gesicht aber anderes verrät, spricht der Chatbot diesen Widerspruch an. Dieser erkennt sowohl kleine als auch große Sorgen. Wie der GOODBOT kann der BESTBOT über mehrere Ebenen eskalieren und eine passende Notfallnummer herausgeben. Wie sein Vorgänger macht er deutlich, dass er nur eine Maschine ist. Besonders ist auch, dass er bei Tatsachenbehauptungen die Quelle angibt. Der BESTBOT wird 2019 auf Konferenzen vorgestellt.
Abb.: Der BESTBOT identifiziert Probleme mit Hilfe von Emotionserkennung
„Grundfragen der Maschinenethik“ von Catrin Misselhorn ist ein weiteres Grundlagenwerk zu dieser Disziplin, die erst seit ca. zehn Jahren besteht und moralische Maschinen bzw. maschinelle Moral zum Gegenstand hat. Aus dem Klappentext: „Maschinen werden immer selbständiger und intelligenter. Dabei geraten sie in Situationen, die moralische Entscheidungen verlangen. Doch können Maschinen überhaupt moralisch handeln, dürfen oder sollen sie es sogar? Wie baut man eine moralische Maschine? Mit diesen und ähnlichen Fragen beschäftigt sich die Maschinenethik. Catrin Misselhorn erläutert die Grundlagen dieser neuen Disziplin an der Schnittstelle von Philosophie, Informatik und Robotik am Beispiel von autonomen Waffensystemen, Pflegerobotern und autonomem Fahren.“ (Klappentext) Die renommierte Stuttgarter Philosophin ist auch Autorin des „Handbuchs Maschinenethik“ – dieses wird von Oliver Bendel aus Zürich herausgegeben und erscheint bei Springer.
Ab dem 24. September 2018 findet im Literaturhaus Salzburg und an anderen Orten das Festival „Science meets Fiction“ statt. Der Flyer kam Ende Juli heraus und kann hier heruntergeladen werden. Dr. Karlheinz Steinmüller eröffnet den Reigen. Er ist Science-Fiction-Autor, Physiker und Philosoph. Sein Vortrag widmet sich den Wechselbeziehungen zwischen wissenschaftlichen Erkenntnissen und literarischen Zukunftsvisionen. Am dararauffolgenden Tag wird „Blade Runner 2049“ von Prof. Dr. Oliver Bendel aus Zürich vorgestellt. Er geht vor allem auf die Hologramme im Film ein. An den darauffolgenden Tagen führt Dr. Petra Schaper-Rinkel vom Austria Institute of Technology in „Her“ ein, Prof. Dr. Thomas Heistracher in „Ghost in the Shell“ und Prof. Dr. Elmar Schüll in „Ex Machina“. „Die multidisziplinäre Plattform findet 2018 im Auftrag der Wissensstadt Salzburg statt und wird durch die Unterstützung der Arbeiterkammer Salzburg sowie das Engagement namhafter Kulturinstitutionen getragen.“ (Flyer Science meets Fiction) Weitere Informationen über sciencemeetsfiction.org.
