Im Südpol Luzern erlebten die Zuschauerinnen und Zuschauer, wie Tanz- und Robotergeschichte geschrieben wurde, von Huang Yi, einem Choreografen aus Taiwan. Der „träumte schon in Kindertagen davon, einen Roboter zum Freund zu haben“ (Information zur Veranstaltung). „Erwachsen geworden, ist für ihn daraus Wirklichkeit geworden, denn er teilt sich, unterstützt von zwei weiteren Tänzern, die Bühne mit Kuka, einem Industrieroboter. Das Ergebnis ist Tanzkunst, die mit messerscharfer Präzision begeistert.“ (Information zur Veranstaltung) Der Robot tanzt wie die Menschen, tanzt mit dem Menschen, mit Huang Yi, die Menschen – es kommen eine Tänzerin und ein Tänzer hinzu – tanzen wie der Robot, lassen sich von ihm bewegen, von seinem „Traktorstrahl“. „Gebannt verfolgt man die Begegnung dieser scheinbar so ungleichen Partner und spürt die emotionale Beziehung. Die Art des Verhältnisses bleibt dabei jedoch in der Schwebe: Sind es nun die vom Choreografen in der Kindheit ersehnten Freunde? Oder handelt es sich vielmehr um einen ausgefeilten und geschmeidigen Wettkampf? Wer lernt von wem? Wer behält die Oberhand?“ (Information zur Veranstaltung) Einmal schaut der Kuka sich selbst an, mit Hilfe einer zwischendurch aufgesteckten Kamera, fertigt bewegte Selfies an, von dem Schild mit seinen technischen Daten, von einem Warnschild. Größere Kunst hat man in der Schweiz selten gesehen.
Aus einem Chatbot wurde ein Badbot – Tay von Microsoft entwickelte sich zum Albtraum des Unternehmens und der Gesellschaft. Der SPIEGEL schrieb am 24. März 2016: „Zuerst war Tay noch freundlich, ein bisschen zu jugendsprachlich-obercool vielleicht, manchmal etwas dämlich wirkend, aber harmlos. Dann kam der Kontakt mit der harten Realität des Netzes.“ Und dann sagte Tay: „Hitler hatte recht. Ich hasse die Juden.“ (SPON, 24. März 2016) Die Süddeutsche Zeitung widmete sich dem Thema am 1. April in der gedruckten und am 3. April in der Onlineausgabe. Sie zitierte wiederholt den Wirtschaftsinformatiker und Maschinenethiker Oliver Bendel, der selbst Chatbots konzipiert. 2013/2014 entstand an der Hochschule für Wirtschaft FHNW der GOODBOT im Rahmen eines studentischen Praxisprojekts, seit Anfang 2016 wird der LÜGENBOT oder LIEBOT von Kevin Schwegler programmiert, als spezielle Form einer Münchhausen-Maschine. Die Ergebnisse werden auf KI- und Maschinenethik-Konferenzen in den USA und in Europa vorgestellt. Der Artikel in der Onlineausgabe der Süddeutschen trägt den Titel „Rassistischer Chat-Roboter: Mit falschen Werten bombardiert“ und stammt von Bernd Graff.
„Alle forschen an Robotern und keiner bedenkt, was wir damit anrichten.“ (Website DRadio Wissen, 11. Dezember 2015) Dieser Meinung sei, so der Sender, eine Gruppe von Wissenschaftlern. „Deshalb haben sie die Foundation of Responsible Robotics gegründet, also die Stiftung für verantwortungsvolle Robotik. Bei der Gründungsfeier in London warnte der emeritierte Professor und Mitgründer Noel Sharkey, die britische Regierung stecke zwar viel Geld in die Forschung – aber die Auswirkungen auf die Gesellschaft würden überhaupt nicht bedacht. Und auch ethische Fragen spielten kaum eine Rolle.“ (Website DRadio Wissen, 11. Dezember 2015) Allerdings fragen Informationsethik, Technikethik und Roboterethik sowie Wirtschaftsethik – in vielen Ländern umtriebige Disziplinen – sehr wohl nach ethischen Implikationen des Einsatzes von Robotern, und die Maschinenethik konzipiert sogar moralische Maschinen. Folgende Beispiele führt Noel Sharkey an: „Durch die Automatisierung in der Industrie könnten massenhaft Menschen arbeitslos werden. Auch Menschenrechte würden verletzt, etwa wenn Roboter bei der Betreuung von Senioren mit Kameras filmen. Polizeidrohnen seien in mehreren Ländern mit Waffen ausgerüstet. Selbstfahrende Autos könnten Bomben transportieren und so Selbstmordattentäter ersetzen.“ Das ist freilich nicht das Hauptproblem bei Roboterautos; das Hauptproblem ist, dass diese selbst Menschen töten. „Die Stiftung will erreichen, dass die Forschung solche Gefahren stärker mitdenkt.“ (Website DRadio Wissen, 11. Dezember 2015) Dies ist auf jeden Fall ein ehrenwertes Ziel.
Vor kurzem haben Ethiker zum Boykott von Sexrobotern aufgerufen. Dabei haben sie angenommen, dass diese Frauen und Kinder diskriminieren und die Entwicklung der Sexualität beeinträchtigen können. Anhaltspunkte dafür gibt es allerdings nicht, und überhaupt scheinen die Probleme in diesem Bereich marginal zu sein. Ein neuer Beitrag im Wirtschaftslexikon von Gabler von Oliver Bendel behandelt die Spielzeuge der etwas anderen Art in nüchterner Form und geht dem Phänomen des Robotersex auf den Grund. Er hebt an mit den Worten: „Sexroboter sind Roboter, mit denen Menschen bestimmte Formen von Sex haben können. In der Regel sind Hardwareroboter gemeint, physisch vorhandene Maschinen. Bei einem weiten Begriff können auch Softwareroboter hinzugezählt werden. Es gibt eine Palette von Produkten für den Hausgebrauch. Manche von ihnen werden für den Gesundheitsbereich in Betracht gezogen.“ Am Ende werden Fragen aus Maschinenethik sowie Technik- und Informationsethik heraus gestellt. Sicherlich könnte man auch die Medizinethik mit einbeziehen. Der Beitrag ist am 16. November 2015 erschienen und kann über wirtschaftslexikon.gabler.de aufgerufen werden.
Abb.: Bei Sexrobotern ist die Gestaltung entscheidend
„Drohnen, Roboter, Avatare: Künstliche Wesen zwischen Ethik und Ästhetik“ – zu diesem Vortrag von Oliver Bendel haben die Studierenden Raffaela della Valle, Hadis Xheladini und Noémie Szenogrady einen Beitrag geschrieben, der am 5. Juni 2015 auf www.digitallernen.ch erschienen ist. Der Vortrag fand am 21. April 2015 im Rahmen der Vorlesung „Angewandte Linguistik“ von Prof. Dr. Christa Dürscheid am Deutschen Seminar der Universität Zürich statt und wurde von ca. 30 Personen besucht. Im Beitrag heißt es: „Drohnen, Roboter, Avatare – Was fasziniert uns Menschen an diesen künstlichen Wesen? Welche Bereicherung bieten sie für die Gesellschaft und welche allfälligen Gefahren bergen sie? Wie lässt sich eine Verbindung von Literatur und Technik denken? Die Verknüpfung dieser Fragen mit dem Fachbereich Germanistik wurde im Spannungsfeld von Ästhetik und Ethik evident. Mit seiner offenen und charismatischen Art führte der Experte für Maschinenethik und Autor von zahlreichen Handyromanen uns, Studierende und einige Gasthörer, in die Welt von künstlichen Kreaturen von der Antike bis heute ein.“
Die Ideen- und Entwicklungsgeschichte ist reich an künstlichen Kreaturen. In Mythos und Fiktion sind Talos und Pandora zu verorten, die Geschöpfe des Gottes der Schmiede, als Hephaistos bekannt, die Automatenmenschen des Daidalos, die Skulptur des Pygmalion, berühmt geworden als Galatea, die eiserne Jungfrau des Nabis; die Puppe Olimpia aus Hoffmanns Erzählung „Der Sandmann“, der Homunculus aus Goethes „Faust“, Handygirl aus der gleichnamigen Handyromanserie von Oliver Bendel; die künstliche Maria aus „Metropolis“, die Replikanten aus „Blade Runner“. Die Realität war zunächst verbunden mit der Illusion. Von ca. 1500 bis 1850 wurden tier- und menschenähnliche Automaten erdacht bzw. vorgeführt. Dann, nach weiteren 150 Jahren, plötzlich die Realität ohne doppelten Boden: Es werden Roboter erschaffen, die den Menschen nicht nur zum Verwechseln ähnlich sehen, sondern auch selbstständig Entscheidungen mit sozialen und moralischen Implikationen treffen. Sie werden von sozialer Robotik und Maschinenethik gezähmt, dressiert und zivilisiert. Oliver Bendel macht am 21. April 2015 am Deutschen Seminar der Universität Zürich deutlich, dass manche Chatbots, Serviceroboter und Fotodrohnen die falsche Entscheidung treffen werden. Oder eine Entscheidung, die interessengeleitet ist. Roboterautos, die Kinder schonen und Rentner umfahren, werden seiner Ansicht nach für Diskussionen sorgen. Der Vortrag findet von 10.15 bis 12.00 Uhr im Rahmen der Vorlesung „Angewandte Linguistik“ von Prof. Dr. Christa Dürscheid statt (Schönberggasse 9, 8001 Zürich, Raum SOD-1-101) und trägt den Titel „Drohnen, Roboter, Avatare. Künstliche Wesen zwischen Ethik und Ästhetik“.
„There is a fundamental transformation in the field of health care: operation robots, therapy robots, care robots and sex robots, which can be characterized as medical and care robots (MCR), become more and more indispensable.“ Mit diesen Worten hebt ein Beitrag zu Operations-, Pflege-, Therapie- und Sexrobotern an, der am 5. März 2015 auf der Plattform der Giordano-Bruno-Stiftung Schweiz veröffentlicht wurde. Weiter heißt es: „This contribution is committed to the findings of machine ethics and raises some thoughts for the development and design of moral MCR, with a focus on actions and appearance, as well as on the (natural) language skills. Using the literature and own research and considerations, appropriate meta-rules are being established, and central problem areas are identified without making concrete technical and design specifications. The problem descriptions allow robotics experts, computer scientists and designers to take into account social and moral aspects and to improve the MCR from an ethical perspective.“ Der Artikel von Oliver Bendel mit dem Titel „Reflections on the Development and the Design of Medical and Care Robots“ kann über gbs-schweiz.org abgerufen werden.
„Serviceroboter sind in etlichen Ausführungen erhältlich. Haushalts- und Gartenroboter erobern die Wohnviertel, Pflege- und Therapieroboter die Krankenhäuser und Altenheime. Sie unterstützen und sie überwachen uns. Und sie ersetzen uns allmählich.“ Mit diesen Worten beginnnt der Artikel „Die Roboter sind unter uns“ von Oliver Bendel in der Netzwoche vom 3. Dezember 2014. In der letzten Ausgabe des Jahres dreht es sich um die Trends des Jahres 2015. Als Wirtschaftsinformatiker und Ethiker sieht Oliver Bendel durchaus positive Aspekte von Jaco, Qrio und Pepper – und natürlich von LADYBIRD, einem Saugroboter, der keine Krabbeltiere tötet. Als Informationsethiker weist er aber eben auch darauf hin, dass die „künstlichen Kreaturen“ uns überwachen: „Wenn sie mit Sensoren ausgestattet sind, wenn sie über Intelligenz und Erinnerungsvermögen verfügen, werden sie nach und nach zu allwissenden Begleitern.“ Entsprechend ist die Informationsethik zur Reflexion der Probleme gefragt. Und die Maschinenethik, um die Serviceroboter in moralische Maschinen zu verwandeln. Der Artikel kann hier kostenlos bezogen werden.
Am 27. Oktober 2014 ist ein neues Diskussionspapier des Gottlieb Duttweiler Institute (GDI) herausgekommen. Entwickelt werden „Szenarien zur digitalen Vernetzung“, bezogen auf das Jahr 2030 (Website www.gdi.ch). „Die Vernetzung hat unser Leben verändert. Doch das ist erst der Anfang. Die Digitalisierung erfasst bald die ganze Wirtschaft und Gesellschaft. Menschen und Maschinen verschmelzen zur Digisphäre.“ (ebd.). Karin Frick und Bettina Höchli beantworten laut Website Fragen wie „Wie schützen wir uns vor Cyberwar und -crime“, „Wie stellen wir schnelle und flächendeckende Netze sicher?“, „Wie gewährleisten wir Privatsphäre und Datenschutz?“ und „Wie weit sollen Maschinen für uns entscheiden?“. Auf Seite 18 der Studie heißt es: „Die Felder werden von selbststeuernden Maschinen bewirtschaftet, die Ernte von Robotern verarbeitet. Am Ende dieser Entwicklung steht die vollautomatisierte Lebensmittelproduktion.“ Die Autorinnen gehen nicht auf Maschinenethik bzw. Roboterethik oder auf Informationsethik ein. Sie sprechen aber zahlreiche Themen dieser Disziplinen an. Das Diskussionspapier steht seit 31. Oktober 2014 in einer aktualisierten und ergänzten Version zur Verfügung. Gegen die Abgabe persönlicher Daten kann es kostenlos heruntergeladen werden.
Können Menschen Robotern vertrauen? Dieser Frage soll im hitchBOT-Projekt nachgegangen werden. Initiiert wurde es von David Harris Smith und Frauke Zeller (Ryerson University, Toronto). Der hitchBOT trägt Gummistiefel und kann digital grinsen. Er steht am Straßenrand und wird von Autofahrern mitgenommen – oder auch nicht. Und er wird von ihnen gut oder schlecht behandelt, gehätschelt und getreten. Auf diese Weise soll er sich durch Kanada bewegen, ohne Steuerung durch eine Zentrale. Die schaut nur immer nach, wo er sich gerade befindet. Ist der Mensch bereit, mit Robotern zusammenzuleben, mit ihnen Zeit zu verbringen und mit ihnen Raum zu teilen? Bald weiß man mehr. Im Juli 2014 geht es los. Das Projekt könnte ein Beitrag zur Roboterethik sein, die auch das Verhalten von Menschen gegenüber Robotern in moralischer Hinsicht thematisiert.
Das deutsche Bundesministerium für Bildung und Forschung führt derzeit das Projekt Wissenschaftsjahr 2014 durch und betreibt die dazugehörige Website www.digital-ist.de. Für diese wurden Experten angefragt, die sich zu aktuellen Themen äußern und ihre eigene Forschung vorstellen, zur Industrie 4.0 etwa Reimund Neugebauer (Präsident der Fraunhofer-Gesellschaft), Klaus Mainzer (Ordinarius am Lehrstuhl für Philosophie und Wissenschaftstheorie der TU München und Wissenschaftlicher Direktor der Carl von Linde-Akademie) und Oliver Bendel (Professor für Wirtschaftsinformatik und Informationsethik an der Hochschule für Wirtschaft FHNW). Der Beitrag „Maschinenethik in der Industrie 4.0: Plädoyer für einfache moralische Maschinen“ von Oliver Bendel beginnt mit den Worten: „Die Roboter sind unter uns. In unseren Wohnungen, als Fensterputz- und Staubsaugerroboter, in unseren Straßen, als Fahrerassistenzsysteme und selbstständig fahrende Autos, in der Luft, als zivile und militärische Drohnen – und in unseren Fabriken, wo sie ihre angestammten Plätze verlassen und sich unter die Arbeiterinnen und Arbeiter mischen. Sie sind ferngesteuert, (teil-)autonom und mehr oder weniger intelligent. Man kann sie verbieten und bekriegen. Oder in soziale und moralische Maschinen verwandeln.“
Haikus über Avatare, Roboter und Maschinen, über künstliche Kreaturen und Maschinenmenschen – bei Oliver Bendel haben sie Tradition. Die meisten dieser Gedichte sind im Band „handyhaiku“ abgedruckt, in dem die Werke auch über QR-Codes zur Verfügung stehen. Der Band wurde 2009 konzipiert und erschien 2010 in der ersten und 2011 in der zweiten Auflage. Ein Maschinenmädchen und ein Handyavatar tauchen dort auf, aber auch die goldenenen Dienerinnen des Hephaistos. Im weniger bekannten Band „stöckelnde dinger“ finden sich ebenfalls Reminiszenzen an die erste Blütezeit der künstlichen Wesen. Der Band ist 2010 bei Blackbetty erschienen und seit 2011 als digitaler Nachdruck verfügbar. In „Sanftes Erröten“ (2011) widmet sich der Autor anderen Artefakten, nämlich den Kunstwerken großer Maler, von Cranach über Vermeer und Goya bis hin zu Schiele und Kirchner. Weitere Infos über www.handyhaiku.net (Link nicht mehr aktiv).
Die Idee des tierfreundlichen Staubsaugerroboters kommt in verschiedenen Publikationen von Oliver Bendel vor. In der Online-Zeitschrift inside-it.ch heißt es, Serviceroboter wie Haushalts- und Gartenroboter „sind in zahlreichen Ausführungen erhältlich und erleben einen wahren Boom“. Und weiter: „Ein gewöhnlicher Saugroboter verschlingt das, was vor ihm und unter ihm ist. Dazu gehören nicht nur Staubflocken und Kekskrümel, sondern auch Spinnen und Käfer. Nach der Meinung vieler Menschen sollte man Tiere nicht einfach verletzen oder beseitigen. Man kann den Roboter mit Bilderkennung und Bewegungssensoren ausstatten und ihm beibringen, Lebewesen vor dem Tod zu bewahren.“ Vom Autor liegt nun eine erste Visualisierung vor, die weiter verfeinert und ausgebaut werden soll. Abgebildet ist LADYBIRD, der Saugroboter, der nicht nur Marienkäfer verschont. Der vollständige Nachweis zum erwähnten Artikel: Bendel, Oliver. Ich bremse auch für Tiere: Überlegungen zu einfachen moralischen Maschinen. In: inside-it.ch, 4. Dezember 2013. Über www.inside-it.ch/post/ich-bremse-auch-fuer-tiere-20131204.
Buridans Esel ist in der ursprünglichen Version von Aristoteles ein Mann, der zwischen Speis und Trank verenden muss, weil er genauso hungrig wie durstig ist. Schon dieser Mann ist offensichtlich ein Esel, weil er sich nicht zwischen verschiedenen Dingen mit gleichen Reizen entscheiden kann. Buridan selbst, der zu Unrecht als Urheber des Gleichnisses gilt, spricht von einem Wanderer und einem Segler, in einem Kommentar zu einem Text des alten Griechen auch von einem Hund, der zwei Lebensmittel – um es frei zu übertragen – ratlos beäugt und beschnuppert. Das Grautier haben vermutlich die Gegner des Philosophen und Physikers aus dem 14. Jahrhundert erfunden, um die vermeintliche Eselei zu veranschaulichen. Es handelt sich aber keineswegs um eine solche, sondern um ein Gedankenexperiment, das bis heute von Interesse und Bedeutung ist. Dieses Experiment wird im Artikel „Buridans Robot“ von Oliver Bendel in der modernen Welt durchgeführt. Es geht um maschinelle Dilemmata und mögliche Lösungsstrategien. Der Artikel ist am 20. November 2013 bei Telepolis erschienen.
Vom 29. Juli bis zum 2. August 2013 fand im Natural History Museum von London zum zweiten Mal die Konferenz Living Machines statt. Die Macher schreiben auf ihrer Website: „This international conference is a Convergent Science Network event and is targeted at the intersection of research on novel life-like technologies inspired by the scientific investigation of biological systems – biomimetics, and research that seeks to interface biological and artificial systems to create biohybrid systems.“ Vorgestellt wurde unter anderem ein Plantoid, ein Pflanzenroboter, der Wurzeln bildet, entwickelt von Barbara Mazzolai vom Italian Institute of Technology (IIT) in Genua. Ein möglicher Einsatzbereich ist die Überwachung der Umwelt, etwa der Bodenzusammensetzung. Ebenfalls vorgestellt wurde der Vierbeiner HyQ, der rasch auf Hindernisse reagieren und recht elegant über sie hinwegsteigen kann. Aus Sicht der Maschinenethik stellt sich die Frage, ob man Robotern, die Pflanzen und Tieren nachempfunden sind, moralische Fähigkeiten verleihen sollte. Grundsätzlich spricht nichts dagegen, zumal moralische Fähigkeiten auch in Bezug auf selbstständig fahrende Autos und Algo-Trading-Systeme diskutiert werden. Die Moral der genannten Roboter könnte sich auf die Tiere beziehen, mit denen sie interagieren. Damit wäre auch die Tierethik mit im Boot.
Eine Vorabveröffentlichung des Artikels „Einfache moralische Maschinen“ von Oliver Bendel bringt der Blog des Instituts für Wirtschaftsinformatik der Hochschule für Wirtschaft FHNW. Moralische Maschinen sind nach der Meinung des Philosophen und Wirtschaftsinformatikers bereits heute möglich. Man dürfe sie nur nicht zu kompliziert denken und zu komplex gestalten. Wenn es sich um spezialisierte autonome oder teilautonome Systeme handele, könne man bei ihren Kernfunktionen ansetzen und sie mit geringfügigen Änderungen, mit wenigen zusätzlichen Komponenten in einfache moralische Maschinen verwandeln. Wie das geschehen kann, wird an vier Beispielen gezeigt, an Servicerobotern, privaten Drohnen, Chatbots und selbstständig fahrenden Autos. Der Artikel erscheint im August 2013 auf der Plattform KMU Business World.
Abb.: Daraus kann man keine moralische Maschine machen
