Das Programm der 2. VDI-Konferenz „Humanoide Roboter“ ist fertiggestellt und kann hier heruntergeladen werden. Die Wissenschaftlerinnen und Wissenschaftler beschäftigen sich mit „dem Menschen nachempfundenen Robotern“ (Website VDI). Zwar seien Roboter insbesondere in Bezug auf Wahrnehmung und Intelligenz „noch weit vom Menschen entfernt“, aber die Entwicklung von humanoiden Robotern werde „mit enormem Tempo vorangetrieben“. „Das Themenspektrum der Konferenz reicht dabei von Design und Gestaltung über die kognitive Planung bis hin zu Anwendungsbeispielen der Roboter.“ (Website VDI) Am 6. Dezember 2017 spricht Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW) über die „Speech Synthesis Markup Language (SSML) für humanoide Serviceroboter“, Prof. Dr. Elisabeth André (Universität Augsburg) zur „Personalisierung der Mensch-Roboter-Interaktion durch sozialsensitives Lernen“, Prof. Dr. Sven Behnke (Universität Bonn) über „Humanoide Roboter für den Einsatz in menschenfeindlichen Umgebungen“. Die Konferenz findet vom 5. bis 6. Dezember 2017 in Aschheim bei München statt. Weitere Informationen über https://www.vdi-wissensforum.de/weiterbildung-automation/humanoide-roboter/.
Unternehmungslustige Serviceroboter
„Serviceroboter sind für Dienstleistungen und Hilfestellungen aller Art zuständig, sie bringen und holen Gegenstände, überwachen die Umgebung ihrer Besitzer oder das Befinden von Patienten und halten ihr Umfeld im gewünschten Zustand. Wenn sie mit Sensoren ausgestattet sind, wenn sie über Intelligenz und Erinnerungsvermögen verfügen, werden sie nach und nach zu allwissenden Begleitern. Sie wissen, was ihr Eigentümer oder Gegenüber tut und sagt oder was die Passanten in der Umgebung umtreibt und melden es womöglich an ihre Betreiber oder an Geräte und Computer aller Art. So wie Industrieroboter immer mehr ihre geschützten Bereiche verlassen, so wie sie immer mobiler und universeller geraten, und so wie sie immer mehr an den Menschen heranrücken, so werden Serviceroboter immer eigenständiger und ‚unternehmungslustiger‘.“ So beginnt ein neuer Beitrag von Oliver Bendel im Wirtschaftslexikon von Springer Gabler, erschienen am 31. August 2017. Im Folgenden werden die Serviceroboter klassifiziert und Ziele, Zwecke und Merkmale skizziert. Am Ende nimmt der Autor die Perspektive der Ethik ein. Der Beitrag kann über wirtschaftslexikon.gabler.de/Definition/serviceroboter.html abgerufen werden.
Abb.: Ein unternehmungslustiger Serviceroboter
KI, Ethik und Rechtswissenschaft
Ein interner Event bei Audi am 20. September 2017 in Ingolstadt widmet sich dem Zusammenhang von Künstlicher Intelligenz (KI), Ethik und Rechtswissenschaft. Eingeladen sind als Referenten u.a. Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW), Prof. Dr. Sepp Hochreiter (Johannes Kepler Universität Linz) und Dr. Alexander Mertens (RWTH Aachen). Oliver Bendel erklärt, was Ethik und Moral sind (Ethik als Disziplin, Moral als ihr Gegenstand), was die Maschinenethik ist (eine Disziplin, die nach der Möglichkeit maschineller Moral fragt, so wie die KI als Disziplin nach der Möglichkeit künstlicher Intelligenz) und welchen Artefakten sich die Maschinenethik seit ca. zehn Jahren zuwendet (selbstständig fahrenden Autos, zivilen Drohnen, Pflege- und Therapierobotern, Kampfrobotern, Chatbots, um nur einige Typen zu nennen). Anders als Bereichsethiken wie Informationsethik und Technikethik beschäftigt sich die Maschinenethik nicht nur mit Maschinen, sondern setzt sie auch um, zusammen mit KI und Robotik. Audi wurde 1909 gegründet und gehört zum Volkswagen-Konzern.
Abb.: Ein Modell eines A8
Serviceroboter im Wolfspelz
„Große, rote Augen in einem haarlosen Gesicht: Dieser Wolf sieht aus, als sei er einem japanischen 70er-Jahre-Monsterfilm entsprungen. Wie aus der Fiktion sind auch die Geräusche, die er von sich gibt: Der Wolf kann nicht nur furchterregend heulen, sondern auch sprechen.“ (Golem, 28. August 2017) Das wiederum erinnert an den bösen Wolf in „Rotkäppchen“, wobei angemerkt sei, dass es einen solchen eben nur im Märchen gibt. „Der Monsterwolf ist in Wirklichkeit eine robotische Vogelscheuche im Wolfspelz. Er ist 65 Zentimeter lang und 50 Zentimeter hoch. Mit Hilfe von Infrarotsensoren erfasst er, wenn sich echte Tiere dem Reisfeld, an dessen Rand er aufgestellt ist, nähern.“ (Golem, 28. August 2017) Und weiter: „Rehe, Vögel, Wildschweine und sogar Bären vertreibt er durch laute Geräusche: Mit bis zu 95 Dezibel kann er heulen, fauchen, wie ein Mensch sprechen, Gewehrschüsse nachahmen – insgesamt beherrscht die Maschine 18 verschiedene Geräusche. Die Töne sollen variieren, damit sich die zu vertreibenden Tiere nicht daran gewöhnen.“ (Golem, 28. August 2017) Damit ist der Roboterwolf ein Fall für die Tier-Maschine-Interaktion sowie für die Maschinenethik. Und natürlich für die Tierethik.
Abb.: Sie hat keine Angst vor dem bösen Wolf
Neuer offener Brief zu Kampfrobotern
KI-Forscher und Robotiker sowie weitere Wissenschaftler aus aller Welt haben bei der Eröffnung der IJCAI 2015 Conference am 28. Juli 2015 in einem offenen Brief ein Verbot von autonomen Waffensystemen angemahnt. Zu den Unterzeichnern gehörten der Physiker und Astrophysiker Stephen Hawking, der Apple-Co-Founder Steve Wozniak, der Sprachwissenschaftler und Linksintellektuelle Noam Chomsky und der Tesla-Gründer Elon Musk. In einem weiteren offenen Brief an die Vereinten Nationen, der am 20. August 2017 vom Future of Life Institute veröffentlicht wurde, forderten Elon Musk und über 100 weitere Unternehmer und Wissenschaftler ein Verbot von autonomen Kampfrobotern. Die Maschinenethik widmet sich den moralischen Entscheidungen von Kampfrobotern. Ein Gedankenexperiment von Oliver Bendel aus dem Jahre 2013 ist Buridans Robot, der einen Mann töten soll. Da dieser mit seinem Zwillingsbruder aufritt, ist er sich unsicher, wen er wählen soll, und gerät in ein ähnliches Dilemma wie Buridans Esel, der zwischen zwei Heubündeln verhungert.
Abb.: Die Idee des Kampfroboters ist alt
Porsche-Chef, Sprinterin, Designerin, Ethiker, Miss
Am 6. und 7. September 2017 treffen in der City-Garage in St. Gallen bei zwei VIP-Abenden ganz unterschiedliche Menschen aufeinander, nämlich Salomé Kora, Stephan Altrichter, Ly-Ling Vilaysane und Oliver Bendel. Salomé Kora, 23 Jahre alt, ist eine Sprinterin und Staffelläuferin. Mit der 4-mal-100-Meter-Staffel stellte sie 2016 einen neuen Schweizer Rekord auf. Stephan Altrichter wurde 2010 Chef von Porsche Schweiz. Zuvor leitete er u.a. die Mercedes-Benz-Niederlassung in New York. Ly-Ling Vilaysane ist Modedesignerin in St. Gallen. Sie pendelt zwischen Schweiz, Österreich, Ungarn und Frankreich. Oliver Bendel ist Technikphilosoph und forscht vor allem in der Informationsethik und in der Maschinenethik. Er denkt sich moralische Maschinen nicht nur aus, sondern baut sie auch. Befragt werden die vier Personen auf dem Podium von Linda Fäh, Miss Schweiz von 2009. Sie singt und moderiert seit mehreren Jahren. Ein Thema wird die Maschinenethik sein, konkret die Frage, ob autonome Autos moralische Regeln befolgen und ob sie qualifizieren oder quantifizieren sollten.
Abb.: Ein nicht sehr smarter, aber sehr schöner Porsche
Robophilosophy 2018
The conference „Robophilosophy 2018 – Envisioning Robots In Society: Politics, Power, And Public Space“ will take place in Vienna (February 14 – 17, 2018). According to the website, it has three main aims; it shall present interdisciplinary humanities research „in and on social robotics that can inform policy making and political agendas, critically and constructively“, investigate „how academia and the private sector can work hand in hand to assess benefits and risks of future production formats and employment conditions“ and explore how research in the humanities, including art and art research, in the social and human sciences, „can contribute to imagining and envisioning the potentials of future social interactions in the public space“ (Website Robophilosophy). Plenary speakers are Joanna Bryson (Department of Computer Science, University of Bath, UK), Alan Winfield (FET – Engineering, Design and Mathematics, University of the West of England, UK) and Catelijne Muller (Rapporteur on Artificial Intelligence, European Economic and Social Committee). Deadline for submission of abstracts for papers and posters is October 31. More information via conferences.au.dk/robo-philosophy/.
Fig.: Reflexions on robots
Affäre mit einem Roboter
Omer Kabir von der israelischen Tageszeitung Calcalist hat im Februar 2017 ein Interview mit Oliver Bendel geführt, das am 16. August 2017 erschienen ist. Es geht um Künstliche Intelligenz, Robotik und Maschinenethik. Zu einer Frage führte Oliver Bendel aus: „I would like to distinguish between simple and complex moral machines. While simple moral machines are useful and valuable in many contexts, e.g., in order to protect animals in the household, in the parkway or in the wilderness, complex moral machines can be dangerous, on the battle field as well as in road traffic. I am against autonomous weapons and autonomous cars which decide between life and death of human beings. I prefer simple machines which follow simple rules in our absence, simple machines that are our representatives, not least in a moral sense.“ Auf eine andere gab er die Antwort: „Industrial and service robots as well as agents and chatbots will support and replace us, doing some things better than their human competitors. They may be more precise, faster and cheaper. The machines can used for automatic operation round the clock. We may experience initial discomfort and pressure. After some discussions and perhaps revolutions, we could head for adequate economic, political and legal conditions. Perhaps there will be an unconditional basic income for all citizens, and I must admit that I sympathise with this idea. Other experts also propose a machinery tax or a quota of robots, but I am rather sceptical about such restrictions. I like the discussions about them more than themselves.“ Der Artikel mit dem Titel „Affäre mit einem Roboter“ kann hier als PDF heruntergeladen oder über www.calcalist.co.il/internet/articles/0,7340,L-3719292,00.html aufgerufen werden.
Abb.: Affäre mit einem Roboter (Foto: Calcalist/Kai R. Joachim)
Brauchen wir eine Robotersteuer?
Die Bundeszentrale für politische Bildung hat auf ihrem Portal „Die Netzdebatte“ zwei neue Beiträge veröffentlicht. Es handelt sich um keine Pole, sondern um Varianten. Prof. Dr. Jürgen Schmidhuber sieht eher Vorteile in der Robotersteuer, die er sich unter gewissen Umständen und in einer bestimmten Ausgestaltung vorstellen kann. Prof. Dr. Oliver Bendel ist dafür, die Robotersteuer zu diskutieren, sieht aber insgesamt eher Nachteile, und benennt Herausforderungen, denen sich eine Umsetzung im Moment stellen müsste. Vor allem sei unklar, was genau man besteuern soll. Besonders deutlich zeige sich dies bei Kooperations- und Kollaborationsrobotern, die eng mit Menschen zusammenarbeiten. Wann fängt die Arbeit des Menschen und der Maschine an, wann hört sie auf? Auch muss man klären, ob man nur Hardwareroboter oder auch Softwareroboter besteuern soll. Wie verhält es sich mit einer Armee von Social Bots? Mit Crawlern von Suchmaschinen? Die Beiträge können über www.bpb.de/dialog/netzdebatte/248706/meinung-auch-roboter-sollten-steuern-zahlen und www.bpb.de/dialog/netzdebatte/245350/meinung-roboter-haben-keine-verantwortung aufgerufen werden.
Abb.: Der fiktive Lohn eines Roboters ist schwer zu bestimmen
KI in der NG
Der Beitrag zur Künstlichen Intelligenz in der Zeitschrift National Geographic (7/2017) ist nun als PDF verfügbar und kann hier heruntergeladen werden. Auf 14 Seiten widmet man sich der Arbeit von Oliver Bendel. Der Informations- und Maschinenethiker stand dem Chefredakteur Florian Gless und der Redakteurin Ines Bellinger Rede und Antwort, die von Hamburg in die Schweiz gereist waren. Zudem gibt es eine Graphic Novel zu aktuellen Entwicklungen und den entsprechenden Überlegungen von Oliver Bendel. Ein Glossar zur KI rundet den Beitrag ab. Die Fotos stammen von Elias Hassos, der u.a. Hans Magnus Enzensberger und Martin Walser porträtiert und auf dem FHNW-Campus Brugg-Windisch fotografiert hat. „Wir können in der Hängematte liegen“ – so lautet die Überschrift des Beitrags. Oliver Bendel ist der Meinung, dass uns Roboter unterstützen und entlasten können. Dass Menschen die besten Jahre des Lebens und die besten Stunden des Tages einem Unternehmen schenken, das ihnen womöglich nicht einmal sympathisch ist, hält er für eine Ideologie, die man hinterfragen kann. Vielleicht reichen vier Stunden am Tag für den Lebensunterhalt, wenn ein Grundeinkommen dazukommt. Denn die Gewinne werden weiter erzielt, mit Hilfe von Robotik und KI auch ohne die Arbeiter und Angestellten. Sie müssen nur gerecht verteilt werden. Weitere Informationen über www.nationalgeographic.de.
Abb.: KI in der NG
Liebeserklärung einer Roboterfrau
In einem KI-(Kunst-)Projekt von Oliver Bendel wurde am 26. Juli 2017 ein Gedicht mit Hilfe der Text-to-Speech-Engine von IBM Watson eingesprochen, unter Verwendung der Speech Synthesis Markup Language (SSML). Nachdem die Metainformationen von einer normalen künstlichen Stimme vermittelt wurden, wendet sich eine offensichtlich verliebte Roboterfrau an das menschliche Objekt ihrer Begierde. Es wurden Tags wie <voice-transformation> und <express-as> verwendet, zudem unterschiedlich lange Pausen eingebaut. Das Gedicht von Oliver Bendel kann über handyroman.net/handyhaiku/einstieg.html im Format .ogg heruntergeladen und beispielsweise über den VLC Media Player angehört werden (Link nicht mehr gültig). Bereits im März des Jahres wurde ein Haiku veröffentlicht. Es wurden Pausen am Anfang eingebaut, damit der Titel und die Metainformationen (Autor, System, Stimme, Datum) nicht zu schnell nacheinander erklingen, zudem Pausen zwischen den Zeilen des Gedichts.
Abb.: Verliebte Roboterfrau
Die Maschine als Rechtssubjekt
Mit einem lachenden und einem weinenden Auge schwelgen die Macher des Festivals science+fiction, wie sie in einer Nachricht vom 24. Juli 2017 verkündeten, „in Erinnerungen an das vergangene Festival und blicken gleichzeitig voller Tatendrang auf die Ausgabe 2018“. Über scienceandfiction.ch/festival/videos-2017/ kann man sich die Videos der einzelnen Events ansehen, die im Sommercasino Basel vom 5. bis 7. Mai 2017 stattfanden. Am 6. Mai ging es um Roboterrecht und Maschinenethik. Beim Panel „Maschinen und das Gesetz“ wurde gefragt, welche Bedingungen erfüllt sein müssen, damit eine Maschine zum Rechtssubjekt wird, ob es in naher Zukunft eines Maschinenrechts bedarf, oder ob sich Maschinen in unsere Rechtsprechung einfügen müssen, und welche Folgen sich ergeben, wenn in einer Mensch-Maschine-Interaktion etwas schief geht. Es moderierte Christoph Keller von SRF 2 Kultur, es diskutierten Wolfram Burgard (Professor für Autonomous Intelligent Systems, Universität Freiburg), Nadine Zurkinden (Postdoc für Strafrecht, Universität Basel) und Oliver Bendel (Professor für Wirtschaftsinformatik und Informationsethik, Hochschule für Wirtschaft FHNW). Die nächste Ausgabe des Festivals findet vom 4. bis 6. Mai 2018 in Basel statt.
Abb.: Kann eine Maschine ein Rechtssubjekt sein?
Feedback zu „Ethically Aligned Design“
Die IEEE Global Initiative hat im Juli 2017 weitere Ergebnisse und Dokumente vorgelegt. So hat man nun Zugang zum Feedback, das Experten wie Amitai Etzioni, Yanqing Hong und Oliver Bendel zu „Ethically Aligned Design, Version 1“ gegeben haben. Es heißt dazu auf der Website: „The feedback in this document was submitted as part of an open Request for Information (RFI) process regarding the document created by The IEEE Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems (‚The IEEE Global Initiative‘) titled, ‚Ethically Aligned Design: A Vision for Prioritizing Human Wellbeing with Artificial Intelligence and Autonomous Systems‘. As stated in the submission guidelines for our RFI process, all contributions have been posted exactly as they were received. The only modification to submissions was to standardize the font and spacing in the following document for ease of readability. Committees working to update Version 2 of Ethically Aligned Design are currently in the process of reviewing all feedback received to help inform their updated section drafts.“ (Website IEEE) Weitere Informationen über standards.ieee.org/develop/indconn/ec/autonomous_systems.html.
Abb.: Wie unterstützen und beschränken wir die Entwicklungen?
Sex mit Maschinen
„Sex mit Maschinen“ – so der Titel eines Beitrags auf SWR2 vom 19. Juli 2017 zu Sexrobotern und Robotersex. „Revolutionieren Roboter das Liebesleben?“ – dies fragt der Untertitel. Im Beitrag geben u.a. Petra Grimm von der Hochschule der Medien in Stuttgart und Oliver Bendel von der Hochschule für Wirtschaft FHNW die Antworten. Petra Grimm erwähnt Galatea als frühe Liebesmaschine: „Wenn Sie an den Pygmalion-Mythos denken, weil er Verdruss über die Frauen hatte, die es dort gab, sich selbst so eine Elfenbeinfigur schuf, und die wurde dann lebendig und gebar ihm einen Sohn. Aus allen verschiedenen Kulturen haben wir dieses Phänomen, aus Materie sich einen Partner, meistens eine Partnerin zu schaffen.“ Und auch Oliver Bendel verweist auf eine lange Tradition: „… dass Menschen Emotionen zu Maschinen entwickeln, das ist klar, das passiert auch schon lange, wir haben auch ein enges emotionales Verhältnis zu unserem Auto“. Wir können unser Auto lieben, wir können auch Sexroboter lieben, auf noch eindrücklichere Weise, aber wir bekommen, was die Gefühle anbetrifft, nichts von ihnen zurück. Maschinen sind und bleiben Maschinen.
Jyllands-Posten zur Zukunft der Liebe
Sarah Kott von der dänischen Zeitung Morgenavisen Jyllands-Posten stellte Oliver Bendel im Mai 2017 einige Fragen zu Sexrobotern und Robotersex. So wollte sie wissen, wie sehr dieser dem Zusammensein mit Menschen ähnelt. Die Antwort lautete: „It depends on what we will do with the robots and in which situations. In the twilight, provided a fertile imagination, stimulation and penetration could be similar. There are promising approaches and experiments with artificial flesh and artificial skin … some love dolls are extremely lifelike, and they could pass a ‚daylight test‘ without any problems. Therefore, tactile and optical requirements can be met. The voice seems to be a bigger problem. But in recent years, scientists and engineers have achieved major progress in the field of speech synthesis. 10 – 20 minutes of speech samples are enough, at least according to the promises, to imitate an individual voice in any kind of statement. Individual voices could be implanted in sex robots. During longer absences of a partner they might substitute the partner also acoustically. Furthermore, popular voices of film and porn stars could be used.“ Statements aus dem Interview sind in dem Artikel „Hvor havner dine hemmelige sexfantasier, når den fortrolige er en robot?“ enthalten, der am 9. Juli 2017 erschienen ist (auch online verfügbar).
Abb.: Über die Zukunft der Liebe wird allerorten diskutiert
Virtuelle Realität und maschinelle Moral
Seit ca. zehn Jahren werden moralische Maschinen intensiv erforscht. Auch autonome Autos waren früh im Fokus der zuständigen Disziplin, der Maschinenethik. 2012 wurde unter der Betreuung von Oliver Bendel eine Formel entwickelt, mit deren Hilfe autonome Autos in theoretischen Dilemmasituationen qualifizieren und quantifizieren können (Möglichkeiten, die er auf der TA-Konferenz in Prag Anfang 2013 kritisch diskutiert hat), später kamen Mittel wie annotierte Entscheidungsbäume hinzu. Forscher der Universität Osnabrück haben nun einen weiteren Ansatz vorgelegt, der autonome Autos als selbstlernende Systeme vorsieht. Josephine Lütke vom NDR fasst die Studie „Using Virtual Reality to Assess Ethical Decisions in Road Traffic Scenarios“ wie folgt zusammen: „Die Forscher haben eine Autofahrt auf einer Straße in der virtuellen Realität simuliert. Etwas mehr als 100 Probanden setzten sich eine spezielle Brille auf, die ihnen das Gefühl gab, tatsächlich Auto zu fahren.“ (Website NDR, 5. Juli 2017) Sie mussten nun – dies erinnert an die Moral Machine des MIT – in Dilemmasituationen entscheiden. „Mit diesen Ergebnissen der Versuche fütterten die Wissenschaftler dann einen Computer. Allerdings bekam die Maschine nicht alle Informationen. Etwa zehn Prozent der moralischen Entscheidungen, die die Menschen getroffen hatten, enthielten die Forscher der Maschine vor. Stattdessen musste der Computer die Versuche selbst machen. Und: Er hatte gelernt und entschied auch in den Fällen, die er noch nicht kannte, fast immer so, wie es auch die Menschen in den Versuchen gemacht hatten.“ (Website NDR, 5. Juli 2017) Weitere Informationen über www.ndr.de und journal.frontiersin.org.
Abb.: Virtuelle Realität und maschinelle Moral