Am 6. und 7. September 2017 treffen in der City-Garage in St. Gallen bei zwei VIP-Abenden ganz unterschiedliche Menschen aufeinander, nämlich Salomé Kora, Stephan Altrichter, Ly-Ling Vilaysane und Oliver Bendel. Salomé Kora, 23 Jahre alt, ist eine Sprinterin und Staffelläuferin. Mit der 4-mal-100-Meter-Staffel stellte sie 2016 einen neuen Schweizer Rekord auf. Stephan Altrichter wurde 2010 Chef von Porsche Schweiz. Zuvor leitete er u.a. die Mercedes-Benz-Niederlassung in New York. Ly-Ling Vilaysane ist Modedesignerin in St. Gallen. Sie pendelt zwischen Schweiz, Österreich, Ungarn und Frankreich. Oliver Bendel ist Technikphilosoph und forscht vor allem in der Informationsethik und in der Maschinenethik. Er denkt sich moralische Maschinen nicht nur aus, sondern baut sie auch. Befragt werden die vier Personen auf dem Podium von Linda Fäh, Miss Schweiz von 2009. Sie singt und moderiert seit mehreren Jahren. Ein Thema wird die Maschinenethik sein, konkret die Frage, ob autonome Autos moralische Regeln befolgen und ob sie qualifizieren oder quantifizieren sollten.
Abb.: Ein nicht sehr smarter, aber sehr schöner Porsche
The conference „Robophilosophy 2018 – Envisioning Robots In Society: Politics, Power, And Public Space“ will take place in Vienna (February 14 – 17, 2018). According to the website, it has three main aims; it shall present interdisciplinary humanities research „in and on social robotics that can inform policy making and political agendas, critically and constructively“, investigate „how academia and the private sector can work hand in hand to assess benefits and risks of future production formats and employment conditions“ and explore how research in the humanities, including art and art research, in the social and human sciences, „can contribute to imagining and envisioning the potentials of future social interactions in the public space“ (Website Robophilosophy). Plenary speakers are Joanna Bryson (Department of Computer Science, University of Bath, UK), Alan Winfield (FET – Engineering, Design and Mathematics, University of the West of England, UK) and Catelijne Muller (Rapporteur on Artificial Intelligence, European Economic and Social Committee). Deadline for submission of abstracts for papers and posters is October 31. More information via conferences.au.dk/robo-philosophy/.
Omer Kabir von der israelischen Tageszeitung Calcalist hat im Februar 2017 ein Interview mit Oliver Bendel geführt, das am 16. August 2017 erschienen ist. Es geht um Künstliche Intelligenz, Robotik und Maschinenethik. Zu einer Frage führte Oliver Bendel aus: „I would like to distinguish between simple and complex moral machines. While simple moral machines are useful and valuable in many contexts, e.g., in order to protect animals in the household, in the parkway or in the wilderness, complex moral machines can be dangerous, on the battle field as well as in road traffic. I am against autonomous weapons and autonomous cars which decide between life and death of human beings. I prefer simple machines which follow simple rules in our absence, simple machines that are our representatives, not least in a moral sense.“ Auf eine andere gab er die Antwort: „Industrial and service robots as well as agents and chatbots will support and replace us, doing some things better than their human competitors. They may be more precise, faster and cheaper. The machines can used for automatic operation round the clock. We may experience initial discomfort and pressure. After some discussions and perhaps revolutions, we could head for adequate economic, political and legal conditions. Perhaps there will be an unconditional basic income for all citizens, and I must admit that I sympathise with this idea. Other experts also propose a machinery tax or a quota of robots, but I am rather sceptical about such restrictions. I like the discussions about them more than themselves.“ Der Artikel mit dem Titel „Affäre mit einem Roboter“ kann hier als PDF heruntergeladen oder über www.calcalist.co.il/internet/articles/0,7340,L-3719292,00.html aufgerufen werden.
Abb.: Affäre mit einem Roboter (Foto: Calcalist/Kai R. Joachim)
Die Bundeszentrale für politische Bildung hat auf ihrem Portal „Die Netzdebatte“ zwei neue Beiträge veröffentlicht. Es handelt sich um keine Pole, sondern um Varianten. Prof. Dr. Jürgen Schmidhuber sieht eher Vorteile in der Robotersteuer, die er sich unter gewissen Umständen und in einer bestimmten Ausgestaltung vorstellen kann. Prof. Dr. Oliver Bendel ist dafür, die Robotersteuer zu diskutieren, sieht aber insgesamt eher Nachteile, und benennt Herausforderungen, denen sich eine Umsetzung im Moment stellen müsste. Vor allem sei unklar, was genau man besteuern soll. Besonders deutlich zeige sich dies bei Kooperations- und Kollaborationsrobotern, die eng mit Menschen zusammenarbeiten. Wann fängt die Arbeit des Menschen und der Maschine an, wann hört sie auf? Auch muss man klären, ob man nur Hardwareroboter oder auch Softwareroboter besteuern soll. Wie verhält es sich mit einer Armee von Social Bots? Mit Crawlern von Suchmaschinen? Die Beiträge können über www.bpb.de/dialog/netzdebatte/248706/meinung-auch-roboter-sollten-steuern-zahlen und www.bpb.de/dialog/netzdebatte/245350/meinung-roboter-haben-keine-verantwortung aufgerufen werden.
Abb.: Der fiktive Lohn eines Roboters ist schwer zu bestimmen
Der Beitrag zur Künstlichen Intelligenz in der Zeitschrift National Geographic (7/2017) ist nun als PDF verfügbar und kann hier heruntergeladen werden. Auf 14 Seiten widmet man sich der Arbeit von Oliver Bendel. Der Informations- und Maschinenethiker stand dem Chefredakteur Florian Gless und der Redakteurin Ines Bellinger Rede und Antwort, die von Hamburg in die Schweiz gereist waren. Zudem gibt es eine Graphic Novel zu aktuellen Entwicklungen und den entsprechenden Überlegungen von Oliver Bendel. Ein Glossar zur KI rundet den Beitrag ab. Die Fotos stammen von Elias Hassos, der u.a. Hans Magnus Enzensberger und Martin Walser porträtiert und auf dem FHNW-Campus Brugg-Windisch fotografiert hat. „Wir können in der Hängematte liegen“ – so lautet die Überschrift des Beitrags. Oliver Bendel ist der Meinung, dass uns Roboter unterstützen und entlasten können. Dass Menschen die besten Jahre des Lebens und die besten Stunden des Tages einem Unternehmen schenken, das ihnen womöglich nicht einmal sympathisch ist, hält er für eine Ideologie, die man hinterfragen kann. Vielleicht reichen vier Stunden am Tag für den Lebensunterhalt, wenn ein Grundeinkommen dazukommt. Denn die Gewinne werden weiter erzielt, mit Hilfe von Robotik und KI auch ohne die Arbeiter und Angestellten. Sie müssen nur gerecht verteilt werden. Weitere Informationen über www.nationalgeographic.de.
In einem KI-(Kunst-)Projekt von Oliver Bendel wurde am 26. Juli 2017 ein Gedicht mit Hilfe der Text-to-Speech-Engine von IBM Watson eingesprochen, unter Verwendung der Speech Synthesis Markup Language (SSML). Nachdem die Metainformationen von einer normalen künstlichen Stimme vermittelt wurden, wendet sich eine offensichtlich verliebte Roboterfrau an das menschliche Objekt ihrer Begierde. Es wurden Tags wie <voice-transformation> und <express-as> verwendet, zudem unterschiedlich lange Pausen eingebaut. Das Gedicht von Oliver Bendel kann über handyroman.net/handyhaiku/einstieg.html im Format .ogg heruntergeladen und beispielsweise über den VLC Media Player angehört werden (Link nicht mehr gültig). Bereits im März des Jahres wurde ein Haiku veröffentlicht. Es wurden Pausen am Anfang eingebaut, damit der Titel und die Metainformationen (Autor, System, Stimme, Datum) nicht zu schnell nacheinander erklingen, zudem Pausen zwischen den Zeilen des Gedichts.
Mit einem lachenden und einem weinenden Auge schwelgen die Macher des Festivals science+fiction, wie sie in einer Nachricht vom 24. Juli 2017 verkündeten, „in Erinnerungen an das vergangene Festival und blicken gleichzeitig voller Tatendrang auf die Ausgabe 2018“. Über scienceandfiction.ch/festival/videos-2017/ kann man sich die Videos der einzelnen Events ansehen, die im Sommercasino Basel vom 5. bis 7. Mai 2017 stattfanden. Am 6. Mai ging es um Roboterrecht und Maschinenethik. Beim Panel „Maschinen und das Gesetz“ wurde gefragt, welche Bedingungen erfüllt sein müssen, damit eine Maschine zum Rechtssubjekt wird, ob es in naher Zukunft eines Maschinenrechts bedarf, oder ob sich Maschinen in unsere Rechtsprechung einfügen müssen, und welche Folgen sich ergeben, wenn in einer Mensch-Maschine-Interaktion etwas schief geht. Es moderierte Christoph Keller von SRF 2 Kultur, es diskutierten Wolfram Burgard (Professor für Autonomous Intelligent Systems, Universität Freiburg), Nadine Zurkinden (Postdoc für Strafrecht, Universität Basel) und Oliver Bendel (Professor für Wirtschaftsinformatik und Informationsethik, Hochschule für Wirtschaft FHNW). Die nächste Ausgabe des Festivals findet vom 4. bis 6. Mai 2018 in Basel statt.
Die IEEE Global Initiative hat im Juli 2017 weitere Ergebnisse und Dokumente vorgelegt. So hat man nun Zugang zum Feedback, das Experten wie Amitai Etzioni, Yanqing Hong und Oliver Bendel zu „Ethically Aligned Design, Version 1“ gegeben haben. Es heißt dazu auf der Website: „The feedback in this document was submitted as part of an open Request for Information (RFI) process regarding the document created by The IEEE Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems (‚The IEEE Global Initiative‘) titled, ‚Ethically Aligned Design: A Vision for Prioritizing Human Wellbeing with Artificial Intelligence and Autonomous Systems‘. As stated in the submission guidelines for our RFI process, all contributions have been posted exactly as they were received. The only modification to submissions was to standardize the font and spacing in the following document for ease of readability. Committees working to update Version 2 of Ethically Aligned Design are currently in the process of reviewing all feedback received to help inform their updated section drafts.“ (Website IEEE) Weitere Informationen über standards.ieee.org/develop/indconn/ec/autonomous_systems.html.
Abb.: Wie unterstützen und beschränken wir die Entwicklungen?
„Sex mit Maschinen“ – so der Titel eines Beitrags auf SWR2 vom 19. Juli 2017 zu Sexrobotern und Robotersex. „Revolutionieren Roboter das Liebesleben?“ – dies fragt der Untertitel. Im Beitrag geben u.a. Petra Grimm von der Hochschule der Medien in Stuttgart und Oliver Bendel von der Hochschule für Wirtschaft FHNW die Antworten. Petra Grimm erwähnt Galatea als frühe Liebesmaschine: „Wenn Sie an den Pygmalion-Mythos denken, weil er Verdruss über die Frauen hatte, die es dort gab, sich selbst so eine Elfenbeinfigur schuf, und die wurde dann lebendig und gebar ihm einen Sohn. Aus allen verschiedenen Kulturen haben wir dieses Phänomen, aus Materie sich einen Partner, meistens eine Partnerin zu schaffen.“ Und auch Oliver Bendel verweist auf eine lange Tradition: „… dass Menschen Emotionen zu Maschinen entwickeln, das ist klar, das passiert auch schon lange, wir haben auch ein enges emotionales Verhältnis zu unserem Auto“. Wir können unser Auto lieben, wir können auch Sexroboter lieben, auf noch eindrücklichere Weise, aber wir bekommen, was die Gefühle anbetrifft, nichts von ihnen zurück. Maschinen sind und bleiben Maschinen.
Sarah Kott von der dänischen Zeitung Morgenavisen Jyllands-Posten stellte Oliver Bendel im Mai 2017 einige Fragen zu Sexrobotern und Robotersex. So wollte sie wissen, wie sehr dieser dem Zusammensein mit Menschen ähnelt. Die Antwort lautete: „It depends on what we will do with the robots and in which situations. In the twilight, provided a fertile imagination, stimulation and penetration could be similar. There are promising approaches and experiments with artificial flesh and artificial skin … some love dolls are extremely lifelike, and they could pass a ‚daylight test‘ without any problems. Therefore, tactile and optical requirements can be met. The voice seems to be a bigger problem. But in recent years, scientists and engineers have achieved major progress in the field of speech synthesis. 10 – 20 minutes of speech samples are enough, at least according to the promises, to imitate an individual voice in any kind of statement. Individual voices could be implanted in sex robots. During longer absences of a partner they might substitute the partner also acoustically. Furthermore, popular voices of film and porn stars could be used.“ Statements aus dem Interview sind in dem Artikel „Hvor havner dine hemmelige sexfantasier, når den fortrolige er en robot?“ enthalten, der am 9. Juli 2017 erschienen ist (auch online verfügbar).
Abb.: Über die Zukunft der Liebe wird allerorten diskutiert
Seit ca. zehn Jahren werden moralische Maschinen intensiv erforscht. Auch autonome Autos waren früh im Fokus der zuständigen Disziplin, der Maschinenethik. 2012 wurde unter der Betreuung von Oliver Bendel eine Formel entwickelt, mit deren Hilfe autonome Autos in theoretischen Dilemmasituationen qualifizieren und quantifizieren können (Möglichkeiten, die er auf der TA-Konferenz in Prag Anfang 2013 kritisch diskutiert hat), später kamen Mittel wie annotierte Entscheidungsbäume hinzu. Forscher der Universität Osnabrück haben nun einen weiteren Ansatz vorgelegt, der autonome Autos als selbstlernende Systeme vorsieht. Josephine Lütke vom NDR fasst die Studie „Using Virtual Reality to Assess Ethical Decisions in Road Traffic Scenarios“ wie folgt zusammen: „Die Forscher haben eine Autofahrt auf einer Straße in der virtuellen Realität simuliert. Etwas mehr als 100 Probanden setzten sich eine spezielle Brille auf, die ihnen das Gefühl gab, tatsächlich Auto zu fahren.“ (Website NDR, 5. Juli 2017) Sie mussten nun – dies erinnert an die Moral Machine des MIT – in Dilemmasituationen entscheiden. „Mit diesen Ergebnissen der Versuche fütterten die Wissenschaftler dann einen Computer. Allerdings bekam die Maschine nicht alle Informationen. Etwa zehn Prozent der moralischen Entscheidungen, die die Menschen getroffen hatten, enthielten die Forscher der Maschine vor. Stattdessen musste der Computer die Versuche selbst machen. Und: Er hatte gelernt und entschied auch in den Fällen, die er noch nicht kannte, fast immer so, wie es auch die Menschen in den Versuchen gemacht hatten.“ (Website NDR, 5. Juli 2017) Weitere Informationen über www.ndr.de und journal.frontiersin.org.
Am 4. Juli 2017 ist im Wirtschaftslexikon von Springer Gabler ein neuer Beitrag von Oliver Bendel erschienen. Es geht um Kooperations- und Kollaborationsroboter, also um moderne Industrieroboter, die mit uns Schritt für Schritt an einem gemeinsamen Ziel (Kooperationsroboter) bzw. Hand in Hand an einer gemeinsamen Aufgabe arbeiten, wobei wiederum ein bestimmtes Ziel gegeben ist (Kollaborationsroboter). „Sie nutzen dabei ihre mechanischen und sensorischen Fähigkeiten und treffen Entscheidungen mit Blick auf Produkte und Prozesse im Unternehmen bzw. in der Einrichtung. Co-Robots, wie sie gelegentlich genannt werden, können in Einzelfällen auch als Serviceroboter auftreten, etwa im medizinischen und pflegerischen Bereich. Die intensive Beschäftigung mit kooperativen und kollaborativen Robotern begann bereits in den 1990er-Jahren. In den 2010er-Jahren begannen sie sich durchzusetzen und in der Produktion zu verbreiten.“ (Gabler Wirtschaftslexikon) Die Roboter kommen uns näher, im Alltag und bei der Arbeit, sie unterstützen und ersetzen uns. In dem Beitrag werden auch ethische Aspekte dieser Entwicklung angesprochen. Er ist über wirtschaftslexikon.gabler.de/Definition/kollaborationsroboter.html aufrufbar.
Die Juli-Ausgabe der Zeitschrift National Geographic bringt den ersten Teil einer dreiteiligen Serie zur Künstlichen Intelligenz. Auf 14 Seiten widmet man sich der Arbeit von Oliver Bendel. Der Informations- und Maschinenethiker lebt und arbeitet in der Schweiz. Er stand dem Chefredakteur Florian Gless und der Redakteurin Ines Bellinger Rede und Antwort. Zudem gibt es eine Graphic Novel zu aktuellen Entwicklungen und den entsprechenden Überlegungen von Oliver Bendel. Ein Glossar zur KI rundet den Beitrag ab. Die Fotos stammen von Elias Hassos, der u.a. Hans Magnus Enzensberger und Martin Walser porträtiert hat. „Wir können in der Hängematte liegen“ – so lautet die Überschrift des Beitrags. Oliver Bendel ist der Meinung, dass uns Roboter unterstützen und entlasten können. Dass Menschen die besten Jahre des Lebens und die besten Stunden des Tages einem Unternehmen schenken, das ihnen womöglich nicht einmal sympathisch ist, hält er für eine Ideologie, die man hinterfragen kann. Vielleicht reichen vier Stunden am Tag für den Lebensunterhalt, wenn ein Grundeinkommen dazukommt. Denn die Gewinne werden weiter erzielt, mit Hilfe von Robotik und Künstlicher Intelligenz auch ohne die Arbeiter und Angestellten. Sie müssen nur gerecht verteilt werden. Weitere Informationen über www.nationalgeographic.de.
Im Technoseum in Mannheim diskutierten am 21. Juni 2017 ab 18 Uhr Dr. Thomas Meyer, KIT-Zentrum für Mobilitätssysteme, und Prof. Dr. Oliver Bendel, Hochschule für Wirtschaft FHNW, zunächst zu technischen und rechtlichen Fragen rund um das automatisierte Fahren und das autonome Auto. Es moderierte Prof. Dr. Kurt Möser vom KIT. Oliver Bendel machte schon am Anfang seine Position klar: Vollautomatisiertes und autonomes Fahren gehört auf die Autobahn, nicht in den Stadtverkehr, außer man führt eine starke Geschwindigkeitsbeschränkung und spezielle Fahrspuren ein, was vor allem für Shuttles ein probates Mittel ist. Als die Abteilungsleiterin Öffentlichkeitsarbeit, Dr. Stefanie Roth, nach der Lösung für moralische Dilemmata fragte, wurde das im Titel der Veranstaltung versprochene ethische Thema aufgegriffen. Wen soll das Auto bei einem Unfall töten, wen nicht? Oliver Bendel konnte als Maschinenethiker den Kreis mit einem klaren Statement schließen: Es gibt keine Lösung. Das Auto sollte klassische und unklassische Dilemmata und überhaupt Situationen, in denen es um Leben und Tod mehrerer Menschen geht, nicht aufzulösen versuchen, weder durch Qualifizieren noch durch Quantifizieren. Genau deshalb gehört es auf die Autobahn, wo Fußgänger und Fahrradfahrer fehlen und wo man dank der integrierten und kommunizierenden Systeme für höchste Sicherheit sorgen kann. In der Stadt ist technisches und moralisches Scheitern vorprogrammiert. Dr. Thomas Meyer konnte aus der eigenen Arbeit am KIT und von den Einstellungen und Erwartungen der Ingenieure berichten. Erst gegen 20 Uhr löste sich die Veranstaltung ganz auf.
Abb.: Wenn sich die Kreuzung belebt, wird es schwierig
Die „Ethikkommission“, die Alexander Dobrindt eingesetzt hat, hat nach neun Monaten ihren Bericht vorgelegt. Einerseits ging es um datenschutzrechtliche und informationsethische, andererseits um maschinenethische Fragen im Kontext des automatisierten Fahrens. Die Kommission war, wie üblich in Deutschland, vor allem mit Vertretern von Interessengruppen besetzt, etwa von ADAC und Kirche. Philosophische Ethiker blieben in der Minderzahl. Laut finanznachrichten.de müssten Fahrzeughalter und -nutzer „grundsätzlich über Weitergabe und Verwendung ihrer anfallenden Fahrzeugdaten“ entscheiden dürfen. Die Zulassung von automatisierten Systemen sei nur vertretbar, „wenn sie im Vergleich zu menschlichen Fahrleistungen zumindest eine Verminderung von Schäden im Sinne einer positiven Risikobilanz verspricht“. „So müssten Sach- und Tierschäden bei Unfällen immer Vorrang vor dem Personenschaden haben.“ (finanznachrichten.de, 20. Juni 2017) Dies war bereits eine Vorgabe von Alexander Dobrindt gewesen. Grundsätzlich müssten, so die Zeitung, die Systeme so programmiert sein, dass es nicht zu Unfällen kommt. Genau dies ist aber nicht möglich, und nicht nur die Software ist das Problem, sondern auch die Hardware im weitesten Sinne. „Bei unausweichlichen Unfallsituationen ist jede Qualifizierung nach persönlichen Merkmalen … strikt untersagt. Eine Aufrechnung von Opfern ist untersagt. Eine allgemeine Programmierung auf eine Minderung der Zahl von Personenschäden kann vertretbar sein. Die an der Erzeugung von Mobilitätsrisiken Beteiligten dürfen Unbeteiligte nicht opfern“, heiße es in dem Bericht (finanznachrichten.de, 20. Juni 2017). Das Qualifizieren wird also abgelehnt (dies war auch eine Vorgabe des Bundesverkehrsministers), das Quantifizieren nicht grundsätzlich.
Der „Third International Congress on Love and Sex with Robots“ findet am 19. und 20. Dezember 2017 in London statt. Damit wurde die selbe Stadt wie 2016 gewählt. In einer Information vom 8. Juni 2017 heißt es: „Within the fields of Human-Computer Interaction and Human-Robot Interaction, the past few years have witnessed a strong upsurge of interest in the more personal aspects of human relationships with these artificial partners. This upsurge has not only been apparent amongst the general public, as evidenced by an increase in coverage in the print media, TV documentaries and feature films, but also within the academic community. The International Congress on Love and Sex with Robots provides an excellent opportunity for academics and industry professionals to present and discuss their innovative work and ideas in an academic symposium.“ (Information LSR 2017, 8. Juni 2017) Papers sollen mindestens sieben Seiten umfassen und sich Themen wie „Entertainment Robots“, „Robot Personalities“, „Teledildonics“ und „Intelligent Electronic Sex Hardware“ widmen. Auch Informations- und Roboterethik sind mögliche Perspektiven. Das Buch mit den Beiträgen der letzten Konferenz ist Ende April 2017 bei Springer erschienen. Weitere Informationen über loveandsexwithrobots.org.
Abb.: Eine der goldenen Jungfrauen von Hephaistos?
Abb.: Ein nicht sehr smarter, aber sehr schöner Porsche
