Die Juli-Ausgabe der Zeitschrift National Geographic bringt den ersten Teil einer dreiteiligen Serie zur Künstlichen Intelligenz. Auf 14 Seiten widmet man sich der Arbeit von Oliver Bendel. Der Informations- und Maschinenethiker lebt und arbeitet in der Schweiz. Er stand dem Chefredakteur Florian Gless und der Redakteurin Ines Bellinger Rede und Antwort. Zudem gibt es eine Graphic Novel zu aktuellen Entwicklungen und den entsprechenden Überlegungen von Oliver Bendel. Ein Glossar zur KI rundet den Beitrag ab. Die Fotos stammen von Elias Hassos, der u.a. Hans Magnus Enzensberger und Martin Walser porträtiert hat. „Wir können in der Hängematte liegen“ – so lautet die Überschrift des Beitrags. Oliver Bendel ist der Meinung, dass uns Roboter unterstützen und entlasten können. Dass Menschen die besten Jahre des Lebens und die besten Stunden des Tages einem Unternehmen schenken, das ihnen womöglich nicht einmal sympathisch ist, hält er für eine Ideologie, die man hinterfragen kann. Vielleicht reichen vier Stunden am Tag für den Lebensunterhalt, wenn ein Grundeinkommen dazukommt. Denn die Gewinne werden weiter erzielt, mit Hilfe von Robotik und Künstlicher Intelligenz auch ohne die Arbeiter und Angestellten. Sie müssen nur gerecht verteilt werden. Weitere Informationen über www.nationalgeographic.de.
Im Technoseum in Mannheim diskutierten am 21. Juni 2017 ab 18 Uhr Dr. Thomas Meyer, KIT-Zentrum für Mobilitätssysteme, und Prof. Dr. Oliver Bendel, Hochschule für Wirtschaft FHNW, zunächst zu technischen und rechtlichen Fragen rund um das automatisierte Fahren und das autonome Auto. Es moderierte Prof. Dr. Kurt Möser vom KIT. Oliver Bendel machte schon am Anfang seine Position klar: Vollautomatisiertes und autonomes Fahren gehört auf die Autobahn, nicht in den Stadtverkehr, außer man führt eine starke Geschwindigkeitsbeschränkung und spezielle Fahrspuren ein, was vor allem für Shuttles ein probates Mittel ist. Als die Abteilungsleiterin Öffentlichkeitsarbeit, Dr. Stefanie Roth, nach der Lösung für moralische Dilemmata fragte, wurde das im Titel der Veranstaltung versprochene ethische Thema aufgegriffen. Wen soll das Auto bei einem Unfall töten, wen nicht? Oliver Bendel konnte als Maschinenethiker den Kreis mit einem klaren Statement schließen: Es gibt keine Lösung. Das Auto sollte klassische und unklassische Dilemmata und überhaupt Situationen, in denen es um Leben und Tod mehrerer Menschen geht, nicht aufzulösen versuchen, weder durch Qualifizieren noch durch Quantifizieren. Genau deshalb gehört es auf die Autobahn, wo Fußgänger und Fahrradfahrer fehlen und wo man dank der integrierten und kommunizierenden Systeme für höchste Sicherheit sorgen kann. In der Stadt ist technisches und moralisches Scheitern vorprogrammiert. Dr. Thomas Meyer konnte aus der eigenen Arbeit am KIT und von den Einstellungen und Erwartungen der Ingenieure berichten. Erst gegen 20 Uhr löste sich die Veranstaltung ganz auf.
Abb.: Wenn sich die Kreuzung belebt, wird es schwierig
Die „Ethikkommission“, die Alexander Dobrindt eingesetzt hat, hat nach neun Monaten ihren Bericht vorgelegt. Einerseits ging es um datenschutzrechtliche und informationsethische, andererseits um maschinenethische Fragen im Kontext des automatisierten Fahrens. Die Kommission war, wie üblich in Deutschland, vor allem mit Vertretern von Interessengruppen besetzt, etwa von ADAC und Kirche. Philosophische Ethiker blieben in der Minderzahl. Laut finanznachrichten.de müssten Fahrzeughalter und -nutzer „grundsätzlich über Weitergabe und Verwendung ihrer anfallenden Fahrzeugdaten“ entscheiden dürfen. Die Zulassung von automatisierten Systemen sei nur vertretbar, „wenn sie im Vergleich zu menschlichen Fahrleistungen zumindest eine Verminderung von Schäden im Sinne einer positiven Risikobilanz verspricht“. „So müssten Sach- und Tierschäden bei Unfällen immer Vorrang vor dem Personenschaden haben.“ (finanznachrichten.de, 20. Juni 2017) Dies war bereits eine Vorgabe von Alexander Dobrindt gewesen. Grundsätzlich müssten, so die Zeitung, die Systeme so programmiert sein, dass es nicht zu Unfällen kommt. Genau dies ist aber nicht möglich, und nicht nur die Software ist das Problem, sondern auch die Hardware im weitesten Sinne. „Bei unausweichlichen Unfallsituationen ist jede Qualifizierung nach persönlichen Merkmalen … strikt untersagt. Eine Aufrechnung von Opfern ist untersagt. Eine allgemeine Programmierung auf eine Minderung der Zahl von Personenschäden kann vertretbar sein. Die an der Erzeugung von Mobilitätsrisiken Beteiligten dürfen Unbeteiligte nicht opfern“, heiße es in dem Bericht (finanznachrichten.de, 20. Juni 2017). Das Qualifizieren wird also abgelehnt (dies war auch eine Vorgabe des Bundesverkehrsministers), das Quantifizieren nicht grundsätzlich.
Der „Third International Congress on Love and Sex with Robots“ findet am 19. und 20. Dezember 2017 in London statt. Damit wurde die selbe Stadt wie 2016 gewählt. In einer Information vom 8. Juni 2017 heißt es: „Within the fields of Human-Computer Interaction and Human-Robot Interaction, the past few years have witnessed a strong upsurge of interest in the more personal aspects of human relationships with these artificial partners. This upsurge has not only been apparent amongst the general public, as evidenced by an increase in coverage in the print media, TV documentaries and feature films, but also within the academic community. The International Congress on Love and Sex with Robots provides an excellent opportunity for academics and industry professionals to present and discuss their innovative work and ideas in an academic symposium.“ (Information LSR 2017, 8. Juni 2017) Papers sollen mindestens sieben Seiten umfassen und sich Themen wie „Entertainment Robots“, „Robot Personalities“, „Teledildonics“ und „Intelligent Electronic Sex Hardware“ widmen. Auch Informations- und Roboterethik sind mögliche Perspektiven. Das Buch mit den Beiträgen der letzten Konferenz ist Ende April 2017 bei Springer erschienen. Weitere Informationen über loveandsexwithrobots.org.
Abb.: Eine der goldenen Jungfrauen von Hephaistos?
Nele Würzbach von Noizz.de hat mit Oliver Bendel ein Interview zu autonomen Autos geführt, das am 5. Juni 2017 in dem Magazin aus Berlin veröffentlicht wurde. Eine Frage lautete, ob wir eines Tages während der Fahrt schlafen können. Die Antwort des Informations- und Maschinenethikers lautete: „Wenn wir das teil- und hochautomatisierte Fahren hinter uns gelassen haben und zum vollautomatisierten bzw. autonomen Fahren gekommen sind, können wir in der Tat während der Fahrt schlafen. Das Innenleben des Autos müsste entsprechend gestaltet werden, es bräuchte Liegesitze, verdunkelbare Scheiben etc. Es bräuchte zudem Konzepte für Gefahrensituationen. Vom Tiefschlaf bis zur vollen Denk- und Urteilsfähigkeit kann es eine Weile dauern. Ich denke, dass diese Vision bei PKW frühestens in zehn Jahren umgesetzt werden kann, und auch nur auf der Autobahn. Es sind übrigens nicht nur technische, sondern ebenso psychologische Aspekte zu bedenken. Man müsste ein Zutrauen zu den Fahrzeugen fassen, das dem Zutrauen zu Flugzeugen entspricht. Man müsste lernen, in einer Situation zu schlafen, die bisher unsere höchste Aufmerksamkeit beansprucht hat.“ Der Beitrag mit dem Titel „Kann man bald am Steuer schlafen?“ – davon, dass es auch künftig noch ein Steuer gibt, kann ausgegangen werden – kann über noizz.de/motor/wie-realistisch-ist-autonomes-fahren-wirklich/cd96p7y aufgerufen werden.
Abb.: In diesem Auto konnte man schon früher schlafen
Kooperation ist Zusammenarbeit, insbesondere auf wissenschaftlichem, politischem oder wirtschaftlichem Gebiet. Typisch ist ein hoher Grad an Arbeitsteilung bei gleichzeitigem Vorliegen eines gemeinsamen Ziels. Bei Kollaboration ist ein hoher Grad an unmittelbarer Zusammenarbeit gegeben. Die Tätigkeiten greifen ineinander und bauen aufeinander auf. Mit Blick auf die Industrie spricht man von Kooperations- oder Kollaborationsrobotern, abkürzend und verallgemeinernd von Co-Robots und Cobots. Die Bedeutungsunterschiede nimmt man mal mehr, mal weniger ernst. In der Regel sind Kooperation und Kollaboration mit Menschen gemeint. Auch unter Maschinen können sie stattfinden, aber dort sind sie auf einem gewissen Niveau üblich und verbreitet, während die enge Zusammenarbeit zwischen Industrierobotern und Mitarbeitern neuartig und gewinnbringend für beide Seiten ist. In seinem Artikel „Co-Robots und Co. – Entwicklungen und Trends bei Industrierobotern“ in der Netzwoche 9/2017 geht Oliver Bendel auf den Einsatz von Kooperations- und Kollaborationsrobotern ein, nennt konkrete Produkte und skizziert Chancen und Risiken.
50 Millionen Euro stehen bereit für die Erforschung der individuellen und sozialen Folgen der Digitalisierung. Nun weiß man, wer sie erhält. „Das Deutsche Internet-Institut wird in Berlin von einem Konsortium aus fünf Hochschulen und zwei außeruniversitären Forschungseinrichtungen aus Berlin und Brandenburg gegründet. Dies hat Bundesforschungsministerin Johanna Wanka heute bekannt gegeben. Das Konsortium aus Freier Universität Berlin, Humboldt-Universität zu Berlin, Technischer Universität Berlin, Universität der Künste Berlin, Universität Potsdam, Fraunhofer-FOKUS und dem Wissenschaftszentrum Berlin für Sozialforschung als Koordinator hat sich in einem zweistufigen wettbewerblichen Verfahren durchgesetzt.“ (Pressemitteilung BMBF, 23. Mai 2017) Die Entscheidung hat Prof. Dr. Johanna Wanka auf der Grundlage einer Empfehlung der Jury getroffen, der u.a. Prof. Dr. Viktor Mayer-Schönberger (University of Oxford), Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW, Schweiz), Prof. Dr. Urs Gasser (Harvard University), Prof. Dr. Eric Hilgendorf (Julius-Maximilians-Universität Würzburg), Prof. Dr. Michael Kerres (Universität Duisburg-Essen), Dr. Catharina Maracke (Keio University, Japan) und Dr. Constanze Kurz (Chaos Computer Club und Netzpolitik.org) angehörten. Informations- und Technikethik dürften damit in Deutschland eine Renaissance erleben. Womöglich wird auch die Maschinenethik gestärkt.
„Klett News Ethik und Philosophie“, der Newsletter des Schulbuchverlags, untersucht in der aktuellen Ausgabe (Mai 2017) „Die Moral in der Maschine“. Das Buch mit dem gleichlautenden Titel von Prof. Dr. Oliver Bendel kam 2016 bei Heise Medien heraus. Der Newsletter enthält Material aus diesem Buch und anderen Quellen, etwa aus dem Massachusetts Institute of Technology (MIT). Es wird vor allem auf autonomes Fahren aus Sicht der Maschinenethik eingegangen. Entstanden sind drei Arbeitsblätter für die Klassen 10 bis 12/13 und eine Unterrichtsidee zur „moral machine“ der Hochschule in Cambridge. Zudem sind Links – z.B. zu maschinenethik.net – und Literaturhinweise (etwa zur Kurzgeschichte „Sally“ von Isaac Asimov) enthalten. Im Vorwort spricht Dr. Peter Ley auch die Forschung von Oliver Bendel zu Maschinen und Tieren im Rahmen von Maschinenethik und Tierethik sowie der Mensch-Maschine-Interaktion an und skizziert ein spezielles Problem: „Was bedeutet es, wenn das Programm das Bremssystem für unsere geliebten Haustiere aktiviert, nicht aber für Fuchs und Hase?“ Weitere Informationen über www.klett.de.
Am 23. Mai 2017 wird, so die Südwest Presse, darüber „entschieden, wo das neue Deutsche Internet-Institut angesiedelt wird“ (SWP, 22. Mai 2017) Eine Jury hatte im Auftrag von Bundesministerin Prof. Dr. Johanna Wanka vor einem Jahr aus zehn Bewerbern fünf für die Endrunde ausgewählt. Genauere Informationen hatte seinerzeit das Bundesministerium für Bildung und Forschung (BMBF) bekanntgegeben. „Ziel des geplanten Internet-Instituts ist, die Folgen des digitalen Wandels für Gesellschaft, Politik und Wirtschaft zu erforschen – und so die Digitalisierung besser zu verstehen und zum Wohl der Gesellschaft nutzbar zu machen. Für den Anfang sind in den ersten fünf Jahren bis zu 50 Millionen Euro vorgesehen.“ (SWP, 22. Mai 2017) Die Jury hat nun eine Empfehlung vorgelegt, auf deren Grundlage die Bundesministerin – so ihre Stellungnahme gegenüber einem Mitglied des Bundestags – entscheidet. Die Leitung der Jury obliegt Prof. Dr. Viktor Mayer-Schönberger (University of Oxford). Mitglieder sind u.a. Prof. Dr. Eric Hilgendorf (Julius-Maximilians-Universität Würzburg), Prof. Dr. Michael Kerres (Universität Duisburg-Essen), Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW, Schweiz) und Dr. Constanze Kurz (Chaos Computer Club und Netzpolitik.org).
Der Bundesminister für Verkehr, Innovation und Technologie von Österreich startet eine Initiative zu Robotik und Digitalisierung. Zur grundsätzlichen Förderung heißt es in einer Information von 2016: „Das Infrastrukturministerium (bmvit) investiert jährlich rund 500 Millionen Euro in die Förderung der angewandten Forschung in Österreich. 185 Millionen Euro stehen für F&E im Bereich von Industrie 4.0 zur Verfügung. Davon fließen rund 100 Millionen Euro in die Material- und Produktionsforschung in der Sachgüterindustrie.“ (Information bmvit) Die Schwerpunkte liegen dabei auf Entwicklungen in der Robotik, von intelligenten Materialien und Rohstoffen sowie von innovativen Sensorik-Systemen. „Weitere 85 Millionen Euro werden für Innovationen auf dem Gebiet der Informations- und Kommunikationstechnologie (IKT) aufgewendet.“ Der Fokus ist gerichtet „auf Weiterentwicklungen intelligenter Systeme für automatisiertes Fahren, Machine Learning, Sicherheit und Interoperabilität …“ (Information bmvit). Zur Vorbereitung der genannten neuen Initiative werden am 23. und 24. Mai 2017 in Wien „High Level Sounding Boards“ durchgeführt. In kleiner Runde werden – so ein Schreiben aus dem Ministerium – inhaltliche Abgrenzungen, spezifische Herausforderungen und notwendige Politikmaßnahmen zu Robotik und Digitalisierung diskutiert. Eingeladen sind auch Experten aus dem Ausland, etwa Oliver Bendel von der Hochschule für Wirtschaft FHNW.
Harper’s Magazine hat Herman Melvilles „Moby Dick“ ebenso besprochen wie die neuesten Entdeckungen von Thomas Edison. Auch den Frauenrechten hat man sich immer wieder gewidmet. Winston Churchill und Theodore Roosevelt schrieben Beiträge für die berühmte Zeitschrift. In einer Selbsteinschätzung auf der Website heißt es: „Harper’s Magazine, the oldest general-interest monthly in America, explores the issues that drive our national conversation, through long-form narrative journalism and essays, and such celebrated features as the iconic Harper’s Index. With its emphasis on fine writing and original thought Harper’s provides readers with a unique perspective on politics, society, the environment, and culture.“ (Website Harper’s Magazine) In der neuen Ausgabe, erschienen Mitte Mai 2017, wird unter dem Titel „Machine Yearning“ der Maschinenethik Platz eingeräumt. Zitiert werden Fragen von Oliver Bendel, die der Wirtschaftsinformatiker und Ethiker zu Sexrobotern gestellt hat und die im Buch „Love and Sex with Robots“ (Springer, 2017) verschriftlicht sind. Der Beitrag kann online über harpers.org/archive/2017/06/machine-yearning/ abgerufen werden und ist auch als PDF verfügbar.
Das 29. Heidelberger Symposium vom 11. bis zum 13. Mai 2017 trägt den Titel „verAntworten“. Die Schirmherrschaft hat Ministerpräsident Winfried Kretschmann übernommen. Nach der Eröffnungsrede von Christian Wulff (Bundespräsident a.D.) gibt es Vorträge u.a. von Hansjörg Geiger (ehem. Präsident Bundesnachrichtendienst und Verfassungsschutz), Sabine Leutheusser-Schnarrenberger (Bundesministerin der Justiz a.D.), Norbert Junkers (Max-Planck-Institut für Radioastronomie), Hans Markowitsch (Universität Bielefeld) und Oliver Bendel (Hochschule für Wirtschaft FHNW). Oliver Bendel widmet sich der Frage, ob man durch autonomes Fahren die Zahl der Unfälle reduzieren kann, und wenn ja, in welchen Bereichen, in welchen Situationen und zu welchem Preis. Für ihn gehören autonome Autos auf die Autobahnen, nicht in die Städte. Die Städte sind zu komplex, und es wird in ihnen, in ihrem Verkehr mit seinen unterschiedlichen Teilnehmern, kommuniziert, per Wink, per Blick. Es treffen sozusagen Welten aufeinander, und diese lassen sich nicht ohne weiteres verbinden. Weitere Informationen über heidelberger-symposium.de.
Abb.: Selbst an autonomen Fahrrädern wird geforscht
Was haben Wonder Woman und ein Lügendetektor gemeinsam? Warum schämen wir uns für andere Menschen? Kann die Sonne erlöschen? Wer war Mata Hari? Die Fragen bei „Beat the Prof“ auf ZEIT ONLINE sind immer anregend, die Antworten oft verblüffend. Im Mai 2017 wurde ein neues Quiz freigeschaltet, und zwar zu Künstlicher Intelligenz, Robotik und Maschinenethik. Die Fragen und Antworten erarbeitete der Informations- und Maschinenethiker Oliver Bendel, der in Zürich lebt und in Basel, Olten und Windisch an der Hochschule für Wirtschaft FHNW arbeitet. Enthalten ist u.a. eine Frage zum Fetter-Mann-Problem. Der bedauernswerte Unbeteiligte werde von einer Brücke auf ein Gleis gestoßen. Aber warum? Antwort 1: „Er wird getötet, damit andere auf dem Gleis überleben.“ Antwort 2: „Er wird heruntergeschubst, damit die Brücke nicht einstürzt.“ Antwort 3: „Er wird getötet, damit das Fetter-Mann-Problem entsteht.“ Das Quiz kann über www.zeit.de/campus/2017-05/beat-the-prof-ethik-kuenstliche-intelligenz aufgerufen werden. Aber Achtung: Die Zeit läuft davon!
Im Sommercasino Basel trafen beim Festival science+fiction vom 5. bis 7. Mai 2017 nationale und internationale Künstler und Wissenschaftler auf ein interessiertes Publikum. Am 6. Mai ging es um Roboterrecht und Maschinenethik. Beim Panel „Maschinen und das Gesetz“ wurde gefragt, welche Bedingungen erfüllt sein müssen, damit eine Maschine zum rechtlichen Subjekt wird, ob es in naher Zukunft eines Maschinenrechts bedarf, oder ob sich Maschinen in unsere Rechtsprechung einfügen müssen, und welche Folgen sich ergeben, wenn in einer Mensch-Maschinen-Interaktion etwas schief geht (z.B. wenn eine Hightech-Prothese ihren Träger oder Personen aus der Umgebung verletzt). Es moderierte Christoph Keller von SRF 2 Kultur, es diskutierten Wolfram Burgard (Professor für Autonomous Intelligent Systems, Universität Freiburg), Nadine Zurkinden (Postdoc für Strafrecht, Universität Basel) und Oliver Bendel (Professor für Wirtschaftsinformatik und Informationsethik, Hochschule für Wirtschaft FHNW). Am Abend sprach Gabriele Röger (Informatikerin, Universität Basel) über „Die Auswirkungen von KI auf den Arbeitsmarkt“, und Oliver Bendel stellte seinen LÜGENBOT vor, ein Beispiel für eine Münchhausen-Maschine; am Tag zuvor hatte die TagesWoche über das Projekt berichtet. Weitere Informationen über scienceandfiction.ch.
Matthias Oppliger von der TagesWoche besuchte Oliver Bendel am 4. Mai 2017 auf dem Campus Brugg-Windisch und befragte ihn zu seinem Lügenbot und zu anderen Themen: „Sie sind Maschinenethiker und beschäftigen sich mit den moralischen Aspekten von Technologie. Warum bauen Sie eine unmoralische Maschine, die Lügen erzählt?“ Oliver Bendel antwortete: “Als Ethiker interessiere ich mich für das Gute und das Böse, als Maschinenethiker für moralische und unmoralische Maschinen. Ich will keine bösen Maschinen in die Welt entlassen, aber ich will sie erschaffen und erforschen. Wenn wir wissen, wie ein Lügenbot funktioniert, können wir eine solche Maschine auch entlarven und Strategien entwickeln, um gegen sie vorzugehen.“ Der Moralphilosoph untersucht, so hat es Oliver Bendel immer wieder dargestellt, das Gute und das Böse, in deskriptiver oder normativer Weise. Er nimmt das Moralische also zur Kenntnis, beschreibt es und ordnet es ein. Und er entwirft einen Rahmen, etwa deontologischer oder teleologischer Art, und vergleicht den einen mit dem anderen, womit er in der Metaethik angelangt ist. Das Moralisieren überlässt er dem Moraltheologen, der anders als er weder voraussetzungslos noch ergebnisoffen ist. Das ganze Interview ist am 5. Mai 2017 erschienen und kann über www.tageswoche.ch nachgelesen werden.
Sicherheits- und Überwachungsroboter verbreiten sich auf den Firmengeländen und in den Shopping Malls, als rollende und fliegende Maschinen. Sie sollen für die Sicherheit der Unternehmen und Kunden sorgen. Dabei entsteht allerdings auch Unsicherheit. Man kann mit ihnen zusammenstoßen, sie können einen überwachen und aushorchen. Technology Review war im Gespräch mit Oliver Bendel von der Hochschule für Wirtschaft FHNW. Es ging unter anderem um den K5 im Silicon Valley, den der Informations- und Maschinenethiker im vergangenen Jahr vor Ort inspiziert hat. Der Roboter von Knightscope ist im Shopping Center in Stanford im Einsatz. Er streift die ganze Zeit durch die Gegend und meldet Auffälliges und Verdächtiges an eine Zentrale. Diese bewertet die Situation und ergreift gegebenenfalls Maßnahmen. Der kegelförmige Mitarbeiter ist über 100 Kilo schwer und 1,20 Meter hoch. Der Artikel „Wer hat Angst vor Robocobs“ mit Aussagen von Oliver Bendel ist in der Ausgabe 5/2017 auf den Seiten 32 bis 34 erschienen.
