Die Technical Reports des AAAI 2018 Spring Symposium „AI and Society: Ethics, Safety and Trustworthiness in Intelligent Agents“ sind Ende April 2018 erschienen. Enthalten sind u.a. „From GOODBOT to BESTBOT“ (Oliver Bendel), „The Uncanny Return of Physiognomy“ (Oliver Bendel), „The Heart of the Matter: Patient Autonomy as a Model for the Wellbeing of Technology Users“ (Emanuelle Burton et al.), „Trustworthiness and Safety for Intelligent Ethical Logical Agents via Interval Temporal Logic and Runtime Self-Checking“ (Stefania Costantin et al.), „Ethical Considerations for AI Researchers“ (Kyle Dent), „Interactive Agent that Understands the User“ (Piotr Gmytrasiewicz et al.), „Toward Beneficial Human-Level AI … and Beyond“ (Philip C. Jackson Jr.), „Towards Provably Moral AI Agents in Bottom-Up Learning Frameworks“ (Nolan P. Shaw et al.), „An Architecture for a Military AI System with Ethical Rules“ (Yetian Wang et al.) und „Architecting a Human-Like Emotion-Driven Conscious Moral Mind for Value Alignment and AGI Safety“ (Mark R. Waser et al.). Das Symposium fand vom 26. bis zum 28. März 2018 an der Stanford University statt. Für die Maschinenethik wie auch für Informationsethik und Roboterethik ist die Konferenzreihe seit Jahren eine der wichtigsten Plattformen weltweit.
Abb.: Was tun gegen bestimmte Formen der Gesichtserkennung?
„Steht die Spargelernte an, kämpfen Landwirte alljährlich mit den gleichen Problemen: Die Stangen müssen gestochen werden, aber Helfer sind rar.“ So beginnt der Artikel „Roboter übernehmen erstmals die Spargelernte“ auf Heise Online vom 20. April 2018. Die Maschine des Unternehmens Cerescon kann „in einem einzigen Durchgang den gesamten reifen Spargel ernten, für den bisher 60 bis 75 Arbeitskräfte drei Tage hintereinander eingesetzt werden mussten“ (Heise Online, 20. April 2018). „Mit dem Sparter benötigen die Landwirte nur noch zwei Personen für die Ernte: einen Traktorfahrer und einen Operator zur Überwachung. Die Kosten ließen sich somit halbieren, der Kaufpreis von rund 600.000 Euro amortisiere sich in höchstens dreieinhalb Erntesaisons.“ (Heise Online, 20. April 2018) Schon früher haben sich Roboter, so Heise Online, bei Aufgaben in der Landwirtschaft als wertvolle Helfer erwiesen. „Autonome Maschinen ernten Felder ab oder verpacken Heuballen, Drohnen versprühen Dünger. Doch anspruchsvolles Obst wie Äpfel oder auch Gemüse wie Gurken oder Blumenkohl stellen große Herausforderungen für die Konstrukteure dar.“ (Heise Online, 20. April 2018) Wichtig in diesem Kontext sind Ansätze der Maschinenethik, um Tiere zu verschonen, und der Tier-Maschine-Interaktion.
Haben Roboter Rechte bzw. soll man sie mit Rechten ausstatten? Die eine Frage ist ethisch, die andere rechtlich deutbar. Oliver Bendel hält als Ethiker nichts von Rechten für Roboter. Dies können weder empfinden noch leiden, sie haben kein Bewusstsein, sie sind keine echten Personen, aber auch keine echten Lebewesen. Im Zivilrecht kann man, so seine Meinung, ohne weiteres eine elektronische Person konstruieren, die man verklagen kann und die dann haften muss (etwa über ein Budget, das sie hat, oder einen Fonds, mit dem sie verbunden ist). Einerseits ist das die Lösung für das Problem, dass sich in vielen Fällen kaum mehr eindeutig verantwortliche natürliche oder juristische Personen ausmachen lassen. Andererseits eben nicht, denn woher sollte das Geld kommen – wenn nicht von natürlichen und juristischen Personen, die mit dem Roboter in irgendeiner Verbindung stehen? Und bei selbstlernenden Systemen wie Tay wird es vollends kompliziert, wobei dieser Fall ins Strafrechtliche hineinreicht. Eine Gruppe von KI-Forschern, Philosophen, Theologen und Rechtswissenschaftlern hat sich in einem offenen Brief gegen die Schaffung des Status einer elektronischen Person gewandt, wie eine Arbeitsgruppe des Europäischen Parlaments sie dieses Jahr vorgeschlagen hat. Der Artikel „Streit um Rechte von Robotern“ stellt die unterschiedlichen Positionen dar. Er ist am 21. April 2018 in der Aargauer Zeitung erschienen und kann über www.aargauerzeitung.ch/leben/forschung-technik/streit-um-rechte-von-robotern-wer-haftet-wenn-etwas-schief-geht-132457958 aufgerufen werden.
Abb.: Wie gestaltet man eine elektronische Person?
Dieser Frage geht Oliver Bendel in der Zeitschrift Edison nach, in der Ausgabe 2/2018, erschienen am 13. April 2018. Die zuständige Disziplin ist die Roboterethik. Während sich die Maschinenethik auf die maschinelle Moral und damit allenfalls verbundene Pflichten oder Verpflichtungen konzentriert, interessiert sich die Roboterethik auch für moralische Rechte von Maschinen, insbesondere von Robotern. Schon vor Jahrzehnten hat man über diese Frage nachgedacht, doch in letzter Zeit gibt es diesbezügliche Überlegungen und Forderungen, denen man als Ethiker etwas entgegensetzen muss. Denn Oliver Bendel ist der Meinung, dass Roboter keine Rechte haben, haben werden und haben sollen. In seinen Ausführungen zieht er Vergleiche mit Menschen, Tieren und Pflanzen (Tiere haben Rechte, Pflanzen nicht). Auf der Website heißt es zu dem Handelsblatt-Spross: „Edison ist das neue Magazin für alle, die sich für Elektromobilität, vernetztes Leben und nachhaltige Energiegewinnung interessieren. Für alle, die in einer Zeit der Umbrüche und des rasanten technischen Fortschritts Orientierung suchen. Für alle, die Haltung zeigen möchten. Kurz: Es ist das neue Magazin für die Generation E.“ Es kann über edison-magazin.handelsblatt.com/epaper/13.04.2018 bestellt werden.
Am Rande der Handelsblatt-Jahrestagung „Strategisches IT-Management“ (15. bis 17. Januar 2018 in München) wurden Interviews mit den Vortragenden geführt und aufgezeichnet. Am zweiten Tag hatte zuerst Prof. Dr.-Ing. habil. Alois C. Knoll (Lehrstuhlinhaber für Echtzeitsysteme und Robotik, Technische Universität München) zum Human-Brain-Projekt der EU referiert, danach Dr. Martin Hofmann, Group CIO, Volkswagen AG über „Augmented Intelligence: AI in enterprise context“. Prof. Dr. oec. HSG Oliver Bendel (Professor für Wirtschaftsinformatik, Informationsethik und Maschinenethik, Hochschule für Wirtschaft FHNW) war auf „Die Ethik als Partnerin von Robotik und KI“ eingegangen. Im Video erläutert er, was Maschinenethik ist. Auf dem Panel hatten er, Prof. Dr.-Ing. habil. Alois C. Knoll, Prof. Dr. Dr. Eric Hilgendorf (Leiter der Forschungsstelle RobotRecht, Julius-Maximilians-Universität Würzburg) und Dr. Ole Wintermann (Senior-Projektleiter, Co-Founder, Blogger, Bertelsmann Stiftung) zum Thema „Sind intelligente Maschinen und Roboter die besseren Menschen?“ diskutiert. Auch dazu steht ein Video zur Verfügung. Alle Videos finden sich über veranstaltungen.handelsblatt.com.
Der Kurzfilm „Ignarus“ wird gegenwärtig an der Hochschule der Medien produziert (Director: Lutz Marquardt, Producer: Cornelius Herzog, VFX Producer: Nico Hoerz, DOP: Tatjana Huck). Die Protagonisten sind John und Cara. In der Beschreibung des Projekts heißt es zu John, er sei Wissenschaftler und arbeite für eine staatliche Forschungseinrichtung, die die Möglichkeiten zur Bevölkerung fremder Planeten untersuche. „John ist für die Durchführung einiger Experimente zur Feststellung der dortigen Lebensfähigkeit auf einen erdähnlichen Planeten geschickt worden, auf dem er nun zusammen mit der künstlichen Intelligenz Cara in einem abgeschotteten Forschungsbunker festsitzt.“ (Projektbeschreibung STUDIOPRODUKTION VFX SS18) Obwohl Cara nur ein Hologramm und ein Programm sei, verfüge sie über äußerst menschliche Züge und Charaktereigenschaften. Sie weiß „mit John umzugehen und ihn in einer cleveren Weise zu beeinflussen und zu lenken, wie es die Mission – und am Ende auch Cara – von ihm verlangt“. „Mit diesem Verhalten schafft es Cara, sich John durch subtile Anstöße zum Werkzeug zu machen. Ihre Ziele und Absichten scheinen jedoch stets verborgen und so wirkt sie zum Teil unvorhersehbar und fast schon tückisch. Ihre Art lässt dadurch oft zweifeln, ob sie so programmiert wurde oder sich bereits eigene Eigenschaften angeeignet hat und eine unerwartete Art der Entwicklung durchläuft.“ (Projektbeschreibung STUDIOPRODUKTION VFX SS18) Der Film wird von maschinenethik.net unterstützt und feiert am 5. Juli 2018 bei der MediaNight seine Weltpremiere.
Die Minds Mastering Machines ist die Konferenz für Machine Learning und Künstliche Intelligenz. Sie findet in Köln vom 24. bis 26. April 2018 statt. Die Keynote am 25. April hält der Informations- und Maschinenethiker Oliver Bendel aus Zürich zum Thema „Das Moralisieren von Maschinen“. Zur Konferenz steht auf der Website: „Die Einsatzgebiete für Machine-Learning-Ansätze, die den Kern der KI ausmachen, sind vielfältig: Sie reichen von intelligenten Helfern und Bots, die online bei allerlei Aufgaben assistieren, über autonome Fahrzeugen bis hin zur Steuerung komplexer Verkehrsströme. Weitere Beispiele sind Wohnungen, die Heizungen regulieren lernen oder bei auffälligem Verhalten hilfsbedürftiger Bewohner Hilfe herbeirufen, und smarte Fabriken mit Maschinen, die sich selbst optimieren und mögliche Störungen bereits im Vorfeld ankündigen.“ (Website M3) Die Konferenz hat „es sich zum Ziel gesetzt, ihre Besucher beim Schritt von den Visionen der Science-Fiction-Autoren in die technische Realität zu unterstützen“ (Website M3).
Abb.: Von Science-Fiction und Fantasy zur technischen Realität
Das BESTBOT-Projekt startete am 22. März 2018. Nach den Vorgaben von Oliver Bendel wird das vierte Artefakt der Maschinenethik an der Hochschule für Wirtschaft FHNW geschaffen. Anders als der GOODBOT wird der BESTBOT ein webbasiertes System sein. Wie der LIEBOT aka LÜGENBOT soll der BESTBOT in Java programmiert werden, unter Zuhilfenahme der AIML. Der BESTBOT soll auf alle möglichen Anfragen und Herausforderungen reagieren können, auch auf solche, die in der Person des Benutzers liegen. Deshalb wird er erstens stark vernetzt sein, wie der LIEBOT, mit Systemen wie Suchmaschinen, mit Thesauri und Ontologien. Der GOODBOT war ein geschlossenes System mit einer Wissensbasis – er konnte nur begrenzt auf Probleme des Benutzers eingehen. Zweitens soll der BESTBOT Gesichtserkennung benutzen, auch Emotionserkennung. Auf diese Weise soll er Erkenntnisse zu Aussagen des Benutzers ergänzen und diese gegebenenfalls relativieren können. Die dabei auftretenden Probleme sollen ebenfalls reflektiert werden, mit Begriffen und Methoden der Informationsethik. Oliver Bendel stellt das BESTBOT-Projekt am 27. März 2018 an der Stanford University vor, im Rahmen der AAAI Spring Symposia.
Im Salzburger Nachtstudio auf Ö1 wird am 16. Mai 2018 die Sendung „Alexa lacht“ mit dem Untertitel „Maschinen und andere Gespenster der künstlichen Intelligenz“ ausgestrahlt. Aus der Beschreibung: „Die Differenz zwischen Mensch und Maschine ist längst kleiner geworden in unserem smarten Alltag. Maschinen, die immer selbständiger handeln und entscheiden, ziehen als Saug- und Mähroboter, als Pflege-, Spiel-, Service- oder Sexroboter, als Überwachungs- und Kampfroboter in die menschliche Lebenswelt ein. Das erfordert Regeln im Umgang zwischen Mensch und Maschine sowie eine ethische Reflexion der Programmierung. Der Maschinenethiker Oliver Bendel, die Philosophin Janina Loh und die Informatikerin Joanna Bryson reflektieren diese Problematik in ihrer Forschungsarbeit. Was ist menschliche Projektion im Umgang mit Technologien, und wie ‚verhält‘ sich die Maschine dazu? Der Spuk von Sprachassistentin Alexa, die zuweilen gestört lacht, lässt sich beheben, aber Alexa wertet längst menschliche Gewohnheiten aus und steuert uns.“ (Website Ö1) Weitere Informationen über oe1.orf.at/programm/20180516/513712.
Im März 2017 erfuhr die connectUS-Delegation der Hochschule für Wirtschaft FHNW am MIT von dem autonomen Dreirad, das dort entwickelt wurde. Sie wurde durch die heiligen Hallen der berühmten Hochschule geführt und durfte einen Blick auf die aktuellen Prototypen werfen. Auf der Website heißt es: „The PEV is a low-cost, agile, shared-use autonomous bike that aims to solve the ‚last-mile‘ urban mobility challenge of today, and to become a healthy, sustainable alternative to cars for cities of tomorrow. The PEV can be either an electrically-assisted tricycle for passenger commute or an autonomous carrier for delivering packages.“ (Website MIT) Auch im Osten von Deutschland setzt man auf das autonome Dreirad, wie MDR am 20. März 2018 meldete: „Selbstfahrende Autos sind schon länger im Gespräch, selbstfahrende Fahrräder aber haben die wenigsten bisher gesehen. Die Uni Magdeburg erforscht, wie Fahrräder autonom durch die Stadt fahren können, um Nutzern flexibel zur Verfügung zu stehen. Für Einkäufe oder andere Transporte könnte man sie dann mieten.“ (Website MDR, 20. März 2018) Oliver Bendel, der Mitglied der Delegation war, ist skeptisch gegenüber autonomen Dreirädern, da diese die Komplexität in Städten erhöhen und Kollisionen nicht zu vermeiden sein werden, ähnlich wie bei Servicerobotern.
In Tempe (Arizona) ist am 19. März 2018 bei einem Unfall mit einem Uber-Roboterauto eine Frau ums Leben gekommen. Sie schob ihr Fahrrad, als sie die Fahrbahn betrat. Der Insasse des Fahrzeugs griff nicht ein. Philipp Vetter von der Welt war am 20. März 2018 im Gespräch mit Oliver Bendel. Der Informations- und Maschinenethiker plädiert seit Jahren dafür, hoch- und vollautomatisierten Individualverkehr in erster Linie auf Autobahnen stattfinden zu lassen. Dort wird seiner Ansicht nach Leben geschützt. Was Uber und Co. in amerikanischen Städten machen, hält er für leichtfertig, unabhängig vom aktuellen Fall. Immer wieder hat er sich auch ein Bild vor Ort gemacht, etwa in San Francisco, wo selbstständig fahrende Autos im dichtesten Verkehr anzutreffen sind. Er rät dazu, solche Tests einzustellen und sich auf die Beherrschung von Autobahnen – recht leicht – und Landstraßen – recht schwierig – zu konzentrieren. Der Beitrag „Autonomes Fahren tötet. Warum? Weshalb? Egal!“ wurde am 20. März 2018 veröffentlicht und ist über www.welt.de/wirtschaft/article174745972/Uber-Unfall-mit-selbstfahrendem-Fahrzeug-koennte-Technik-zurueckwerfen.html aufrufbar.
Abb.: Müssen Roboterautos in Städten verboten werden?
The book chapter „Co-robots from an Ethical Perspective“ by Oliver Bendel was published in March 2018. It is included in the book „Business Information Systems and Technology 4.0“ (Springer). The abstract: „Cooperation and collaboration robots work hand in hand with their human colleagues. This contribution focuses on the use of these robots in production. The co-robots (to use this umbrella term) are defined and classified, and application areas, examples of applications and product examples are mentioned. Against this background, a discussion on moral issues follows, both from the perspective of information and technology ethics and business ethics. Central concepts of these fields of applied ethics are referred to and transferred to the areas of application. In moral terms, the use of cooperation and collaboration robots involves both opportunities and risks. Co-robots can support workers and save them from strains and injuries, but can also displace them in certain activities or make them dependent. Machine ethics is included at the margin; it addresses whether and how to improve the decisions and actions of (partially) autonomous systems with respect to morality. Cooperation and collaboration robots are a new and interesting subject for it.“ The book can be ordered here.
The tentative schedule of AAAI 2018 Spring Symposium on AI and Society at Stanford University (26 – 28 March 2018) has been published. On Tuesday Emma Brunskill from Stanford University, Philip C. Jackson („Toward Beneficial Human-Level AI … and Beyond“) and Andrew Williams („The Potential Social Impact of the Artificial Intelligence Divide“) will give a lecture. Oliver Bendel will have two talks, one on „The Uncanny Return of Physiognomy“ and one on „From GOODBOT to BESTBOT“. From the description on the website: „Artificial Intelligence has become a major player in today’s society and that has inevitably generated a proliferation of thoughts and sentiments on several of the related issues. Many, for example, have felt the need to voice, in different ways and through different channels, their concerns on: possible undesirable outcomes caused by artificial agents, the morality of their use in specific sectors, such as the military, and the impact they will have on the labor market. The goal of this symposium is to gather a diverse group of researchers from many disciplines and to ignite a scientific discussion on this topic.“
„Eine deutliche Mehrheit der Stimmberechtigten will an den Rundfunkgebühren festhalten.“ So meldete es der Tages-Anzeiger am 4. März 2018. Welche Rolle haben Social Bots, in bestimmten Zusammenhängen auch Meinungsroboter genannt, bei der No-Billag-Initiative gespielt? Ein Team der Hochschule für Wirtschaft FHNW hat dies untersucht. Prof. Dr. Stefan Gürtler (Medien- und Kommunikationsexperte) und Prof. Dr. Oliver Bendel (Informations- und Maschinenethiker und Experte für Chatbots) geben am 7. März 2018 über eine Medienmitteilung die Zahlen bekannt. Aus der Projektbeschreibung: „Soziale Medien gewinnen bei der öffentlichen Meinungsbildung an Bedeutung. Ebenso nimmt deren Beeinflussung durch technische Mittel zu. Verschiedene Untersuchungen haben das Ausmaß und das Gefahrenpotenzial von sogenannten Meinungsrobotern aufgezeigt, die … politische Diskussionen mit maschinell erzeugter Kommunikation überschwemmen. Eine freie Meinungsbildung ist unabdingbare Grundvoraussetzung für eine funktionierende demokratische Gesellschaft. Sie muss vor manipulativen Eingriffen geschützt werden. Ein erster Schritt zu ihrem Schutz ist die Erprobung eines algorithmischen Suchverfahrens, wie es bereits in anderen Ländern zur erfolgreichen Detektion von Meinungsrobotern eingesetzt wurde.“ Kann man von guten und bösen Meinungsrobotern sprechen? Das wäre noch zu diskutieren. Auf jeden Fall sind einige von ihnen Münchhausen-Maschinen. Ein ausführlicher Bericht folgt im Sommer dieses Jahres.
Abb.: Auch in Deutschland wird über die Gebühren diskutiert
Am 2. und 3. März 2018 fand die „3. KMG Jahrestagung“ im Ellington Hotel Berlin statt. In dem Gebäude aus den 30er-Jahren trafen sich Mediziner und Pfleger, um sich zu informieren und miteinander zu kommunizieren. Am zweiten Tag standen „Roboter in Medizin und Pflege“ auf dem Programm. Den Auftakt machte Prof. Dr. Dr. h.c. Viola Vogel (Departement Gesundheitswissenschaften und Technologie der ETH Zürich) mit ihrem Vortrag über bakterielle Nanoroboter. Zahlreiche Videos und Erklärungen zeigten, dass die Mikroorganismen hochkomplexe Systeme sind, die man nutzbar machen kann. Es folgte Prof. Dr. Oliver Bendel (Dozent und Forscher am Institut für Wirtschaftsinformatik, Hochschule für Wirtschaft, Fachhochschule Nordwestschweiz) mit „Pflegeroboter und Assistenzsysteme in der Pflege – aus Sicht der Ethik“. Er stellte Operations-, Therapie- und Pflegeroboter vor und nahm dann sowohl die Perspektive der Informations- als auch der Maschinenethik ein. Die KMG-Kliniken gehören nach eigenen Angaben zu den erfolgreichsten Gesundheitskonzernen im Nordosten Deutschlands. „Das 1991 gegründete Unternehmen baute auf der 100-jährigen Tradition des Kur- und Klinikbetriebes von Bad Wilsnack im Land Brandenburg auf und entwickelte sich seitdem dynamisch zu einem vielseitigen Dienstleister rund um die Gesundheit.“ (Website KMG)
Ein ehemaliger Google-Mitarbeiter, Anthony Levandowski, hat eine Bewegung gegründet, „Way of the Future“ genannt. Die Maschine (bzw. die künstliche Intelligenz) wird zu einem Gott gemacht. Der Schritt des Experten für selbstfahrende Autos ist durchaus konsequent. Einige Firmen im Silicon Valley haben engen Kontakt zu den Kirchen. Sie lassen sich von ihnen beraten, wie man Menschen für sich gewinnt und von einer Sache überzeugt. Insbesondere sollen die Mitarbeitenden vorbehaltlos an das Unternehmen glauben, bei dem sie arbeiten. Aber auch an die Kunden richtet sich die Heilsbotschaft. Sie sollen vor allem an das Produkt glauben. Interessant ist, dass Rechte für die Maschinen bzw. die KI gefordert werden: „In ‚recent‘ years, we have expanded our concept of rights to both sexes, minority groups and even animals, let’s make sure we find a way for ‚machines‘ to get rights too.“ (Website WOTF) Diese Idee ist einige Jahrzehnte alt, und in Roboterethik und Technikphilosophie ist es nicht gelungen, dafür eine überzeugende Begründung zu finden. Maschinen haben nichts, was Rechte entstehen lassen könnte, etwa Empfindungs- und Leidensfähigkeit. Die Frage ist zudem, ob man Göttern Rechte zusprechen muss, oder ob sie sich diese, gerade wenn sie real sind, nicht einfach nehmen. Interessant ist auch, dass das Menschenwerk nicht wie in anderen Religionen geleugnet, sondern explizit gemacht wird: Die Erschaffung von Gott ist Programm.
