Zu den Partnerinnen der Maschinenethik zählen Robotik und KI, zudem die Informatik im weiteren Sinne. Zur Wirtschaftsinformatik, zwischen Informatik und Betriebswirtschaftslehre angesiedelt, sieht Prof. Dr. Oliver Bendel ebenfalls Bezüge: Maschinenethik bringt wie sie Artefakte (auch für wirtschaftliche Zusammenhänge) hervor und verwendet wie sie Modellierungen. In seiner bisherigen Arbeit an der Hochschule für Wirtschaft FHNW hat er sich auf einfache moralische Maschinen konzentriert. Diese folgen einigen einfachen Regeln, sind in überschaubaren Situationen tätig und lernen allenfalls insofern hinzu, als sie den Benutzer besser einschätzen können. Ihre Moral verändern sie nicht. In seinem Artikel „Ausgewählte Artefakte der Maschinenethik“, erschienen am 16. Januar 2017 in ICTkommunikation, stellt Oliver Bendel die bisherigen Ergebnisse kurz vor. Abschließend skizziert er ein geplantes Projekt. Der Artikel ist über ictk.ch/inhalt/ausgew%C3%A4hlte-artefakte-der-maschinenethik abrufbar.
WIR KAUFLEUTE ist das Magazin des Kaufmännischen Verbandes Zürich. In der Ausgabe von Januar und Februar 2018 geht es um Künstliche Intelligenz und Robotik. In der Inhaltsübersicht findet sich ein Hinweis auf ein Interview mit dem Wirtschaftsinformatiker, Maschinenethiker und Informationsethiker Oliver Bendel: „Wenn Roboter und KI-Systeme uns Arbeit abnehmen, genügen für uns womöglich künftig vier, fünf Stunden Arbeitszeit am Tag. Vielleicht muss auf die digitale Revolution, die im Kern eine wirtschaftliche ist, eine gesellschaftliche und politische folgen, sagt der Philosoph und Wirtschaftsinformatiker OLIVER BENDEL.“ (WIR KAUFLEUTE, 1/2 2018) Das Interview selbst ist auf den Seiten 4 und 5 abgedruckt, unter dem Titel „Künstliche Intelligenz wird uns nicht auslöschen“. Zu Wort kommt zudem Roland Siegwart vom Institut für Robotik und Intelligente Systeme der ETH Zürich. Das gesamte Heft kann hier heruntergeladen werden.
Oliver Bendel was invited by the Green European Foundation to the second edition of the Green Salon around robotics and artificial intelligence in Vienna on the 12th of February 2018. „The Green Salon is an invitation-only event for the Green family and independent experts and thinkers from across Europe, to discuss important topics that will shape the future of the European Union. While research and industry in Europe and beyond have achieved immense progress in recent years, the public and political debate on the moral and legal implications of the use and further development of these new technologies is still in its infancy. A challenging situation, which needs to alarm as well as motivate Greens to meaningfully shape the debate on how we can make sure emerging technologies serve humans appropriately, while remaining under their full control. In particular, the impact of automation on job markets, and of new technologies in general on the very nature and future of work, are at the core of the discussion. Beyond simple adaptation discourses of mainstream media and other political families, the Green Salon aims at taking the debate further for the Greens and their partners.“ (Invitation Letter of the Green European Foundation) The Green European Foundation is a European-level political foundation funded by the European Parliament.
A special session „Formalising Robot Ethics“ takes place within the ISAIM conference in Fort Lauderdale (3 to 5 January 2018). The program is now available and can be viewed on isaim2018.cs.virginia.edu/program.html. „Practical Challenges in Explicit Ethical Machine Reasoning“ is a talk by Louise Dennis and Michael Fischer, „Contextual Deontic Cognitive Event Calculi for Ethically Correct Robots“ a contribution of Selmer Bringsjord, Naveen Sundar G., Bertram Malle and Matthias Scheutz. Oliver Bendel will present „Selected Prototypes of Moral Machines“. A few words from the summary: „The GOODBOT is a chatbot that responds morally adequate to problems of the users. It’s based on the Verbot engine. The LIEBOT can lie systematically, using seven different strategies. It was written in Java, whereby AIML was used. LADYBIRD is an animal-friendly robot vacuum cleaner that spares ladybirds and other insects. In this case, an annotated decision tree was translated into Java. The BESTBOT should be even better than the GOODBOT.“
Oliver Bendel war im Gespräch mit Ute Klein vom MittelPunkt, dem Kundenmagazin der BayernLB. Sie war im Herbst aus München in die Schweiz gereist. Am 7. Dezember 2017 ist das Interview erschienen. Unter anderem wollte sie wissen, was Maschinenethik ist und worauf diese sich richtet. Er erklärte: „Die klassische Ethik richtet sich auf den Menschen als Subjekt der Moral. Was kann er, was soll er, was darf er?“ Mit „den Maschinen, die wir gerade erfinden, entstehen neue Subjekte der Moral“. „Ich verwende den Begriff der maschinellen Moral gerne ähnlich wie den der maschinellen oder künstlichen Intelligenz. Es sind demnach neue, merkwürdige und fremdartige Subjekte, über die wir intensiv diskutieren müssen.“ (MittelPunkt, 7. Dezember 2017) Ein Fotograf aus Zürich, Dominic Büttner, machte am Standort Brugg-Windisch noch ein mehrstündiges Shooting. Das Interview kann hier heruntergeladen werden. Zusätzlich steht über www.bayernlb.de eine Online-Version zur Verfügung.
Machine ethics researches the morality of semiautonomous and autonomous machines. The School of Business at the University of Applied Sciences and Arts Northwestern Switzerland FHNW realized a project for implementation of a prototype called GOODBOT, a novelty chatbot and a simple moral machine. One of its meta rules was it should not lie unless not lying would hurt the user. It was a stand-alone solution, not linked with other systems and not internet- or web-based. In the LIEBOT project, the mentioned meta rule was reversed. This web-based chatbot, implemented in 2016, could lie systematically. It was an example of a simple immoral machine. A follow-up project in 2018 is going to develop the BESTBOT, considering the restrictions of the GOODBOT and the opportunities of the LIEBOT. The aim is to develop a machine that can detect problems of users of all kinds and can react in an adequate way. It should have textual, auditory and visual capabilities. The paper “From GOODBOT to BESTBOT” describes the preconditions and findings of the GOODBOT project and the results of the LIEBOT project and outlines the subsequent BESTBOT project. A reflection from the perspective of information ethics is included. Oliver Bendel will present his paper in March 2018 at Stanford University (“AI and Society: Ethics, Safety and Trustworthiness in Intelligent Agents”, AAAI 2018 Spring Symposium Series).
Die 9. Landesenquete am 28. November 2017 in Kärnten widmet sich dem Thema „Menschen mit Behinderung und Robotics 4.0: Chancen & Risiken“. Prof. Dr. Robert Riener von der ETH Zürich spricht über „Robotik für Therapie und Assistenz – Möglichkeiten und Chancen“, Univ.-Doz. DI Dr. Michael Hofbaur von der Joanneum Research Forschungsgesellschaft über „Sichere Roboter – Herausforderungen im Kontext mit Menschen mit Behinderung“. Prof. Dr. Oliver Bendel von der Hochschule für Wirtschaft FHNW geht auf „Assistenzsysteme und Pflegeroboter aus ethischer Sicht“ ein. Robert Riener hatte 2016 in Zürich den Cybathlon ausgerichtet, dessen Bilder um die ganze Welt gingen, Oliver Bendel als Ethiker den Wettkampf vor der Kamera kommentiert. Auf der Website der Stadt Villach heißt es: „Im Verlauf unserer Tagung wollen wir gemeinsam in die Zukunft blicken und uns mit der Frage beschäftigen, wie Roboter das Leben von Menschen mit Behinderung verändern können. Bringen diese modernen Technologien nur Vorteile oder gibt es auch ethische Aspekte zu berücksichtigen?“ Wichtig ist die Bemerkung, dass auch aus ethischer Perspektive Vorteile ausgemacht werden können – diese wird Oliver Bendel in seinem Vortrag ebenso wie die Nachteile darstellen.
Prof. Dr. Oliver Bendel was invited to give a lecture at the ISAIM special session „Formalising Robot Ethics“. „The International Symposium on Artificial Intelligence and Mathematics is a biennial meeting that fosters interactions between mathematics, theoretical computer science, and artificial intelligence.“ (Website ISAIM) Oliver Bendel will present selected prototypes of moral and immoral machines and will discuss a project planned for 2018. The GOODBOT is a chatbot that responds morally adequate to problems of the users. It’s based on the Verbot engine. The LIEBOT can lie systematically, using seven different strategies. It was written in Java, whereby AIML was used. LADYBIRD is an animal-friendly robot vacuum cleaner that spares ladybirds and other insects. In this case, an annotated decision tree was translated into Java. The BESTBOT should be even better than the GOODBOT. Technically everything is still open. The ISAIM conference will take place from 3 to 5 January 2018 in Fort Lauderdale, Florida. Further information is available at isaim2018.cs.virginia.edu/.
ver.di (Fachbereich Verkehr) lädt ein zur „ÖPNV Betriebs- und Personalrätekonferenz“ vom 23. – 24. November 2017 in Berlin. Am ersten Tag referieren u.a. Dr. Norbert Huchler, ISF München („ÖPNV 4.0: Auswirkungen auf Arbeitsbedingungen und Beispiele aus der Praxis“), Stefan Roebrocks, Betriebsratsvorsitzender ASEAG Aachen („Praxisbeispiel automatisierter Busverkehr“) und Prof. Dr. Oliver Bendel, Hochschule für Wirtschaft FHNW („Sollten autonome Fahrzeuge moralische Maschinen sein? Wer entscheidet in der Zukunft?“). „Im Fachbereich Verkehr arbeiten die Spezialistinnen und Spezialisten des Transportsektors. Sie kümmern sich um alle anstehenden Fragen. Egal, ob es um die Interessen der Beschäftigten des öffentlichen Straßenpersonenverkehrs, der Binnenschifffahrt, der Seeschifffahrt, bei Taxiunternehmen, in privaten Busbetrieben, bei Eisenbahnunternehmen (außer DB AG), der Flughafen- und Verkehrsfluggesellschaften sowie der See- und Binnenhäfen geht.“ (Website ver.di) Weitere Informationen über verkehr.verdi.de/.
Über moralische und unmoralische Maschinen diskutierte Christoph Kucklick, Chefredakteur von GEO, mit Oliver Bendel, Maschinenethiker und Informationsethiker am 14. November 2017 im KörberForum in Hamburg. „Selbstfahrende Autos, Pflegeroboter, smarte Helfer: In unserem Alltag treffen wir auf immer klügere Maschinen. Über ein Bewusstsein oder eigenen Willen verfügen sie zwar nicht, dennoch nehmen sie uns immer mehr Entscheidungen ab. Das wirft auch moralische Fragen auf. Soll das Auto in einem Unfall eher die Insassen schonen oder die Fußgänger am Straßenrand? Darf ein Roboter lebenserhaltende Maschinen abschalten, wenn der Patient das wünscht?“ So die Ankündigung der Körber-Stiftung auf www.koerber-stiftung.de. Der Saal war voll besetzt, das Gespräch intensiv. Es dauerte zwei Stunden, und danach war Raum für zahlreiche Fragen aus dem Publikum. Oliver Bendel stellte klar, dass er als Ethiker kein Interesse am Moralisieren hat (nur am „Moralisieren“ von Maschinen), sondern an dem, was das Gute und das Böse ausmacht. Er entwickelt im Labor sowohl moralische als auch unmoralische Maschinen, sozusagen Artefakte der Maschinenethik, die er dann erforscht.
Bei einer Abendveranstaltung der Organisation der Arbeitswelt (OdA) Gesundheit Bern referierte am 8. November 2017 Prof. Dr. Oliver Bendel zu Operations-, Therapie- und Pflegerobotern. Dabei nahm er sowohl die Perspektive der Informationsethik als auch der Maschinenethik ein. Aus der Maschinenethik heraus fragte er: Soll der Pflegeroboter deutlich machen, dass er nur eine Maschine ist? Muss er die Bedürfnisse und Parameter der Patienten berücksichtigen? Wie soll er auf Verunsicherung und Angst reagieren? Wie soll er sich bei Dilemmata verhalten, etwa wenn mehrere Personen gepflegt werden sollen? Wie soll er reagieren, wenn der Patient will, dass er ihn tötet? Am Ende fasste er zusammen: „Zum Teil stellen sich zu Operations-, Therapie- und Pflegerobotern aus den Bereichsethiken heraus ähnliche Fragen, etwa nach der Verantwortung, zum Teil auch unterschiedliche Fragen. Weitere Fragen kann man aus der Maschinenethik heraus aufwerfen. Sie beziehen sich darauf, welche moralischen Fähigkeiten man den Maschinen mitgeben soll.“ Weitere Informationen finden sich hier.
Abb.: Werden Pfleger und Ärzte unterstützt oder verdrängt?
Die Handelsblatt-Jahrestagung „Strategisches IT-Management“ findet vom 15. bis 17. Januar 2018 in München statt. Die erste Keynote hält Dr. Helmuth Ludwig (Global Head of Information Technology, SIEMENS AG) zum Thema „Digitalisierung verändert alles“. „Geschäftsmodelle und ganze Branchen wandeln sich exponentiell. Das Fahrwasser für die IT-Organisation ist stürmisch.“ (Website Handelsblatt-Tagung) Das Grußwort stammt von Dr. Markus Söder, MdL, Bayerischer Staatsminister der Finanzen, für Landesentwicklung und Heimat. Referenten im Themenbereich „Artificial Intelligence & Robotics“ sind u.a. Prof. Dr. oec. HSG Oliver Bendel (Professor für Wirtschaftsinformatik, Informationsethik und Maschinenethik, Hochschule für Wirtschaft FHNW), Prof. Dr. Dr. Eric Hilgendorf (Leiter der Forschungsstelle RobotRecht, Julius-Maximilians-Universität Würzburg), Dr. Martin Hofmann (Group CIO, Volkswagen AG) und Prof. Dr.-Ing. habil. Alois C. Knoll (Lehrstuhlinhaber für Echtzeitsysteme und Robotik, Technische Universität München). Weitere Informationen über veranstaltungen.handelsblatt.com.
Die neue Ausgabe von apunto widmet sich Transhumanismus, Robotik, Künstlicher Intelligenz und Maschinenethik. Im Heft finden sich Interviews mit Prof. Dr. Jürgen Schmidhuber und Prof. Dr. Oliver Bendel. Thomas Feierabend, Präsident Angestellte Schweiz, schreibt in seinem Vorwort, dass es immer mehr Einsatzbereiche von Robotern gibt. „In der industriellen Produktion haben sie schon lange Einzug gehalten, sie können heute auch bereits Gäste in Hotels empfangen. Versuche in der Alterspflege sind im Gange, und selbstfahrende Busse sowie Taxis finden sich sogar in der Schweiz.“ (apunto, 4/2017) Er entwirft eine Dystopie des Cyborgs in der Arbeitswelt: „Er funktioniert dann völlig frei von Störungen und sehr effizient. Er ist programmiert auf Beginn und Ende der Erwerbsarbeit, ist nie zu spät und befolgt die Anordnungen der Vorgesetzten ohne Widerrede. Und noch schlimmer: Können betriebliche Reorganisationen dann einfach digital veranlasst werden?“ (apunto, 4/2017) Jürgen Schmidhuber und Oliver Bendel sind dann in ihren Ausführungen zu Robotern und KI etwas optimistischer. Der KI-Experte ist der Meinung, dass KI keine Menschen versklaven wird. Der Maschinenethiker ist der gleichen Meinung – und hält Roboter und KI-Systeme in erster Linie für nützliche Werkzeuge. Eine Gefahr geht seines Erachtens von Crackern aus. Das ganze Heft kann hier heruntergeladen werden.
Am 19. und 20. Dezember 2017 findet der „Third International Congress on Love and Sex with Robots“ in London statt. Die akzeptierten Papers sind auf loveandsexwithrobots.org/program/ aufgelistet. Den Anfang macht Prof. Dr. Oliver Bendel (School of Business FHNW, Schweiz) mit „SSML for Sex Robots“. Er hatte im vergangenen Jahr am Goldsmiths über Sexroboter aus Sicht der Maschinenethik vorgetragen. Dieses Mal widmet er sich synthetischen Stimmen. Prof. Dr. Sophie Wennerscheid (Ghent University, Belgien) ist mit ihrem Thema „Posthuman desire in robotics and science fiction“ vertreten, Dr. Rebekah Rousi (University of Jyväskylä, Finnland) mit „Lying cheating robots – robots and infidelity“, Prof. Dr. Deborah Blizzard (Rochester Institute of Technology, UK) mit „The Next Evolution: The Constitutive Human-Doll Relationship as Companion Species“. Aus der Schweiz kommt ein weiterer Beitrag, nämlich „Dolores and Robot Sex: Fragments of Non-Anthropocentric Ethics“ von Prof. Dr. Thomas Beschorner (University of St. Gallen, Schweiz) und Florian Krause (ebd.). Das Buch mit den Beiträgen der letzten Konferenz ist Ende April 2017 bei Springer erschienen. Weitere Informationen über loveandsexwithrobots.org.
PostAuto verfolgt mit dem SmartShuttle, das seit 2016 fahrerlos in Sion unterwegs ist, eher einen Google- als einen Tesla-Ansatz. Die Strecken werden mit Hilfe von Lidar und 3D-Lidarkarten abgefahren. Auch über Kameras verfügt das SmartShuttle. Auf dem Podium sitzen beim Movimento 2017 Prof. Dr. Oliver Bendel (Professor für Wirtschaftsinformatik, Informationsethik und Maschinenethik an der Hochschule für Wirtschaft FHNW), Tim Cole (Autor, Blogger und Redner) und Prof. Dr. Roland Siegwart (Professor für Autonome Systeme an der ETH Zürich). Die Moderation obliegt Urs Bloch (Mediensprecher bei PostAuto Schweiz, vormals Redaktor bei der NZZ). Auf der Website www.postauto.ch/de/movimento sind folgende Informationen zu finden: „Überraschend, informativ, vernetzend: Am 30. November 2017 wird Ihnen das Movimento von PostAuto von 09.00 bis 14.30 Uhr neue Impulse geben und Sie gut unterhalten.“ Die Gäste aus der Mobilitätsbranche der ganzen Schweiz können sich im Berner Westside angeregt austauschen. „Sei dies über die Mobilität oder über andere Themen, sei dies bei Kaffee und Gipfeli oder beim Lunch.“ (Website PostAuto)
The Digital Europe Working Group Conference Robotics will take place on 8 November 2017 at the European Parliament in Brussels. The keynote address will be given by Mariya Gabriel, European Commissioner for Digital Society and Economy. The speakers of the first panel are Oliver Bendel (Professor of Information Systems, Information Ethics and Machine Ethics at the School of Business FHNW, via video conference), Anna Byhovskaya (policy and communications advisor, Trade Union Advisory Council of the OECD) and Malcolm James (Senior Lecturer in Accounting & Taxation, Cardiff Metropolitan University). The third panel will be moderated by Mady Delvaux (Member of the European Parliament). Speaker is Giovanni Sartor (Professor of Legal Informatics and Legal Theory at the European University Institute). The poster can be downloaded here. Further information is available at www.socialistsanddemocrats.eu/events/sd-group-digital-europe-working-group-robotics.
