Das Yps-Interview mit Oliver Bendel zu Robotik und Maschinenethik ist nun auch als PDF verfügbar, mit freundlicher Genehmigung des Chefredakteurs. Yps war jahrzehntelang das Kultheft für Kinder. Diese fieberten vor allem den Gimmicks entgegen, von denen sich einige bis heute im kollektiven Gedächtnis erhalten haben, etwa der Solarzeppelin, das Abenteuerzelt und die Maschine, mit deren Hilfe man eckige Eier macht. Eigene Produktionen, u.a. mit dem karierten Yps-Känguru, und lizensierte Comics dienten als gut bekömmliches und leichtverdauliches Lesefutter. Ein paar Jahre nach der Einstellung im Jahre 2000 erschienen Testausgaben, die sich an Erwachsene richteten. Der große Erfolg blieb zu dieser Zeit aus. Nach einer längeren Pause versuchte man es nochmals, mit einer thematischen Fokussierung auf Mode, Automobile und Technik und einem durchgehenden Bezug – so die Pressemitteilung des Verlags – „zu Karos, Kängurus oder Kohl“. Das Konzept ging auf, und so erhalten die Kinder von damals inzwischen jeden zweiten Monat eine Ausgabe. Die erste des Jahres 2016 wartete mit einem Schwerpunkt zu Robotern und Cyborgs auf. Mit www.yps.de ist das Heft auch im Web präsent.
Die wilden Kerle
„Die wilden Kerle“ lautet der Titel eines Artikels von Lisa Kräher für das Magazin atFERCHAU, der Untertitel „Wie Roboter und Mensch künftig sicher zusammenarbeiten“. „Es wird weltweit intensiv an neuen Technologien geforscht, um den Einsatz von Robotern ohne Schutzzaun zu ermöglichen“, wird Dr. Norbert Elkmann zitiert. „Er leitet das Geschäftsfeld Robotersysteme am Fraunhofer-Institut für Fabrikbetrieb und -automatisierung IFF in Magdeburg. Sicherheit bedeutet zum einen, Kollisionen zu vermeiden, also Abstand zu halten.“ (atFERCHAU, 1/2016) Dafür entwickelt die Einrichtung Lösungen. „Direkter Kontakt zwischen Mensch und Roboter ist bei vielen Anwendungen jedoch unumgänglich.“ (atFERCHAU, 1/2016) Und auch hier gibt es hilfreiche Forschung. Befragt wird zudem Oliver Bendel von der Hochschule für Wirtschaft FHNW. „Der Philosoph und promovierte Wirtschaftsinformatiker … beschäftigt sich an der Hochschule für Wirtschaft FHNW intensiv mit dem Thema. Er sagt: ‚In Zukunft müssen wir auch nach der Moral von Maschinen fragen, weil immer mehr autonome und teilautonome Maschinen Entscheidungen mit moralischen Implikationen treffen.'“ (atFERCHAU, 1/2016)
Abb.: Auch ein wilder Kerl
V-Effekt für Roboter
„Forscher arbeiten unter Hochdruck an sozialen Robotern. Sie sollen echte Gefährten werden, sogar eigene Persönlichkeit entwickeln. So schwindet die Differenz zwischen Mensch und Maschine. Das wirft ethische Fragen auf.“ (RP, 10. März 2016) Mit diesen Worten beginnt der Artikel „Soziale Roboter auf dem Vormarsch“ von Dorothee Krings, erschienen am 10. März 2016 in der Rheinischen Post. Eingegangen wird auf zwei neue Projekte in diesem Bereich: An der Uni Bielefeld wird „an einem Maschinen-Lehrer gebaut, der Einwandererkindern beim Deutschlernen helfen soll“ (RP, 10. März 2016). „Nao ist nur 60 Zentimeter groß, ein niedliches Spielzeug, aber er kann sehen, hören und bald auch die Stimmungslage seines Gegenübers einschätzen – und auf Unlust reagieren.“ (RP, 10. März 2016) In Freiburg „wird an Fritz getüftelt, einem Gestell mit Comicgesicht, das Blickkontakt aufnehmen und die Mundwinkel sinken lassen kann, wenn man sich von ihm abwendet“. Er soll „durchs Museum führen und merken, wenn seine Zuhörer sich langweilen“ (RP, 10. März 2016). „In 20 Jahren wird man Roboter haben, die wirklich unter uns leben, mit denen wir reden, die wir lieben“, wird Oliver Bendel zitiert, „einer der führenden Maschinenethiker, der in der Schweiz lehrt“ (RP, 10. März 2016). Dabei sieht er neben den Chancen die Risiken und macht Vorschläge, wie das Zusammenleben gelingen kann. Er spricht von einem V-Effekt für Roboter, „frei nach dem Theater von Brecht“; „der Roboter hält inne und betont, dass er nur eine Maschine ist“ (RP, 10. März 2016). Der Artikel kann über www.rp-online.de/politik/soziale-roboter-auf-dem-vormarsch-aid-1.5824498 abgerufen werden.
Abb.: Ich bin nur eine Maschine
Effekte der Digitalisierung
In der größten Tageszeitung der Schweiz, 20 Minuten, schreibt Kaspar Wolfensberger: „Roboter werden die Arbeitswelt grundlegend verändern. Zehntausende Schweizer Jobs könnten verschwinden. Was kann man tun, um nicht verdrängt zu werden?“ Befragt wird u.a. Oliver Bendel von der Hochschule für Wirtschaft FHNW (Institut für Wirtschaftsinformatik). Er sagt: „Alles, was mit manueller Arbeit zu tun hat, kann nach und nach ersetzt werden. Wie eine neue Studie des Weltwirtschaftsforums gezeigt hat, sind aber auch Bürojobs durch Roboter bedroht.“ (20 Minuten, 1. Februar 2016) Moritz Hämmerle vom Fraunhofer-Institut für Arbeitswirtschaft und Organisation nennt Zahlen zu Deutschland: „Es gibt verschiedene Studien zur Beschäftigungsentwicklung durch Digitalisierung/Industrie 4.0. Die pessimistischsten sehen ca. 45 Prozent der deutschen Arbeitsplätze als gefährdet an, die optimistischen sehen allein für Deutschland einen Beschäftigungsaufbau von etwa 350.000 Jobs.“ (20 Minuten, 1. Februar 2016) Hannes Lubich von der Hochschule für Technik (Institut für Mobile und Verteilte Systeme) beschwichtigt in Bezug auf pessimistische Schätzungen. Es sei zu bemerken, dass die Schätzungen und der Zeithorizont eine große Varianz aufweisen, „da einfache lineare Prognosen für solche Veränderungen nicht ausreichen und die Zahlen oft auch im Sinne eines Weckrufs oder zur Untermauerung politischer oder gesellschaftlicher Ansprüche verwendet werden“ (20 Minuten, 1. Februar 2016). Der Artikel mit dem Titel „So schützen Sie sich vor der Roboter-Konkurrenz“ ist am 11. Februar 2016 erschienen und kann über www.20min.ch/finance/news/story/11417961 abgerufen werden.
Mensch-Maschine-Entgrenzungen
Das Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB) hat im Rahmen des TAB-Projekts „Mensch-Maschine-Entgrenzungen“ eine neue Ausschreibung gestartet. Zum Hintergrund heißt es auf der Website: „Das TAB-Projekt Mensch-Maschine-Entgrenzung beschäftigt sich mit technologischen Trends, die zu einer zunehmenden Verschmelzung von Mensch und Maschine führen. Angetrieben wird die Entgrenzungsdynamik im Wesentlichen durch Entwicklungen in zwei Technologiefeldern: den Neurotechnologien auf der einen Seite, die zu einer fortschreitenden Technisierung des Menschen führen (durch die direkte Kopplung elektronischer Geräte an das Gehirn resp. Nervensystem), sowie der autonomen Robotik auf der anderen Seite, die Maschinen hervorbringt, die nicht nur immer eigenständiger handeln, sondern dem Menschen auch immer ähnlicher werden.“ (Website TAB) Mit Fokus auf Robotik in Pflege und Rehabilitation werden, wie Dr. Christoph Kehl mitgeteilt hat, Gutachten zu folgenden drei Themenfeldern vergeben: 1. Autonome Assistenzsysteme in der Pflege: Potenziale und Grenzen aus pflegewissenschaftlicher Sicht; 2. Pflege- und Rehabilitationsrobotik: Fallstudien zur Forschungs- und Entwicklungspraxis; 3. Rechtliche Herausforderungen und Lösungsansätze autonomer Pflegetechnologien: Haftung und Datenschutz. Abgabetermin für Angebote ist der 15. Februar 2016. Weitere Informationen zur Ausschreibung sowie zur Untersuchung über www.tab-beim-bundestag.de/de/gutachter/g20700.html.
Foundation of Responsible Robotics
„Alle forschen an Robotern und keiner bedenkt, was wir damit anrichten.“ (Website DRadio Wissen, 11. Dezember 2015) Dieser Meinung sei, so der Sender, eine Gruppe von Wissenschaftlern. „Deshalb haben sie die Foundation of Responsible Robotics gegründet, also die Stiftung für verantwortungsvolle Robotik. Bei der Gründungsfeier in London warnte der emeritierte Professor und Mitgründer Noel Sharkey, die britische Regierung stecke zwar viel Geld in die Forschung – aber die Auswirkungen auf die Gesellschaft würden überhaupt nicht bedacht. Und auch ethische Fragen spielten kaum eine Rolle.“ (Website DRadio Wissen, 11. Dezember 2015) Allerdings fragen Informationsethik, Technikethik und Roboterethik sowie Wirtschaftsethik – in vielen Ländern umtriebige Disziplinen – sehr wohl nach ethischen Implikationen des Einsatzes von Robotern, und die Maschinenethik konzipiert sogar moralische Maschinen. Folgende Beispiele führt Noel Sharkey an: „Durch die Automatisierung in der Industrie könnten massenhaft Menschen arbeitslos werden. Auch Menschenrechte würden verletzt, etwa wenn Roboter bei der Betreuung von Senioren mit Kameras filmen. Polizeidrohnen seien in mehreren Ländern mit Waffen ausgerüstet. Selbstfahrende Autos könnten Bomben transportieren und so Selbstmordattentäter ersetzen.“ Das ist freilich nicht das Hauptproblem bei Roboterautos; das Hauptproblem ist, dass diese selbst Menschen töten. „Die Stiftung will erreichen, dass die Forschung solche Gefahren stärker mitdenkt.“ (Website DRadio Wissen, 11. Dezember 2015) Dies ist auf jeden Fall ein ehrenwertes Ziel.
Robots between the Devil and the Deep Blue Sea
„Robots between the Devil and the Deep Blue Sea“ lautet der Titel des Beitrags, der am 1. Dezember 2015 in der brasilianischen Zeitschrift Liinc em Revista erschienen ist. Oliver Bendel stellt klassische Dilemmata vor und überträgt sie ins Informationszeitalter. Insbesondere interessiert der Einsatz von Chatbots, Robotern, Drohnen und selbstständig fahrenden Autos, der immer wieder problembehaftet ist. Bei den Lösungsansätzen wird u.a. die Perspektive der Maschinenethik eingenommen. Es stellt sich heraus, dass klassische Dilemmata für die Herausforderungen der Gegenwart nützlich sind und dabei helfen, die Entscheidungsmöglichkeiten teilautonomer und autonomer Systeme zu diskutieren sowie Robotik, Künstliche Intelligenz und Informatik in dieser Frage zu sensibilisieren und ihre Ergebnisse und Erzeugnisse zu optimieren. Skizziert werden das „Roboterauto-Problem“, die „Parkbucht des Karneades“, „Buridans Robot“ und das „Lügenbot-Problem“. Der Beitrag kann über die Website der Zeitschrift kostenlos heruntergeladen werden.
Abb.: Roboter können in Dilemmata geraten
Sexroboter im Wirtschaftslexikon
Vor kurzem haben Ethiker zum Boykott von Sexrobotern aufgerufen. Dabei haben sie angenommen, dass diese Frauen und Kinder diskriminieren und die Entwicklung der Sexualität beeinträchtigen können. Anhaltspunkte dafür gibt es allerdings nicht, und überhaupt scheinen die Probleme in diesem Bereich marginal zu sein. Ein neuer Beitrag im Wirtschaftslexikon von Gabler von Oliver Bendel behandelt die Spielzeuge der etwas anderen Art in nüchterner Form und geht dem Phänomen des Robotersex auf den Grund. Er hebt an mit den Worten: „Sexroboter sind Roboter, mit denen Menschen bestimmte Formen von Sex haben können. In der Regel sind Hardwareroboter gemeint, physisch vorhandene Maschinen. Bei einem weiten Begriff können auch Softwareroboter hinzugezählt werden. Es gibt eine Palette von Produkten für den Hausgebrauch. Manche von ihnen werden für den Gesundheitsbereich in Betracht gezogen.“ Am Ende werden Fragen aus Maschinenethik sowie Technik- und Informationsethik heraus gestellt. Sicherlich könnte man auch die Medizinethik mit einbeziehen. Der Beitrag ist am 16. November 2015 erschienen und kann über wirtschaftslexikon.gabler.de aufgerufen werden.
Abb.: Bei Sexrobotern ist die Gestaltung entscheidend
Rolf Pfeifer und Ethik
In einem Artikel im Tages-Anzeiger von Lucie Machac (11. Oktober 2015) werden auch Maschinenethik und Roboterethik gestreift. Grundlage ist ein Interview mit Rolf Pfeifer. Als Erbauer definiere er für den Roboter auch ein Wertesystem. „Er meint damit nicht ethisch-moralische Werte.“ Maschinenethik treibt er demnach nicht – wie ist es mit der Roboterethik, genauer gesagt mit dem Bereich, der nach Rechten von Maschinen fragt? Würde Pfeifer, wenn individuelle Fähigkeiten erworben wurden, den Stecker ziehen? „Zum jetzigen Zeitpunkt habe ich überhaupt keine Skrupel.“ Mit dieser Haltung ist der Robotiker nicht allein – die meisten Experten sehen keinerlei Anlass, Roboter jetzt oder in naher Zukunft wie Tiere oder Menschen zu behandeln. Dennoch wagt er einen Blick in die weitere Zukunft: „Aber stellen Sie sich vor, wenn uns Roboter einmal anflehen können, den Stecker bittebitte nicht zu ziehen … Und vielleicht weinen sie dabei sogar. Was würden Sie dann tun?“ Die meisten Experten würden antworten: Erst recht den Stecker ziehen.
Abb.: Wer zieht den Stecker, wer das Kabel?
Selfie von Curiosity
Curiosity hat wieder einmal ein Selfie geschossen. Spiegel Online meldet: „Wie von einem ausgestreckten Arm aus fotografiert, machte der Forschungsroboter ein Selbstporträt, das ihn aus einem ungewöhnlichen Blickwinkel zeigt.“ (SPON, 22. August 2015) Man könne der Maschine erstmals unter den Bauch schauen. „Das Bild ist so detailliert, dass sogar ein kleiner Stein erkennbar ist, der sich in einem der mittleren Räder verfangen hat.“ (SPON, 22. August 2015) Oliver Bendel hat schon mehrfach über Roboselfies (auch Robot Selfies genannt) geschrieben. Weltraumroboter sind in der Ferne unterwegs, sie sind allein, um nicht zu sagen einsam, und was liegt näher, als ein Foto von sich selbst zu knipsen und es an die daheimgebliebenen Kohlenstoffeinheiten zu schicken. Der eigentliche Zweck ist natürlich, den Ingenieuren zu zeigen, ob die Instrumente und Apparate in Ordnung sind, ob die Haut eine Beschädigung oder eine Veränderung aufweist. Oder ob ein Fremdkörper die Funktionen beeinträchtigt. Bei Curiosity, dem Mars-Rover, kann man wohl aufatmen: Ein kleiner Stein ist auch in jenen Gefilden nur ein kleiner Stein. Der letzte Artikel von Oliver Bendel zu Roboselfies ist am 1. Februar 2015 in Telepolis erschienen und kann über www.heise.de/tp/artikel/43/43793/1.html aufgerufen werden. Davor wurde „Robot selfies, and the road to self-recognition“ (Robohub, 9. Juni 2014) publiziert (über robohub.org/robot-selfies-and-the-road-to-self-recognition/).
Industrie 4.0 und Ethik
Der Artikel „Die Industrie 4.0 aus ethischer Sicht“ ist am 23. Juli 2015 in der Zeitschrift HMD – Praxis der Wirtschaftsinformatik erschienen, als „Online-First“-Artikel auf SpringerLink. Die deutsche Zusammenfassung: „Der vorliegende Beitrag arbeitet die wesentlichen Merkmale der Industrie 4.0 heraus und setzt sie ins Verhältnis zur Ethik. Es interessieren vor allem Bereichsethiken wie Informations-, Technik- und Wirtschaftsethik. Am Rande wird auf die Maschinenethik eingegangen, im Zusammenhang mit der sozialen Robotik. Es zeigt sich, dass die Industrie 4.0 neben ihren Chancen, die u. a. ökonomische und technische Aspekte betreffen, auch Risiken beinhaltet, denen rechtzeitig in Wort und Tat begegnet werden muss.“ Das englische Abstract: „This article highlights the essential features of the industry 4.0 and puts them in relation to ethics. Of special interest are the fields of applied ethics such as information, technology and business ethics. Machine ethics is mentioned in passing in connection with social robotics. It is evident that the industry 4.0 in addition to opportunities, affecting among other things economic and technical aspects, includes also risks which must be addressed in word and deed in a timely manner.“ Weitere Informationen über link.springer.com/article/10.1365/s40702-015-0163-z.
maschinenethik.net wird zwei
maschinenethik.net feiert. Über 100 Beiträge im Blog, ein Literaturverzeichnis zur Maschinenethik und DAS KLEINE LEXIKON DER MASCHINENETHIK (ein Extrakt aus dem KLEINEN LEXIKON DER INFORMATIONSETHIK) mit ca. 80 Begriffen – das ist die Bilanz nach zwei Jahren. In der Rubrik „Studien“ findet man Design- und Funktionsstudien im Kontext von Maschinenethik und sozialer Robotik. Betrieben werden Website und Blog seit Mai 2013 von Oliver Bendel. Es handelt sich um ein privates Projekt. Es gibt keine Werbung, wenn man von dem Verweis auf den Roman „Künstliche Kreaturen“ absieht. In der Rubrik „Unterstützung“ heißt es: „Sie können maschinenethik.net unterstützen, indem Sie News – etwa zu Projekten, Studien und Tagungen – an uns weiterleiten, uns Bildmaterial schicken oder Forschungs- und Entwicklungskooperationen mit uns eingehen. Nutzen Sie die E-Mail-Adresse, die im Impressum angegeben ist!“ maschinenethik.net ist übrigens auch über roboterethik.net erreichbar. Die beiden Begriffe werden im erwähnten Lexikon erklärt und abgegrenzt. Man darf gespannt sein, wo maschinenethik.net im Jahre 2016 steht.
Abb.: Stellt sich die Anlage ab, wenn sich ein Schwarm nähert?
Auto, Motor, Spaß
Lustiges und Ernstes war beim Auto-Motor-Sport-Kongress 2015 in Stuttgart zu vernehmen. Winfried Hermann, seines Zeichens Verkehrsminister in Baden-Württemberg, sorgte sich um sein bestes Stück: „Autonomes Fahren ist die Entmannung des deutschen Autofahrers“, sagte der grüne Politiker laut der Süddeutschen Zeitung vom 11. April 2015. Rafael Capurro, Informationsethiker, begab sich auf das Gebiet der Maschinenethik und ging auf die Moral des Autos ein, oder genauer auf die des Menschen, die auf sein bestes Stück übertragen wird. Er bemerkte laut auto-motor-sport.de, man könne die Philosophie „Ich bremse auch für Tiere“ in solch ein System einbetten. Wer sich für Fahrerassistenzsysteme und Roboterautos nicht nur mit Blick auf Menschen interessiert, sei u.a. auf die Artikel „Das Tier als Objekt der Moral der Maschine“ (Telepolis, 2014), „Fahrerassistenzsysteme aus ethischer Sicht“ (Zeitschrift für Verkehrssicherheit, 2013) und „Considerations about the Relationship between Animal and Machine Ethics“ (AI & SOCIETY) von Oliver Bendel verwiesen. Und natürlich auf seinen Beitrag „Ich bremse auch für Tiere: Überlegungen zu einfachen moralischen Maschinen“ von 2013, erschienen in der Schweizer Zeitschrift inside-it.ch.
Abb.: Friede und Liebe den Tieren
Drohnen, Roboter, Avatare
Die Ideen- und Entwicklungsgeschichte ist reich an künstlichen Kreaturen. In Mythos und Fiktion sind Talos und Pandora zu verorten, die Geschöpfe des Gottes der Schmiede, als Hephaistos bekannt, die Automatenmenschen des Daidalos, die Skulptur des Pygmalion, berühmt geworden als Galatea, die eiserne Jungfrau des Nabis; die Puppe Olimpia aus Hoffmanns Erzählung „Der Sandmann“, der Homunculus aus Goethes „Faust“, Handygirl aus der gleichnamigen Handyromanserie von Oliver Bendel; die künstliche Maria aus „Metropolis“, die Replikanten aus „Blade Runner“. Die Realität war zunächst verbunden mit der Illusion. Von ca. 1500 bis 1850 wurden tier- und menschenähnliche Automaten erdacht bzw. vorgeführt. Dann, nach weiteren 150 Jahren, plötzlich die Realität ohne doppelten Boden: Es werden Roboter erschaffen, die den Menschen nicht nur zum Verwechseln ähnlich sehen, sondern auch selbstständig Entscheidungen mit sozialen und moralischen Implikationen treffen. Sie werden von sozialer Robotik und Maschinenethik gezähmt, dressiert und zivilisiert. Oliver Bendel macht am 21. April 2015 am Deutschen Seminar der Universität Zürich deutlich, dass manche Chatbots, Serviceroboter und Fotodrohnen die falsche Entscheidung treffen werden. Oder eine Entscheidung, die interessengeleitet ist. Roboterautos, die Kinder schonen und Rentner umfahren, werden seiner Ansicht nach für Diskussionen sorgen. Der Vortrag findet von 10.15 bis 12.00 Uhr im Rahmen der Vorlesung „Angewandte Linguistik“ von Prof. Dr. Christa Dürscheid statt (Schönberggasse 9, 8001 Zürich, Raum SOD-1-101) und trägt den Titel „Drohnen, Roboter, Avatare. Künstliche Wesen zwischen Ethik und Ästhetik“.
Abb.: Mädchen beim Lesen
Medical and Care Robots
„There is a fundamental transformation in the field of health care: operation robots, therapy robots, care robots and sex robots, which can be characterized as medical and care robots (MCR), become more and more indispensable.“ Mit diesen Worten hebt ein Beitrag zu Operations-, Pflege-, Therapie- und Sexrobotern an, der am 5. März 2015 auf der Plattform der Giordano-Bruno-Stiftung Schweiz veröffentlicht wurde. Weiter heißt es: „This contribution is committed to the findings of machine ethics and raises some thoughts for the development and design of moral MCR, with a focus on actions and appearance, as well as on the (natural) language skills. Using the literature and own research and considerations, appropriate meta-rules are being established, and central problem areas are identified without making concrete technical and design specifications. The problem descriptions allow robotics experts, computer scientists and designers to take into account social and moral aspects and to improve the MCR from an ethical perspective.“ Der Artikel von Oliver Bendel mit dem Titel „Reflections on the Development and the Design of Medical and Care Robots“ kann über gbs-schweiz.org abgerufen werden.
Abb.: Nur ein Spielzeug, aber auch nett
Überlegungen zur Tier-Maschine-Interaktion
Die Etablierung einer Disziplin der Tier-Maschine-Interaktion schlägt Oliver Bendel in einem Artikel vor, der am 14. Februar 2015 auf der Plattform der Giordano-Bruno-Stiftung Schweiz veröffentlicht wurde. Die deutsche Zusammenfassung lautet: „Der vorliegende Beitrag schlägt, ausgehend vom Begriff der sozialen Interaktion, die Etablierung einer Disziplin der Tier-Maschine-Interaktion vor. Er klärt grundlegende Begriffe, nennt Beispiele für Interaktion und Kommunikation zwischen Tier und Maschine, beleuchtet generelle Aspekte der Tier-Maschine-Interaktion und verknüpft diese mit der jungen Disziplin der Maschinenethik.“ Die englische Summary: „This contribution proposes, based on the concept of social interaction, the establishment of a discipline called animal-machine interaction. It clarifies basic terms, names examples for interaction and communication between animal and machine, throws light on general aspects of animal-machine interaction and links them with the young discipline of machine ethics.“ Der Artikel mit dem Titel „Überlegungen zur Disziplin der Tier-Maschine-Interaktion“ kann über gbs-schweiz.org abgerufen werden.
Abb.: Die mechanische Ente