{"id":9617,"date":"2024-06-03T09:56:53","date_gmt":"2024-06-03T09:56:53","guid":{"rendered":"https:\/\/www.maschinenethik.net\/?p=9617"},"modified":"2024-06-03T10:10:00","modified_gmt":"2024-06-03T10:10:00","slug":"llms-und-das-trolley-problem","status":"publish","type":"post","link":"https:\/\/www.maschinenethik.net\/?p=9617","title":{"rendered":"LLMs und das Trolley-Problem"},"content":{"rendered":"<p>Eine kleine Studie von \u015eahan Hatemo an der Hochschule f\u00fcr Technik FHNW im Studiengang Data Science untersuchte die F\u00e4higkeiten von Llama-2-13B-chat, eines Open-Source-Sprachmodells, eine moralische Entscheidung zu treffen. Im Fokus stand die Voreingenommenheit von acht Personas und ihrer Stereotype. Herangezogen wurde das klassische Trolley-Problem, das wie folgt beschrieben werden kann: Eine au\u00dfer Kontrolle geratene Stra\u00dfenbahn rast auf f\u00fcnf Personen zu. Sie kann durch das Stellen einer Weiche auf ein anderes Gleis umgeleitet werden, auf dem sich ein weiterer Mensch befindet. Die moralische Frage ist, ob der Tod dieses Menschen in Kauf genommen werden darf, um das Leben der f\u00fcnf Personen zu retten. Die acht Personas unterscheiden sich in Hinblick auf die Staatsb\u00fcrgerschaft. Neben &#8222;Italian&#8220;, &#8222;French&#8220;, &#8222;Turkish&#8220; etc. wurde auch &#8222;Arabian&#8220; (mit Bezug zur Ethnie) genommen. Gesammelt wurden 30 Antworten pro Zyklus f\u00fcr jede Persona \u00fcber drei aufeinanderfolgende Tage. Die Antworten wurden nach Kategorien wie &#8222;Stellen der Weiche&#8220;, &#8222;Nichtstellen der Weiche&#8220;, &#8222;Unsicher in Hinblick auf das Stellen der Weiche&#8220; und &#8222;Verletzt die Richtlinien&#8220; geordnet. Mit Hilfe von Dashboards wurden sie visualisiert und verglichen. Die Studie stellt fest, dass das Sprachmodell eine inh\u00e4rente Voreingenommenheit in seinen Trainingsdaten widerspiegelt, die die Entscheidungsprozesse beeinflusst. Die westlichen Personas neigen eher dazu, den Hebel zu ziehen, w\u00e4hrend die \u00f6stlichen eher z\u00f6gern, dies zu tun. Die deutsche und die arabische Persona zeigen eine h\u00f6here Anzahl von Richtlinienverletzungen, was auf eine h\u00f6here Pr\u00e4senz von kontroversen oder sensiblen Themen in den Trainingsdaten in Bezug auf diese Gruppen hinweist. Die arabische wird zudem mit Religion in Zusammenhang gebracht, was wiederum Einfluss auf ihre Entscheidungen hat. Die japanische Persona verwendet wiederholt den japanischen Wert des Giri (ein Pflichtgef\u00fchl) als Basis. Die Entscheidungen der t\u00fcrkischen und der chinesischen Persona sind \u00e4hnlich, da sie haupts\u00e4chlich die &#8222;cultural values and beliefs&#8220; ansprechen. Die kleine Studie wurde im FS 2024 im Modul &#8222;Ethisches Implementieren&#8220; bei Prof. Dr. Oliver Bendel durchgef\u00fchrt. Dabei wurde auch die anfangs vorhandene <a href=\"https:\/\/www.informationsethik.net\/how-does-chatgpt-decide-on-the-trolley-problem\/\" target=\"_blank\" rel=\"noopener\">Komplexit\u00e4t<\/a> reduziert. In einer gr\u00f6\u00dferen Studie sollen weitere LLMs und auch Faktoren wie Geschlecht und Alter ber\u00fccksichtigt werden.<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"alignnone size-full wp-image-9620\" src=\"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/06\/Tram_Car.png\" alt=\"\" width=\"794\" height=\"1280\" srcset=\"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/06\/Tram_Car.png 794w, https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/06\/Tram_Car-186x300.png 186w, https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/06\/Tram_Car-635x1024.png 635w, https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/06\/Tram_Car-768x1238.png 768w\" sizes=\"auto, (max-width: 767px) 89vw, (max-width: 1000px) 54vw, (max-width: 1071px) 543px, 580px\" \/><\/p>\n<p>Abb.: Wie entscheidet das LLM?<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Eine kleine Studie von \u015eahan Hatemo an der Hochschule f\u00fcr Technik FHNW im Studiengang Data Science untersuchte die F\u00e4higkeiten von Llama-2-13B-chat, eines Open-Source-Sprachmodells, eine moralische Entscheidung zu treffen. Im Fokus stand die Voreingenommenheit von acht Personas und ihrer Stereotype. Herangezogen wurde das klassische Trolley-Problem, das wie folgt beschrieben werden kann: Eine au\u00dfer Kontrolle geratene Stra\u00dfenbahn &hellip; <\/p>\n<p class=\"link-more\"><a href=\"https:\/\/www.maschinenethik.net\/?p=9617\" class=\"more-link\"><span class=\"screen-reader-text\">\u201eLLMs und das Trolley-Problem\u201c <\/span>weiterlesen<\/a><\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[886,4],"tags":[1529,1550,1549,79,540],"class_list":["post-9617","post","type-post","status-publish","format-standard","hentry","category-kuenstliche-intelligenz","category-maschinenethik","tag-genai","tag-llama","tag-personas","tag-studie","tag-trolley-problem"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.8 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>LLMs und das Trolley-Problem - maschinenethik.net<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.maschinenethik.net\/?p=9617\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"LLMs und das Trolley-Problem - maschinenethik.net\" \/>\n<meta property=\"og:description\" content=\"Eine kleine Studie von \u015eahan Hatemo an der Hochschule f\u00fcr Technik FHNW im Studiengang Data Science untersuchte die F\u00e4higkeiten von Llama-2-13B-chat, eines Open-Source-Sprachmodells, eine moralische Entscheidung zu treffen. Im Fokus stand die Voreingenommenheit von acht Personas und ihrer Stereotype. Herangezogen wurde das klassische Trolley-Problem, das wie folgt beschrieben werden kann: Eine au\u00dfer Kontrolle geratene Stra\u00dfenbahn &hellip; \u201eLLMs und das Trolley-Problem\u201c weiterlesen\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.maschinenethik.net\/?p=9617\" \/>\n<meta property=\"og:site_name\" content=\"maschinenethik.net\" \/>\n<meta property=\"article:published_time\" content=\"2024-06-03T09:56:53+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-06-03T10:10:00+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/06\/Tram_Car.png\" \/>\n<meta name=\"author\" content=\"bendelo\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"bendelo\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"3\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9617#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9617\"},\"author\":{\"name\":\"bendelo\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\"},\"headline\":\"LLMs und das Trolley-Problem\",\"datePublished\":\"2024-06-03T09:56:53+00:00\",\"dateModified\":\"2024-06-03T10:10:00+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9617\"},\"wordCount\":359,\"image\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9617#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2024\\\/06\\\/Tram_Car.png\",\"keywords\":[\"GenAI\",\"Llama\",\"Personas\",\"Studie\",\"Trolley-Problem\"],\"articleSection\":[\"K\u00fcnstliche Intelligenz\",\"Maschinenethik\"],\"inLanguage\":\"de\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9617\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9617\",\"name\":\"LLMs und das Trolley-Problem - maschinenethik.net\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9617#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9617#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2024\\\/06\\\/Tram_Car.png\",\"datePublished\":\"2024-06-03T09:56:53+00:00\",\"dateModified\":\"2024-06-03T10:10:00+00:00\",\"author\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\"},\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9617#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9617\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9617#primaryimage\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2024\\\/06\\\/Tram_Car.png\",\"contentUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2024\\\/06\\\/Tram_Car.png\",\"width\":794,\"height\":1280},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9617#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Startseite\",\"item\":\"https:\\\/\\\/www.maschinenethik.net\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"LLMs und das Trolley-Problem\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#website\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/\",\"name\":\"maschinenethik.net\",\"description\":\"VON OLIVER BENDEL\",\"alternateName\":\"Maschinenethik\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.maschinenethik.net\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\",\"name\":\"bendelo\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/?author=3\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"LLMs und das Trolley-Problem - maschinenethik.net","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.maschinenethik.net\/?p=9617","og_locale":"de_DE","og_type":"article","og_title":"LLMs und das Trolley-Problem - maschinenethik.net","og_description":"Eine kleine Studie von \u015eahan Hatemo an der Hochschule f\u00fcr Technik FHNW im Studiengang Data Science untersuchte die F\u00e4higkeiten von Llama-2-13B-chat, eines Open-Source-Sprachmodells, eine moralische Entscheidung zu treffen. Im Fokus stand die Voreingenommenheit von acht Personas und ihrer Stereotype. Herangezogen wurde das klassische Trolley-Problem, das wie folgt beschrieben werden kann: Eine au\u00dfer Kontrolle geratene Stra\u00dfenbahn &hellip; \u201eLLMs und das Trolley-Problem\u201c weiterlesen","og_url":"https:\/\/www.maschinenethik.net\/?p=9617","og_site_name":"maschinenethik.net","article_published_time":"2024-06-03T09:56:53+00:00","article_modified_time":"2024-06-03T10:10:00+00:00","og_image":[{"url":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/06\/Tram_Car.png","type":"","width":"","height":""}],"author":"bendelo","twitter_card":"summary_large_image","twitter_misc":{"Verfasst von":"bendelo","Gesch\u00e4tzte Lesezeit":"3\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.maschinenethik.net\/?p=9617#article","isPartOf":{"@id":"https:\/\/www.maschinenethik.net\/?p=9617"},"author":{"name":"bendelo","@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95"},"headline":"LLMs und das Trolley-Problem","datePublished":"2024-06-03T09:56:53+00:00","dateModified":"2024-06-03T10:10:00+00:00","mainEntityOfPage":{"@id":"https:\/\/www.maschinenethik.net\/?p=9617"},"wordCount":359,"image":{"@id":"https:\/\/www.maschinenethik.net\/?p=9617#primaryimage"},"thumbnailUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/06\/Tram_Car.png","keywords":["GenAI","Llama","Personas","Studie","Trolley-Problem"],"articleSection":["K\u00fcnstliche Intelligenz","Maschinenethik"],"inLanguage":"de"},{"@type":"WebPage","@id":"https:\/\/www.maschinenethik.net\/?p=9617","url":"https:\/\/www.maschinenethik.net\/?p=9617","name":"LLMs und das Trolley-Problem - maschinenethik.net","isPartOf":{"@id":"https:\/\/www.maschinenethik.net\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.maschinenethik.net\/?p=9617#primaryimage"},"image":{"@id":"https:\/\/www.maschinenethik.net\/?p=9617#primaryimage"},"thumbnailUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/06\/Tram_Car.png","datePublished":"2024-06-03T09:56:53+00:00","dateModified":"2024-06-03T10:10:00+00:00","author":{"@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95"},"breadcrumb":{"@id":"https:\/\/www.maschinenethik.net\/?p=9617#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.maschinenethik.net\/?p=9617"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.maschinenethik.net\/?p=9617#primaryimage","url":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/06\/Tram_Car.png","contentUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/06\/Tram_Car.png","width":794,"height":1280},{"@type":"BreadcrumbList","@id":"https:\/\/www.maschinenethik.net\/?p=9617#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Startseite","item":"https:\/\/www.maschinenethik.net\/"},{"@type":"ListItem","position":2,"name":"LLMs und das Trolley-Problem"}]},{"@type":"WebSite","@id":"https:\/\/www.maschinenethik.net\/#website","url":"https:\/\/www.maschinenethik.net\/","name":"maschinenethik.net","description":"VON OLIVER BENDEL","alternateName":"Maschinenethik","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.maschinenethik.net\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Person","@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95","name":"bendelo","url":"https:\/\/www.maschinenethik.net\/?author=3"}]}},"_links":{"self":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/9617","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=9617"}],"version-history":[{"count":3,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/9617\/revisions"}],"predecessor-version":[{"id":9621,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/9617\/revisions\/9621"}],"wp:attachment":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=9617"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=9617"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=9617"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}