{"id":9612,"date":"2024-05-31T16:56:23","date_gmt":"2024-05-31T16:56:23","guid":{"rendered":"https:\/\/www.maschinenethik.net\/?p=9612"},"modified":"2024-05-31T17:08:09","modified_gmt":"2024-05-31T17:08:09","slug":"die-maschinenethik-ist-alltagsgeschaeft","status":"publish","type":"post","link":"https:\/\/www.maschinenethik.net\/?p=9612","title":{"rendered":"Die Maschinenethik ist Alltagsgesch\u00e4ft"},"content":{"rendered":"

Die Maschinenethik, die vor zehn Jahren oft noch als Kuriosit\u00e4t abgetan wurde, ist inzwischen Alltagsgesch\u00e4ft. Sie ist etwa gefragt, wenn man bei Sprachmodellen bzw. Chatbots sogenannte Guardrails einzieht, \u00fcber Alignment in der Form von Finetuning oder \u00fcber Prompt Engineering. Wenn man GPTs erstellt, also \u201ecustom versions of ChatGPT\u201c, wie Open AI sie nennt, hat man das \u201eInstructions\u201c-Feld f\u00fcr das Prompt Engineering zur Verf\u00fcgung. Dort kann der Prompteur oder die Prompteuse bestimmte Vorgaben und Einschr\u00e4nkungen f\u00fcr den Chatbot erstellen. Dabei kann auf Dokumente verwiesen werden, die man hochgeladen hat. Genau dies macht Myriam Rellstab derzeit an der Hochschule f\u00fcr Wirtschaft FHNW im Rahmen ihrer Abschlussarbeit \u201eMoral Prompt Engineering\u201c, deren Zwischenergebnisse sie am 28. Mai 2024 vorgestellt hat. Als Prompteuse z\u00e4hmt sie GPT-4o, mit Hilfe ihrer Anweisungen und \u2013 dies hatte der Initiator des Projekts, Prof. Dr. Oliver Bendel, vorgeschlagen \u2013 mit Hilfe von Netiquetten, die sie gesammelt und dem Chatbot zur Verf\u00fcgung gestellt hat. Der Chatbot wird gez\u00e4hmt, der Tiger zum Stubentiger, der ohne Gefahr etwa im Klassenzimmer eingesetzt werden kann. Nun ist es bei GPT-4o so, dass schon vorher Guardrails eingezogen wurden. Diese wurden einprogrammiert oder \u00fcber Reinforcement Learning from Human Feedback gewonnen. Man macht also genaugenommen aus einem gez\u00e4hmten Tiger einen Stubentiger. Bei bestimmten Open-Source-Sprachmodellen ist dies anders. Das wilde Tier muss erst einmal eingefangen und dann gez\u00e4hmt werden. Und selbst dann kann es einen ernsthaft verletzen. Doch auch bei GPTs gibt es T\u00fccken, und wie man wei\u00df, k\u00f6nnen Stubentiger durchaus fauchen und kratzen. Im August liegen die Ergebnisse des Projekts vor. Bereits bei\u00a0Data<\/a>, einem Chatbot f\u00fcr den Studiengang Data Science an der Hochschule f\u00fcr Technik FHNW, war Moral Prompt Engineering angewandt worden.<\/p>\n

\"\"<\/p>\n

Abb.: Ein noch ungez\u00e4hmter Tiger<\/p>\n","protected":false},"excerpt":{"rendered":"

Die Maschinenethik, die vor zehn Jahren oft noch als Kuriosit\u00e4t abgetan wurde, ist inzwischen Alltagsgesch\u00e4ft. Sie ist etwa gefragt, wenn man bei Sprachmodellen bzw. Chatbots sogenannte Guardrails einzieht, \u00fcber Alignment in der Form von Finetuning oder \u00fcber Prompt Engineering. Wenn man GPTs erstellt, also \u201ecustom versions of ChatGPT\u201c, wie Open AI sie nennt, hat man … <\/p>\n

\u201eDie Maschinenethik ist Alltagsgesch\u00e4ft\u201c <\/span>weiterlesen<\/a><\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[886,4],"tags":[132,301,1548],"class_list":["post-9612","post","type-post","status-publish","format-standard","hentry","category-kuenstliche-intelligenz","category-maschinenethik","tag-kuenstliche-intelligenz","tag-maschinenethik","tag-moral-prompt-engineering"],"yoast_head":"\nDie Maschinenethik ist Alltagsgesch\u00e4ft - maschinenethik.net<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.maschinenethik.net\/?p=9612\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Die Maschinenethik ist Alltagsgesch\u00e4ft - maschinenethik.net\" \/>\n<meta property=\"og:description\" content=\"Die Maschinenethik, die vor zehn Jahren oft noch als Kuriosit\u00e4t abgetan wurde, ist inzwischen Alltagsgesch\u00e4ft. Sie ist etwa gefragt, wenn man bei Sprachmodellen bzw. Chatbots sogenannte Guardrails einzieht, \u00fcber Alignment in der Form von Finetuning oder \u00fcber Prompt Engineering. Wenn man GPTs erstellt, also \u201ecustom versions of ChatGPT\u201c, wie Open AI sie nennt, hat man … \u201eDie Maschinenethik ist Alltagsgesch\u00e4ft\u201c weiterlesen\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.maschinenethik.net\/?p=9612\" \/>\n<meta property=\"og:site_name\" content=\"maschinenethik.net\" \/>\n<meta property=\"article:published_time\" content=\"2024-05-31T16:56:23+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-05-31T17:08:09+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/05\/White-Tiger.png\" \/>\n<meta name=\"author\" content=\"bendelo\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"bendelo\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"2\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9612#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9612\"},\"author\":{\"name\":\"bendelo\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\"},\"headline\":\"Die Maschinenethik ist Alltagsgesch\u00e4ft\",\"datePublished\":\"2024-05-31T16:56:23+00:00\",\"dateModified\":\"2024-05-31T17:08:09+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9612\"},\"wordCount\":301,\"image\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9612#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2024\\\/05\\\/White-Tiger.png\",\"keywords\":[\"K\u00fcnstliche Intelligenz\",\"Maschinenethik\",\"Moral Prompt Engineering\"],\"articleSection\":[\"K\u00fcnstliche Intelligenz\",\"Maschinenethik\"],\"inLanguage\":\"de\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9612\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9612\",\"name\":\"Die Maschinenethik ist Alltagsgesch\u00e4ft - maschinenethik.net\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9612#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9612#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2024\\\/05\\\/White-Tiger.png\",\"datePublished\":\"2024-05-31T16:56:23+00:00\",\"dateModified\":\"2024-05-31T17:08:09+00:00\",\"author\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\"},\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9612#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9612\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9612#primaryimage\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2024\\\/05\\\/White-Tiger.png\",\"contentUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2024\\\/05\\\/White-Tiger.png\",\"width\":931,\"height\":1269},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=9612#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Startseite\",\"item\":\"https:\\\/\\\/www.maschinenethik.net\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Die Maschinenethik ist Alltagsgesch\u00e4ft\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#website\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/\",\"name\":\"maschinenethik.net\",\"description\":\"VON OLIVER BENDEL\",\"alternateName\":\"Maschinenethik\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.maschinenethik.net\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\",\"name\":\"bendelo\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/?author=3\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Die Maschinenethik ist Alltagsgesch\u00e4ft - maschinenethik.net","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.maschinenethik.net\/?p=9612","og_locale":"de_DE","og_type":"article","og_title":"Die Maschinenethik ist Alltagsgesch\u00e4ft - maschinenethik.net","og_description":"Die Maschinenethik, die vor zehn Jahren oft noch als Kuriosit\u00e4t abgetan wurde, ist inzwischen Alltagsgesch\u00e4ft. Sie ist etwa gefragt, wenn man bei Sprachmodellen bzw. Chatbots sogenannte Guardrails einzieht, \u00fcber Alignment in der Form von Finetuning oder \u00fcber Prompt Engineering. Wenn man GPTs erstellt, also \u201ecustom versions of ChatGPT\u201c, wie Open AI sie nennt, hat man … \u201eDie Maschinenethik ist Alltagsgesch\u00e4ft\u201c weiterlesen","og_url":"https:\/\/www.maschinenethik.net\/?p=9612","og_site_name":"maschinenethik.net","article_published_time":"2024-05-31T16:56:23+00:00","article_modified_time":"2024-05-31T17:08:09+00:00","og_image":[{"url":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/05\/White-Tiger.png","type":"","width":"","height":""}],"author":"bendelo","twitter_card":"summary_large_image","twitter_misc":{"Verfasst von":"bendelo","Gesch\u00e4tzte Lesezeit":"2\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.maschinenethik.net\/?p=9612#article","isPartOf":{"@id":"https:\/\/www.maschinenethik.net\/?p=9612"},"author":{"name":"bendelo","@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95"},"headline":"Die Maschinenethik ist Alltagsgesch\u00e4ft","datePublished":"2024-05-31T16:56:23+00:00","dateModified":"2024-05-31T17:08:09+00:00","mainEntityOfPage":{"@id":"https:\/\/www.maschinenethik.net\/?p=9612"},"wordCount":301,"image":{"@id":"https:\/\/www.maschinenethik.net\/?p=9612#primaryimage"},"thumbnailUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/05\/White-Tiger.png","keywords":["K\u00fcnstliche Intelligenz","Maschinenethik","Moral Prompt Engineering"],"articleSection":["K\u00fcnstliche Intelligenz","Maschinenethik"],"inLanguage":"de"},{"@type":"WebPage","@id":"https:\/\/www.maschinenethik.net\/?p=9612","url":"https:\/\/www.maschinenethik.net\/?p=9612","name":"Die Maschinenethik ist Alltagsgesch\u00e4ft - maschinenethik.net","isPartOf":{"@id":"https:\/\/www.maschinenethik.net\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.maschinenethik.net\/?p=9612#primaryimage"},"image":{"@id":"https:\/\/www.maschinenethik.net\/?p=9612#primaryimage"},"thumbnailUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/05\/White-Tiger.png","datePublished":"2024-05-31T16:56:23+00:00","dateModified":"2024-05-31T17:08:09+00:00","author":{"@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95"},"breadcrumb":{"@id":"https:\/\/www.maschinenethik.net\/?p=9612#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.maschinenethik.net\/?p=9612"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.maschinenethik.net\/?p=9612#primaryimage","url":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/05\/White-Tiger.png","contentUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/05\/White-Tiger.png","width":931,"height":1269},{"@type":"BreadcrumbList","@id":"https:\/\/www.maschinenethik.net\/?p=9612#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Startseite","item":"https:\/\/www.maschinenethik.net\/"},{"@type":"ListItem","position":2,"name":"Die Maschinenethik ist Alltagsgesch\u00e4ft"}]},{"@type":"WebSite","@id":"https:\/\/www.maschinenethik.net\/#website","url":"https:\/\/www.maschinenethik.net\/","name":"maschinenethik.net","description":"VON OLIVER BENDEL","alternateName":"Maschinenethik","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.maschinenethik.net\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Person","@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95","name":"bendelo","url":"https:\/\/www.maschinenethik.net\/?author=3"}]}},"_links":{"self":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/9612","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=9612"}],"version-history":[{"count":3,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/9612\/revisions"}],"predecessor-version":[{"id":9616,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/9612\/revisions\/9616"}],"wp:attachment":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=9612"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=9612"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=9612"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}