{"id":8940,"date":"2023-05-14T09:14:53","date_gmt":"2023-05-14T09:14:53","guid":{"rendered":"https:\/\/www.maschinenethik.net\/?p=8940"},"modified":"2024-01-09T07:38:25","modified_gmt":"2024-01-09T07:38:25","slug":"claude-nutzt-constitutional-ai","status":"publish","type":"post","link":"https:\/\/www.maschinenethik.net\/?p=8940","title":{"rendered":"Claude nutzt Constitutional AI"},"content":{"rendered":"<p>Die <a href=\"https:\/\/link.springer.com\/book\/10.1007\/978-3-658-17483-5\" target=\"_blank\" rel=\"noopener\">Maschinenethik<\/a> kennt ganz unterschiedliche Ans\u00e4tze. Man kann moralische Regeln und Werte in Systeme und Maschinen einpflanzen. Sie k\u00f6nnen vom Entwickler stammen oder von einer Ethikkommission. Sie k\u00f6nnen auch in einem mehrstufigen Verfahren von verschiedenen Interessengruppen entwickelt worden sein. Die Maschinen halten sich strikt an die moralischen Regeln und Werte &#8211; dies ist der Normalfall und der Fall bei Maschinen wie GOODBOT, BESTBOT oder <a href=\"http:\/\/arxiv.org\/abs\/2401.03358\" target=\"_blank\" rel=\"noopener\">HAPPY HEDGEHOG<\/a> &#8211; oder passen sie selbst an. Wenn sie sie selbst anpassen, kann Machine Learning zum Einsatz kommen. Eine Erg\u00e4nzung ist das <a href=\"https:\/\/www.maschinenethik.net\/?p=8715\">Moralmen\u00fc<\/a>, das dem Benutzer oder Besitzer die Auswahl verschiedener Optionen erlaubt. Bei Sprachmodellen gibt es ebenfalls mehrere M\u00f6glichkeiten. Dass sie bestimmte Prompts verweigern, wurde ihnen i.d.R. einprogrammiert. Dass sie in eine bestimmte Richtung tendieren, etwa was Atomkraft angeht, kann am Reinforcement Learning from Human Feedback (RLFH) liegen. Das Unternehmen Anthropic, gegr\u00fcndet von ehemaligen Open-AI-Mitarbeitern, trainiert laut <a href=\"https:\/\/www.theverge.com\/2023\/5\/9\/23716746\/ai-startup-anthropic-constitutional-ai-safety\" target=\"_blank\" rel=\"noopener\">The Verge<\/a> seinen Chatbot Claude &#8211; der auf einem Sprachmodell basiert &#8211; mit Hilfe von ethischen Prinzipien. Es greift u.a. auf die Allgemeine Erkl\u00e4rung der Menschenrechte der Vereinten Nationen und die Nutzungsbedingungen von Apple zur\u00fcck. Es handelt sich laut Mitgr\u00fcnder Jared Kaplan um Constitutional AI \u2013 im Grunde nichts anderes als eine spezifische Methode der Maschinenethik. Er erkl\u00e4rt: &#8222;The basic idea is that instead of asking a person to decide which response they prefer [with RLHF], you can ask a version of the large language model, &#8218;which response is more in accord with a given principle?'&#8220; (The Verge, 9 May 2023) Im <a href=\"https:\/\/arxiv.org\/abs\/2212.08073\" target=\"_blank\" rel=\"noopener\">Paper<\/a> &#8222;Constitutional AI: Harmlessness from AI Feedback&#8220; erkl\u00e4rt eine Forschergruppe um Yuntao Bai: &#8222;We experiment with methods for training a harmless AI assistant through self-improvement, without any human labels identifying harmful outputs. The only human oversight is provided through a list of rules or principles, and so we refer to the method as &#8218;Constitutional AI&#8216;. The process involves both a supervised learning and a reinforcement learning phase.&#8220; Das Paper erw\u00e4hnt Maschinenethik nicht einmal &#8211; aber diese Disziplin wird durch die Anwendung bei Sprachmodellen einen weiteren Aufschwung erleben.<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"alignnone size-full wp-image-8959\" src=\"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/05\/Claude_Doppelt.png\" alt=\"\" width=\"1858\" height=\"1445\" srcset=\"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/05\/Claude_Doppelt.png 1858w, https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/05\/Claude_Doppelt-300x233.png 300w, https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/05\/Claude_Doppelt-1024x796.png 1024w, https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/05\/Claude_Doppelt-768x597.png 768w, https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/05\/Claude_Doppelt-1536x1195.png 1536w\" sizes=\"auto, (max-width: 767px) 89vw, (max-width: 1000px) 54vw, (max-width: 1071px) 543px, 580px\" \/><\/p>\n<p>Abb.: Der Chatbot Claude (Foto: Anthropic)<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Die Maschinenethik kennt ganz unterschiedliche Ans\u00e4tze. Man kann moralische Regeln und Werte in Systeme und Maschinen einpflanzen. Sie k\u00f6nnen vom Entwickler stammen oder von einer Ethikkommission. Sie k\u00f6nnen auch in einem mehrstufigen Verfahren von verschiedenen Interessengruppen entwickelt worden sein. Die Maschinen halten sich strikt an die moralischen Regeln und Werte &#8211; dies ist der Normalfall &hellip; <\/p>\n<p class=\"link-more\"><a href=\"https:\/\/www.maschinenethik.net\/?p=8940\" class=\"more-link\"><span class=\"screen-reader-text\">\u201eClaude nutzt Constitutional AI\u201c <\/span>weiterlesen<\/a><\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1129,4],"tags":[1439,1440,851,301,1434],"class_list":["post-8940","post","type-post","status-publish","format-standard","hentry","category-ki-ethik","category-maschinenethik","tag-constitutional-ai","tag-llm","tag-machine-learning","tag-maschinenethik","tag-sprachmodell"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.8 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>Claude nutzt Constitutional AI - maschinenethik.net<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.maschinenethik.net\/?p=8940\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Claude nutzt Constitutional AI - maschinenethik.net\" \/>\n<meta property=\"og:description\" content=\"Die Maschinenethik kennt ganz unterschiedliche Ans\u00e4tze. Man kann moralische Regeln und Werte in Systeme und Maschinen einpflanzen. Sie k\u00f6nnen vom Entwickler stammen oder von einer Ethikkommission. Sie k\u00f6nnen auch in einem mehrstufigen Verfahren von verschiedenen Interessengruppen entwickelt worden sein. Die Maschinen halten sich strikt an die moralischen Regeln und Werte &#8211; dies ist der Normalfall &hellip; \u201eClaude nutzt Constitutional AI\u201c weiterlesen\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.maschinenethik.net\/?p=8940\" \/>\n<meta property=\"og:site_name\" content=\"maschinenethik.net\" \/>\n<meta property=\"article:published_time\" content=\"2023-05-14T09:14:53+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-01-09T07:38:25+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/05\/Claude_Doppelt.png\" \/>\n<meta name=\"author\" content=\"bendelo\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"bendelo\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"3\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8940#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8940\"},\"author\":{\"name\":\"bendelo\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\"},\"headline\":\"Claude nutzt Constitutional AI\",\"datePublished\":\"2023-05-14T09:14:53+00:00\",\"dateModified\":\"2024-01-09T07:38:25+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8940\"},\"wordCount\":354,\"image\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8940#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2023\\\/05\\\/Claude_Doppelt.png\",\"keywords\":[\"Constitutional AI\",\"LLM\",\"Machine Learning\",\"Maschinenethik\",\"Sprachmodell\"],\"articleSection\":[\"KI-Ethik\",\"Maschinenethik\"],\"inLanguage\":\"de\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8940\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8940\",\"name\":\"Claude nutzt Constitutional AI - maschinenethik.net\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8940#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8940#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2023\\\/05\\\/Claude_Doppelt.png\",\"datePublished\":\"2023-05-14T09:14:53+00:00\",\"dateModified\":\"2024-01-09T07:38:25+00:00\",\"author\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\"},\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8940#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8940\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8940#primaryimage\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2023\\\/05\\\/Claude_Doppelt.png\",\"contentUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2023\\\/05\\\/Claude_Doppelt.png\",\"width\":1858,\"height\":1445},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8940#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Startseite\",\"item\":\"https:\\\/\\\/www.maschinenethik.net\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Claude nutzt Constitutional AI\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#website\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/\",\"name\":\"maschinenethik.net\",\"description\":\"VON OLIVER BENDEL\",\"alternateName\":\"Maschinenethik\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.maschinenethik.net\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\",\"name\":\"bendelo\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/?author=3\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Claude nutzt Constitutional AI - maschinenethik.net","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.maschinenethik.net\/?p=8940","og_locale":"de_DE","og_type":"article","og_title":"Claude nutzt Constitutional AI - maschinenethik.net","og_description":"Die Maschinenethik kennt ganz unterschiedliche Ans\u00e4tze. Man kann moralische Regeln und Werte in Systeme und Maschinen einpflanzen. Sie k\u00f6nnen vom Entwickler stammen oder von einer Ethikkommission. Sie k\u00f6nnen auch in einem mehrstufigen Verfahren von verschiedenen Interessengruppen entwickelt worden sein. Die Maschinen halten sich strikt an die moralischen Regeln und Werte &#8211; dies ist der Normalfall &hellip; \u201eClaude nutzt Constitutional AI\u201c weiterlesen","og_url":"https:\/\/www.maschinenethik.net\/?p=8940","og_site_name":"maschinenethik.net","article_published_time":"2023-05-14T09:14:53+00:00","article_modified_time":"2024-01-09T07:38:25+00:00","og_image":[{"url":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/05\/Claude_Doppelt.png","type":"","width":"","height":""}],"author":"bendelo","twitter_card":"summary_large_image","twitter_misc":{"Verfasst von":"bendelo","Gesch\u00e4tzte Lesezeit":"3\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.maschinenethik.net\/?p=8940#article","isPartOf":{"@id":"https:\/\/www.maschinenethik.net\/?p=8940"},"author":{"name":"bendelo","@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95"},"headline":"Claude nutzt Constitutional AI","datePublished":"2023-05-14T09:14:53+00:00","dateModified":"2024-01-09T07:38:25+00:00","mainEntityOfPage":{"@id":"https:\/\/www.maschinenethik.net\/?p=8940"},"wordCount":354,"image":{"@id":"https:\/\/www.maschinenethik.net\/?p=8940#primaryimage"},"thumbnailUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/05\/Claude_Doppelt.png","keywords":["Constitutional AI","LLM","Machine Learning","Maschinenethik","Sprachmodell"],"articleSection":["KI-Ethik","Maschinenethik"],"inLanguage":"de"},{"@type":"WebPage","@id":"https:\/\/www.maschinenethik.net\/?p=8940","url":"https:\/\/www.maschinenethik.net\/?p=8940","name":"Claude nutzt Constitutional AI - maschinenethik.net","isPartOf":{"@id":"https:\/\/www.maschinenethik.net\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.maschinenethik.net\/?p=8940#primaryimage"},"image":{"@id":"https:\/\/www.maschinenethik.net\/?p=8940#primaryimage"},"thumbnailUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/05\/Claude_Doppelt.png","datePublished":"2023-05-14T09:14:53+00:00","dateModified":"2024-01-09T07:38:25+00:00","author":{"@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95"},"breadcrumb":{"@id":"https:\/\/www.maschinenethik.net\/?p=8940#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.maschinenethik.net\/?p=8940"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.maschinenethik.net\/?p=8940#primaryimage","url":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/05\/Claude_Doppelt.png","contentUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/05\/Claude_Doppelt.png","width":1858,"height":1445},{"@type":"BreadcrumbList","@id":"https:\/\/www.maschinenethik.net\/?p=8940#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Startseite","item":"https:\/\/www.maschinenethik.net\/"},{"@type":"ListItem","position":2,"name":"Claude nutzt Constitutional AI"}]},{"@type":"WebSite","@id":"https:\/\/www.maschinenethik.net\/#website","url":"https:\/\/www.maschinenethik.net\/","name":"maschinenethik.net","description":"VON OLIVER BENDEL","alternateName":"Maschinenethik","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.maschinenethik.net\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Person","@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95","name":"bendelo","url":"https:\/\/www.maschinenethik.net\/?author=3"}]}},"_links":{"self":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/8940","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=8940"}],"version-history":[{"count":16,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/8940\/revisions"}],"predecessor-version":[{"id":9340,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/8940\/revisions\/9340"}],"wp:attachment":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=8940"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=8940"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=8940"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}