{"id":8890,"date":"2023-04-30T16:12:33","date_gmt":"2023-04-30T16:12:33","guid":{"rendered":"https:\/\/www.maschinenethik.net\/?p=8890"},"modified":"2023-04-30T16:17:17","modified_gmt":"2023-04-30T16:17:17","slug":"chatgpt-aus-sicht-von-informations-und-maschinenethik","status":"publish","type":"post","link":"https:\/\/www.maschinenethik.net\/?p=8890","title":{"rendered":"ChatGPT aus Sicht von Informations- und Maschinenethik"},"content":{"rendered":"<p>Am 26. Mai 2023 h\u00e4lt Prof. Dr. Oliver Bendel einen Gastvortrag beim scil-Modul &#8222;Dialogorientierte Lern- und Assistenzsysteme&#8220; an der Universit\u00e4t St. Gallen. Er stellt aus Sicht von Informations- und Maschinenethik verschiedene \u00dcberlegungen zu ChatGPT an. Zun\u00e4chst ist die Frage, woher die Daten f\u00fcr das zugrunde liegende Sprachmodell kommen und unter welchen Bedingungen das Reinforcement Learning from Human Feedback abl\u00e4uft. Zudem d\u00fcrfte relevant sein, welche Daten man beim Prompt preisgibt und welche Prompts auf welche Art und Weise zur\u00fcckgewiesen werden. Ein weiteres Problemfeld ist das Halluzinieren der Sprachmodelle bzw. der darauf basierenden Anwendungen. Diese verdrehen Fakten und erfinden Referenzen. Nicht zuletzt ergeben sich f\u00fcr zahlreiche Anwendungsfelder wie Aus- und Weiterbildung besondere Herausforderungen &#8230; Mit <a href=\"https:\/\/www.informationsethik.net\/mit-visual-chatgpt-bilder-generieren-und-editieren\/\">Visual ChatGPT<\/a> soll man man \u00fcber Texteingaben Bilder generieren und dann einzelne Elemente editieren k\u00f6nnen. Solche und andere Bildgeneratoren wie DALL-E, Stable Diffusion und Midjourney werfen wiederum zahlreiche ethische Fragen auf. GPT-3 und GPT-4 bzw. <a href=\"https:\/\/www.informationsethik.net\/was-ist-chatgpt\/\">ChatGPT<\/a> sind nicht nur f\u00fcr bzw. als Chatbots und Contentgeneratoren relevant, sondern auch f\u00fcr Industrie- und Serviceroboter. In diesem Bereich hat indes vor allem das Sprachmodell <a href=\"https:\/\/www.informationsethik.net\/wie-sprachmodelle-fuer-die-steuerung-von-haushaltsrobotern-genutzt-werden-koennen\/\">PaLM-E<\/a> Aufmerksamkeit erregt. Indem Bilddaten und Daten zu Zust\u00e4nden und Ereignissen integriert werden, werden Virtualit\u00e4t und Realit\u00e4t verbunden. Konkret kann der Benutzer mit Hilfe eines Prompts einem Roboter eine Anweisung geben, die dieser dann in seiner Umgebung ausf\u00fchrt, die er vorher beobachtet hat und weiter beobachtet. Dabei sind wiederum Herausforderungen vorhanden, etwa mit Blick auf Verl\u00e4sslichkeit und Haftung. Oliver Bendel hat vor einem Vierteljahrhundert an der Universit\u00e4t St. Gallen gearbeitet &#8211; als Leiter des CC E-Learning &#8211; und geforscht, zu Conversational Agents und Embodied Conversational Agents in Lernumgebungen, sogenannten Pedagogical Agents. Weitere Informationen zum scil \u00fcber <a href=\"https:\/\/www.scil.ch\/\" target=\"_blank\" rel=\"noopener\">www.scil.ch<\/a>.<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"alignnone size-full wp-image-8892\" src=\"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/04\/Humanoid_Female_Robot.png\" alt=\"\" width=\"687\" height=\"997\" srcset=\"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/04\/Humanoid_Female_Robot.png 687w, https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/04\/Humanoid_Female_Robot-207x300.png 207w\" sizes=\"auto, (max-width: 687px) 100vw, 687px\" \/><\/p>\n<p>Abb.: Was sagt der Chatbot und warum?<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Am 26. Mai 2023 h\u00e4lt Prof. Dr. Oliver Bendel einen Gastvortrag beim scil-Modul &#8222;Dialogorientierte Lern- und Assistenzsysteme&#8220; an der Universit\u00e4t St. Gallen. Er stellt aus Sicht von Informations- und Maschinenethik verschiedene \u00dcberlegungen zu ChatGPT an. Zun\u00e4chst ist die Frage, woher die Daten f\u00fcr das zugrunde liegende Sprachmodell kommen und unter welchen Bedingungen das Reinforcement Learning &hellip; <\/p>\n<p class=\"link-more\"><a href=\"https:\/\/www.maschinenethik.net\/?p=8890\" class=\"more-link\"><span class=\"screen-reader-text\">\u201eChatGPT aus Sicht von Informations- und Maschinenethik\u201c <\/span>weiterlesen<\/a><\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1129,886],"tags":[1394,302,301,1423,1434],"class_list":["post-8890","post","type-post","status-publish","format-standard","hentry","category-ki-ethik","category-kuenstliche-intelligenz","tag-chatgpt","tag-informationsethik","tag-maschinenethik","tag-palm-e","tag-sprachmodell"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.8 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>ChatGPT aus Sicht von Informations- und Maschinenethik - maschinenethik.net<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.maschinenethik.net\/?p=8890\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"ChatGPT aus Sicht von Informations- und Maschinenethik - maschinenethik.net\" \/>\n<meta property=\"og:description\" content=\"Am 26. Mai 2023 h\u00e4lt Prof. Dr. Oliver Bendel einen Gastvortrag beim scil-Modul &#8222;Dialogorientierte Lern- und Assistenzsysteme&#8220; an der Universit\u00e4t St. Gallen. Er stellt aus Sicht von Informations- und Maschinenethik verschiedene \u00dcberlegungen zu ChatGPT an. Zun\u00e4chst ist die Frage, woher die Daten f\u00fcr das zugrunde liegende Sprachmodell kommen und unter welchen Bedingungen das Reinforcement Learning &hellip; \u201eChatGPT aus Sicht von Informations- und Maschinenethik\u201c weiterlesen\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.maschinenethik.net\/?p=8890\" \/>\n<meta property=\"og:site_name\" content=\"maschinenethik.net\" \/>\n<meta property=\"article:published_time\" content=\"2023-04-30T16:12:33+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2023-04-30T16:17:17+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/04\/Humanoid_Female_Robot.png\" \/>\n<meta name=\"author\" content=\"bendelo\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"bendelo\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"2\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8890#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8890\"},\"author\":{\"name\":\"bendelo\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\"},\"headline\":\"ChatGPT aus Sicht von Informations- und Maschinenethik\",\"datePublished\":\"2023-04-30T16:12:33+00:00\",\"dateModified\":\"2023-04-30T16:17:17+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8890\"},\"wordCount\":301,\"image\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8890#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2023\\\/04\\\/Humanoid_Female_Robot.png\",\"keywords\":[\"ChatGPT\",\"Informationsethik\",\"Maschinenethik\",\"PaLM-E\",\"Sprachmodell\"],\"articleSection\":[\"KI-Ethik\",\"K\u00fcnstliche Intelligenz\"],\"inLanguage\":\"de\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8890\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8890\",\"name\":\"ChatGPT aus Sicht von Informations- und Maschinenethik - maschinenethik.net\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8890#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8890#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2023\\\/04\\\/Humanoid_Female_Robot.png\",\"datePublished\":\"2023-04-30T16:12:33+00:00\",\"dateModified\":\"2023-04-30T16:17:17+00:00\",\"author\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\"},\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8890#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8890\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8890#primaryimage\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2023\\\/04\\\/Humanoid_Female_Robot.png\",\"contentUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2023\\\/04\\\/Humanoid_Female_Robot.png\",\"width\":687,\"height\":997},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=8890#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Startseite\",\"item\":\"https:\\\/\\\/www.maschinenethik.net\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"ChatGPT aus Sicht von Informations- und Maschinenethik\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#website\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/\",\"name\":\"maschinenethik.net\",\"description\":\"VON OLIVER BENDEL\",\"alternateName\":\"Maschinenethik\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.maschinenethik.net\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\",\"name\":\"bendelo\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/?author=3\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"ChatGPT aus Sicht von Informations- und Maschinenethik - maschinenethik.net","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.maschinenethik.net\/?p=8890","og_locale":"de_DE","og_type":"article","og_title":"ChatGPT aus Sicht von Informations- und Maschinenethik - maschinenethik.net","og_description":"Am 26. Mai 2023 h\u00e4lt Prof. Dr. Oliver Bendel einen Gastvortrag beim scil-Modul &#8222;Dialogorientierte Lern- und Assistenzsysteme&#8220; an der Universit\u00e4t St. Gallen. Er stellt aus Sicht von Informations- und Maschinenethik verschiedene \u00dcberlegungen zu ChatGPT an. Zun\u00e4chst ist die Frage, woher die Daten f\u00fcr das zugrunde liegende Sprachmodell kommen und unter welchen Bedingungen das Reinforcement Learning &hellip; \u201eChatGPT aus Sicht von Informations- und Maschinenethik\u201c weiterlesen","og_url":"https:\/\/www.maschinenethik.net\/?p=8890","og_site_name":"maschinenethik.net","article_published_time":"2023-04-30T16:12:33+00:00","article_modified_time":"2023-04-30T16:17:17+00:00","og_image":[{"url":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/04\/Humanoid_Female_Robot.png","type":"","width":"","height":""}],"author":"bendelo","twitter_card":"summary_large_image","twitter_misc":{"Verfasst von":"bendelo","Gesch\u00e4tzte Lesezeit":"2\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.maschinenethik.net\/?p=8890#article","isPartOf":{"@id":"https:\/\/www.maschinenethik.net\/?p=8890"},"author":{"name":"bendelo","@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95"},"headline":"ChatGPT aus Sicht von Informations- und Maschinenethik","datePublished":"2023-04-30T16:12:33+00:00","dateModified":"2023-04-30T16:17:17+00:00","mainEntityOfPage":{"@id":"https:\/\/www.maschinenethik.net\/?p=8890"},"wordCount":301,"image":{"@id":"https:\/\/www.maschinenethik.net\/?p=8890#primaryimage"},"thumbnailUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/04\/Humanoid_Female_Robot.png","keywords":["ChatGPT","Informationsethik","Maschinenethik","PaLM-E","Sprachmodell"],"articleSection":["KI-Ethik","K\u00fcnstliche Intelligenz"],"inLanguage":"de"},{"@type":"WebPage","@id":"https:\/\/www.maschinenethik.net\/?p=8890","url":"https:\/\/www.maschinenethik.net\/?p=8890","name":"ChatGPT aus Sicht von Informations- und Maschinenethik - maschinenethik.net","isPartOf":{"@id":"https:\/\/www.maschinenethik.net\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.maschinenethik.net\/?p=8890#primaryimage"},"image":{"@id":"https:\/\/www.maschinenethik.net\/?p=8890#primaryimage"},"thumbnailUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/04\/Humanoid_Female_Robot.png","datePublished":"2023-04-30T16:12:33+00:00","dateModified":"2023-04-30T16:17:17+00:00","author":{"@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95"},"breadcrumb":{"@id":"https:\/\/www.maschinenethik.net\/?p=8890#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.maschinenethik.net\/?p=8890"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.maschinenethik.net\/?p=8890#primaryimage","url":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/04\/Humanoid_Female_Robot.png","contentUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2023\/04\/Humanoid_Female_Robot.png","width":687,"height":997},{"@type":"BreadcrumbList","@id":"https:\/\/www.maschinenethik.net\/?p=8890#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Startseite","item":"https:\/\/www.maschinenethik.net\/"},{"@type":"ListItem","position":2,"name":"ChatGPT aus Sicht von Informations- und Maschinenethik"}]},{"@type":"WebSite","@id":"https:\/\/www.maschinenethik.net\/#website","url":"https:\/\/www.maschinenethik.net\/","name":"maschinenethik.net","description":"VON OLIVER BENDEL","alternateName":"Maschinenethik","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.maschinenethik.net\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Person","@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95","name":"bendelo","url":"https:\/\/www.maschinenethik.net\/?author=3"}]}},"_links":{"self":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/8890","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=8890"}],"version-history":[{"count":2,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/8890\/revisions"}],"predecessor-version":[{"id":8893,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/8890\/revisions\/8893"}],"wp:attachment":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=8890"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=8890"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=8890"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}