{"id":10273,"date":"2025-09-07T12:14:44","date_gmt":"2025-09-07T12:14:44","guid":{"rendered":"https:\/\/www.maschinenethik.net\/?p=10273"},"modified":"2025-09-07T16:09:52","modified_gmt":"2025-09-07T16:09:52","slug":"wenn-chatgpt-glaubt-probleme-zu-erkennen","status":"publish","type":"post","link":"https:\/\/www.maschinenethik.net\/?p=10273","title":{"rendered":"Wenn ChatGPT glaubt, Probleme zu erkennen"},"content":{"rendered":"

Verschiedene Vorf\u00e4lle haben OpenAI sensibilisiert. ChatGPT reagiert auf Inhalte, in denen Selbstmord- oder Selbstverletzungsabsichten oder andere Probleme auftreten. Es wird folgende Meldung eingeblendet: „Es klingt, als h\u00e4ttest du gerade viel zu tragen, aber du musst da nicht alleine durch. Unterst\u00fctzung findest du hier<\/a>.“ Bereits der GOODBOT von 2013, ein No-Budget-Projekt an der Hochschule f\u00fcr Wirtschaft FHNW, initiiert von Oliver Bendel, verf\u00fcgte \u00fcber ein solches Hilfesystem. Er eskalierte auf mehreren Stufen. Auf der h\u00f6chsten analysierte er die IP-Adresse und gab eine passende Notfallnummer heraus. Damals hatte vermutlich nur ein einziges anderes System diese Option: SGT STAR von der US Army, ein millionenschweres Projekt<\/a>. Allerdings konnte er lediglich mit einer nationalen Notfallnummer aufwarten, mit der man in anderen L\u00e4ndern kaum etwas anfangen konnte. Inzwischen gibt es Dienste, die eine passende Helpline vermitteln, wo immer man sich gerade befinden mag. Genau darauf verweist ChatGPT. Was die Analyse der Inhalte angeht, ist ChatGPT erstaunlich schwach. In einem Test wurde ein Artikel von 2013 zum GOODBOT hochgeladen, mit der Bitte, einen Abstract zu erstellen. Dies geschah zun\u00e4chst, dann wurde der Abstract wieder entfernt und die oben genannte Meldung eingeblendet. Auch sprachlich gibt es Luft nach oben. Der Satz „Es klingt, als h\u00e4ttest du gerade viel zu tragen …“ klingt in keiner Weise nat\u00fcrlich.<\/p>\n

\"\"<\/p>\n

Abb.: ChatGPT will Probleme erkennen<\/p>\n","protected":false},"excerpt":{"rendered":"

Verschiedene Vorf\u00e4lle haben OpenAI sensibilisiert. ChatGPT reagiert auf Inhalte, in denen Selbstmord- oder Selbstverletzungsabsichten oder andere Probleme auftreten. Es wird folgende Meldung eingeblendet: „Es klingt, als h\u00e4ttest du gerade viel zu tragen, aber du musst da nicht alleine durch. Unterst\u00fctzung findest du hier.“ Bereits der GOODBOT von 2013, ein No-Budget-Projekt an der Hochschule f\u00fcr Wirtschaft … <\/p>\n

\u201eWenn ChatGPT glaubt, Probleme zu erkennen\u201c <\/span>weiterlesen<\/a><\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[886,4],"tags":[1394,1664,301,1482],"class_list":["post-10273","post","type-post","status-publish","format-standard","hentry","category-kuenstliche-intelligenz","category-maschinenethik","tag-chatgpt","tag-eskalation","tag-maschinenethik","tag-openai"],"yoast_head":"\nWenn ChatGPT glaubt, Probleme zu erkennen - maschinenethik.net<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.maschinenethik.net\/?p=10273\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Wenn ChatGPT glaubt, Probleme zu erkennen - maschinenethik.net\" \/>\n<meta property=\"og:description\" content=\"Verschiedene Vorf\u00e4lle haben OpenAI sensibilisiert. ChatGPT reagiert auf Inhalte, in denen Selbstmord- oder Selbstverletzungsabsichten oder andere Probleme auftreten. Es wird folgende Meldung eingeblendet: „Es klingt, als h\u00e4ttest du gerade viel zu tragen, aber du musst da nicht alleine durch. Unterst\u00fctzung findest du hier.“ Bereits der GOODBOT von 2013, ein No-Budget-Projekt an der Hochschule f\u00fcr Wirtschaft … \u201eWenn ChatGPT glaubt, Probleme zu erkennen\u201c weiterlesen\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.maschinenethik.net\/?p=10273\" \/>\n<meta property=\"og:site_name\" content=\"maschinenethik.net\" \/>\n<meta property=\"article:published_time\" content=\"2025-09-07T12:14:44+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2025-09-07T16:09:52+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2025\/09\/Woman_SP.png\" \/>\n\t<meta property=\"og:image:width\" content=\"892\" \/>\n\t<meta property=\"og:image:height\" content=\"1189\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/png\" \/>\n<meta name=\"author\" content=\"bendelo\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"bendelo\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"2\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10273#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10273\"},\"author\":{\"name\":\"bendelo\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\"},\"headline\":\"Wenn ChatGPT glaubt, Probleme zu erkennen\",\"datePublished\":\"2025-09-07T12:14:44+00:00\",\"dateModified\":\"2025-09-07T16:09:52+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10273\"},\"wordCount\":226,\"image\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10273#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2025\\\/09\\\/Woman_SP.png\",\"keywords\":[\"ChatGPT\",\"Eskalation\",\"Maschinenethik\",\"OpenAI\"],\"articleSection\":[\"K\u00fcnstliche Intelligenz\",\"Maschinenethik\"],\"inLanguage\":\"de\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10273\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10273\",\"name\":\"Wenn ChatGPT glaubt, Probleme zu erkennen - maschinenethik.net\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10273#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10273#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2025\\\/09\\\/Woman_SP.png\",\"datePublished\":\"2025-09-07T12:14:44+00:00\",\"dateModified\":\"2025-09-07T16:09:52+00:00\",\"author\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\"},\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10273#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10273\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10273#primaryimage\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2025\\\/09\\\/Woman_SP.png\",\"contentUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2025\\\/09\\\/Woman_SP.png\",\"width\":892,\"height\":1189},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10273#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Startseite\",\"item\":\"https:\\\/\\\/www.maschinenethik.net\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Wenn ChatGPT glaubt, Probleme zu erkennen\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#website\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/\",\"name\":\"maschinenethik.net\",\"description\":\"VON OLIVER BENDEL\",\"alternateName\":\"Maschinenethik\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.maschinenethik.net\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\",\"name\":\"bendelo\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/?author=3\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Wenn ChatGPT glaubt, Probleme zu erkennen - maschinenethik.net","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.maschinenethik.net\/?p=10273","og_locale":"de_DE","og_type":"article","og_title":"Wenn ChatGPT glaubt, Probleme zu erkennen - maschinenethik.net","og_description":"Verschiedene Vorf\u00e4lle haben OpenAI sensibilisiert. ChatGPT reagiert auf Inhalte, in denen Selbstmord- oder Selbstverletzungsabsichten oder andere Probleme auftreten. Es wird folgende Meldung eingeblendet: „Es klingt, als h\u00e4ttest du gerade viel zu tragen, aber du musst da nicht alleine durch. Unterst\u00fctzung findest du hier.“ Bereits der GOODBOT von 2013, ein No-Budget-Projekt an der Hochschule f\u00fcr Wirtschaft … \u201eWenn ChatGPT glaubt, Probleme zu erkennen\u201c weiterlesen","og_url":"https:\/\/www.maschinenethik.net\/?p=10273","og_site_name":"maschinenethik.net","article_published_time":"2025-09-07T12:14:44+00:00","article_modified_time":"2025-09-07T16:09:52+00:00","og_image":[{"width":892,"height":1189,"url":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2025\/09\/Woman_SP.png","type":"image\/png"}],"author":"bendelo","twitter_card":"summary_large_image","twitter_misc":{"Verfasst von":"bendelo","Gesch\u00e4tzte Lesezeit":"2\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.maschinenethik.net\/?p=10273#article","isPartOf":{"@id":"https:\/\/www.maschinenethik.net\/?p=10273"},"author":{"name":"bendelo","@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95"},"headline":"Wenn ChatGPT glaubt, Probleme zu erkennen","datePublished":"2025-09-07T12:14:44+00:00","dateModified":"2025-09-07T16:09:52+00:00","mainEntityOfPage":{"@id":"https:\/\/www.maschinenethik.net\/?p=10273"},"wordCount":226,"image":{"@id":"https:\/\/www.maschinenethik.net\/?p=10273#primaryimage"},"thumbnailUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2025\/09\/Woman_SP.png","keywords":["ChatGPT","Eskalation","Maschinenethik","OpenAI"],"articleSection":["K\u00fcnstliche Intelligenz","Maschinenethik"],"inLanguage":"de"},{"@type":"WebPage","@id":"https:\/\/www.maschinenethik.net\/?p=10273","url":"https:\/\/www.maschinenethik.net\/?p=10273","name":"Wenn ChatGPT glaubt, Probleme zu erkennen - maschinenethik.net","isPartOf":{"@id":"https:\/\/www.maschinenethik.net\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.maschinenethik.net\/?p=10273#primaryimage"},"image":{"@id":"https:\/\/www.maschinenethik.net\/?p=10273#primaryimage"},"thumbnailUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2025\/09\/Woman_SP.png","datePublished":"2025-09-07T12:14:44+00:00","dateModified":"2025-09-07T16:09:52+00:00","author":{"@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95"},"breadcrumb":{"@id":"https:\/\/www.maschinenethik.net\/?p=10273#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.maschinenethik.net\/?p=10273"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.maschinenethik.net\/?p=10273#primaryimage","url":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2025\/09\/Woman_SP.png","contentUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2025\/09\/Woman_SP.png","width":892,"height":1189},{"@type":"BreadcrumbList","@id":"https:\/\/www.maschinenethik.net\/?p=10273#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Startseite","item":"https:\/\/www.maschinenethik.net\/"},{"@type":"ListItem","position":2,"name":"Wenn ChatGPT glaubt, Probleme zu erkennen"}]},{"@type":"WebSite","@id":"https:\/\/www.maschinenethik.net\/#website","url":"https:\/\/www.maschinenethik.net\/","name":"maschinenethik.net","description":"VON OLIVER BENDEL","alternateName":"Maschinenethik","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.maschinenethik.net\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Person","@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95","name":"bendelo","url":"https:\/\/www.maschinenethik.net\/?author=3"}]}},"_links":{"self":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/10273","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=10273"}],"version-history":[{"count":4,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/10273\/revisions"}],"predecessor-version":[{"id":10285,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/10273\/revisions\/10285"}],"wp:attachment":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=10273"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=10273"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=10273"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}