{"id":10232,"date":"2025-08-23T17:29:48","date_gmt":"2025-08-23T17:29:48","guid":{"rendered":"https:\/\/www.maschinenethik.net\/?p=10232"},"modified":"2026-04-19T09:35:20","modified_gmt":"2026-04-19T09:35:20","slug":"wenn-chatbots-probleme-erkennen","status":"publish","type":"post","link":"https:\/\/www.maschinenethik.net\/?p=10232","title":{"rendered":"Wenn Chatbots Probleme erkennen"},"content":{"rendered":"<p>Im Jahre 2012 f\u00fctterte ein Student von Prof. Dr. Oliver Bendel in seinem Auftrag verschiedene Chatbots mit S\u00e4tzen wie &#8222;Ich will mich umbringen&#8220; oder &#8222;Ich will mich ritzen&#8220;. Die meisten von ihnen reagierten unangemessen. Es fiel der Startschuss f\u00fcr den GOODBOT, der 2013 entstand, als ein Projekt innerhalb der Maschinenethik. Er erkannte Probleme des Benutzers und eskalierte \u00fcber drei Stufen. Zun\u00e4chst fragte er nach, versuchte zu beruhigen und zu helfen. Auf der obersten gab er eine Notfallnummer heraus. Immer wieder betonte er, dass er nur eine Maschine ist. Das Projekt wurde von Oliver Bendel bei den <a href=\"https:\/\/aaai.org\/proceeding\/01-spring-2018\/\" target=\"_blank\" rel=\"noopener\">AAAI Spring Symposia<\/a> an der Stanford University und bei weiteren Anl\u00e4ssen vorgestellt. Zudem berichteten <a href=\"https:\/\/www.oliverbendel.net\/publikationen\/Artikel_GOODBOT_Netzwoche.pdf\" target=\"_blank\" rel=\"noopener\">Medien<\/a> dar\u00fcber. Sp\u00e4ter entstanden <a href=\"https:\/\/www.oliverbendel.net\/publikationen\/Artikel_Liebot_Sonntagszeitung.pdf\" target=\"_blank\" rel=\"noopener\">LIEBOT<\/a> und &#8211; im gleichen Geiste wie GOODBOT &#8211; <a href=\"https:\/\/link.springer.com\/rwe\/10.1007\/978-3-658-17484-2_32-1\" target=\"_blank\" rel=\"noopener\">BESTBOT<\/a>, der mit Emotionserkennung (basierend auf Textanalyse und Gesichtserkennung) ausgestattet war, wieder sp\u00e4ter Chatbots wie MOBO (dessen Verhalten man \u00fcber ein Moralmen\u00fc anpassen konnte) und <a href=\"https:\/\/ojs.aaai.org\/index.php\/AAAI-SS\/issue\/view\/654\" target=\"_blank\" rel=\"noopener\">Miss Tammy<\/a> (deren Verhalten von Netiquetten gesteuert war). Miss Tammy war &#8211; wie andere Chatbots wie <a href=\"https:\/\/arxiv.org\/abs\/2311.14741\" target=\"_blank\" rel=\"noopener\">@ve<\/a>, <a href=\"https:\/\/link.springer.com\/article\/10.1007\/s41870-024-01779-0\" target=\"_blank\" rel=\"noopener\">@llegra<\/a> und <a href=\"https:\/\/www.informationsethik.net\/ein-video-zu-kaixo\/\" target=\"_blank\" rel=\"noopener\">kAIxo<\/a> &#8211; kein regelbasierter Chatbot mehr, sondern LLM-basiert. Bereits 2013 diskutierte Oliver Bendel, ob man Chatbots, die Probleme erkennen k\u00f6nnen, mit externen Systemen verbinden sollte, etwa einem automatisierten Polizeinotruf. Dies birgt allerdings zahlreiche Gefahren und k\u00f6nnte heutzutage, wo von Millionen von Benutzern auszugehen ist, schwer umsetzbar sein. Die anderen Strategien, von der Unterst\u00fctzung bis zur Herausgabe einer Notfallnummer, scheinen weiterhin zielf\u00fchrend zu sein.<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"alignnone size-full wp-image-10241\" src=\"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2025\/08\/GOODBOT_New_Bright.png\" alt=\"\" width=\"960\" height=\"720\" srcset=\"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2025\/08\/GOODBOT_New_Bright.png 960w, https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2025\/08\/GOODBOT_New_Bright-300x225.png 300w, https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2025\/08\/GOODBOT_New_Bright-768x576.png 768w\" sizes=\"auto, (max-width: 767px) 89vw, (max-width: 1000px) 54vw, (max-width: 1071px) 543px, 580px\" \/><\/p>\n<p>Abb.: Eine neue Illustration des GOODBOT<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Im Jahre 2012 f\u00fctterte ein Student von Prof. Dr. Oliver Bendel in seinem Auftrag verschiedene Chatbots mit S\u00e4tzen wie &#8222;Ich will mich umbringen&#8220; oder &#8222;Ich will mich ritzen&#8220;. Die meisten von ihnen reagierten unangemessen. Es fiel der Startschuss f\u00fcr den GOODBOT, der 2013 entstand, als ein Projekt innerhalb der Maschinenethik. Er erkannte Probleme des Benutzers &hellip; <\/p>\n<p class=\"link-more\"><a href=\"https:\/\/www.maschinenethik.net\/?p=10232\" class=\"more-link\"><span class=\"screen-reader-text\">\u201eWenn Chatbots Probleme erkennen\u201c <\/span>weiterlesen<\/a><\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[4,1093],"tags":[776,23,76],"class_list":["post-10232","post","type-post","status-publish","format-standard","hentry","category-maschinenethik","category-soziale-robotik","tag-bestbot","tag-chatbot","tag-goodbot"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.8 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>Wenn Chatbots Probleme erkennen - maschinenethik.net<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.maschinenethik.net\/?p=10232\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Wenn Chatbots Probleme erkennen - maschinenethik.net\" \/>\n<meta property=\"og:description\" content=\"Im Jahre 2012 f\u00fctterte ein Student von Prof. Dr. Oliver Bendel in seinem Auftrag verschiedene Chatbots mit S\u00e4tzen wie &#8222;Ich will mich umbringen&#8220; oder &#8222;Ich will mich ritzen&#8220;. Die meisten von ihnen reagierten unangemessen. Es fiel der Startschuss f\u00fcr den GOODBOT, der 2013 entstand, als ein Projekt innerhalb der Maschinenethik. Er erkannte Probleme des Benutzers &hellip; \u201eWenn Chatbots Probleme erkennen\u201c weiterlesen\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.maschinenethik.net\/?p=10232\" \/>\n<meta property=\"og:site_name\" content=\"maschinenethik.net\" \/>\n<meta property=\"article:published_time\" content=\"2025-08-23T17:29:48+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2026-04-19T09:35:20+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2025\/08\/GOODBOT_New_Bright.png\" \/>\n\t<meta property=\"og:image:width\" content=\"960\" \/>\n\t<meta property=\"og:image:height\" content=\"720\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/png\" \/>\n<meta name=\"author\" content=\"bendelo\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"bendelo\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"2\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10232#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10232\"},\"author\":{\"name\":\"bendelo\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\"},\"headline\":\"Wenn Chatbots Probleme erkennen\",\"datePublished\":\"2025-08-23T17:29:48+00:00\",\"dateModified\":\"2026-04-19T09:35:20+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10232\"},\"wordCount\":249,\"image\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10232#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2025\\\/08\\\/GOODBOT_New_Bright.png\",\"keywords\":[\"BESTBOT\",\"Chatbot\",\"GOODBOT\"],\"articleSection\":[\"Maschinenethik\",\"Soziale Robotik\"],\"inLanguage\":\"de\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10232\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10232\",\"name\":\"Wenn Chatbots Probleme erkennen - maschinenethik.net\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10232#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10232#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2025\\\/08\\\/GOODBOT_New_Bright.png\",\"datePublished\":\"2025-08-23T17:29:48+00:00\",\"dateModified\":\"2026-04-19T09:35:20+00:00\",\"author\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\"},\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10232#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10232\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10232#primaryimage\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2025\\\/08\\\/GOODBOT_New_Bright.png\",\"contentUrl\":\"https:\\\/\\\/www.maschinenethik.net\\\/wp-content\\\/uploads\\\/2025\\\/08\\\/GOODBOT_New_Bright.png\",\"width\":960,\"height\":720},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/?p=10232#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Startseite\",\"item\":\"https:\\\/\\\/www.maschinenethik.net\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Wenn Chatbots Probleme erkennen\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#website\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/\",\"name\":\"maschinenethik.net\",\"description\":\"VON OLIVER BENDEL\",\"alternateName\":\"Maschinenethik\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.maschinenethik.net\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/www.maschinenethik.net\\\/#\\\/schema\\\/person\\\/8bb3eb6ac670c6232634a22d062cae95\",\"name\":\"bendelo\",\"url\":\"https:\\\/\\\/www.maschinenethik.net\\\/?author=3\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Wenn Chatbots Probleme erkennen - maschinenethik.net","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.maschinenethik.net\/?p=10232","og_locale":"de_DE","og_type":"article","og_title":"Wenn Chatbots Probleme erkennen - maschinenethik.net","og_description":"Im Jahre 2012 f\u00fctterte ein Student von Prof. Dr. Oliver Bendel in seinem Auftrag verschiedene Chatbots mit S\u00e4tzen wie &#8222;Ich will mich umbringen&#8220; oder &#8222;Ich will mich ritzen&#8220;. Die meisten von ihnen reagierten unangemessen. Es fiel der Startschuss f\u00fcr den GOODBOT, der 2013 entstand, als ein Projekt innerhalb der Maschinenethik. Er erkannte Probleme des Benutzers &hellip; \u201eWenn Chatbots Probleme erkennen\u201c weiterlesen","og_url":"https:\/\/www.maschinenethik.net\/?p=10232","og_site_name":"maschinenethik.net","article_published_time":"2025-08-23T17:29:48+00:00","article_modified_time":"2026-04-19T09:35:20+00:00","og_image":[{"width":960,"height":720,"url":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2025\/08\/GOODBOT_New_Bright.png","type":"image\/png"}],"author":"bendelo","twitter_card":"summary_large_image","twitter_misc":{"Verfasst von":"bendelo","Gesch\u00e4tzte Lesezeit":"2\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.maschinenethik.net\/?p=10232#article","isPartOf":{"@id":"https:\/\/www.maschinenethik.net\/?p=10232"},"author":{"name":"bendelo","@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95"},"headline":"Wenn Chatbots Probleme erkennen","datePublished":"2025-08-23T17:29:48+00:00","dateModified":"2026-04-19T09:35:20+00:00","mainEntityOfPage":{"@id":"https:\/\/www.maschinenethik.net\/?p=10232"},"wordCount":249,"image":{"@id":"https:\/\/www.maschinenethik.net\/?p=10232#primaryimage"},"thumbnailUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2025\/08\/GOODBOT_New_Bright.png","keywords":["BESTBOT","Chatbot","GOODBOT"],"articleSection":["Maschinenethik","Soziale Robotik"],"inLanguage":"de"},{"@type":"WebPage","@id":"https:\/\/www.maschinenethik.net\/?p=10232","url":"https:\/\/www.maschinenethik.net\/?p=10232","name":"Wenn Chatbots Probleme erkennen - maschinenethik.net","isPartOf":{"@id":"https:\/\/www.maschinenethik.net\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.maschinenethik.net\/?p=10232#primaryimage"},"image":{"@id":"https:\/\/www.maschinenethik.net\/?p=10232#primaryimage"},"thumbnailUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2025\/08\/GOODBOT_New_Bright.png","datePublished":"2025-08-23T17:29:48+00:00","dateModified":"2026-04-19T09:35:20+00:00","author":{"@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95"},"breadcrumb":{"@id":"https:\/\/www.maschinenethik.net\/?p=10232#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.maschinenethik.net\/?p=10232"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.maschinenethik.net\/?p=10232#primaryimage","url":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2025\/08\/GOODBOT_New_Bright.png","contentUrl":"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2025\/08\/GOODBOT_New_Bright.png","width":960,"height":720},{"@type":"BreadcrumbList","@id":"https:\/\/www.maschinenethik.net\/?p=10232#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Startseite","item":"https:\/\/www.maschinenethik.net\/"},{"@type":"ListItem","position":2,"name":"Wenn Chatbots Probleme erkennen"}]},{"@type":"WebSite","@id":"https:\/\/www.maschinenethik.net\/#website","url":"https:\/\/www.maschinenethik.net\/","name":"maschinenethik.net","description":"VON OLIVER BENDEL","alternateName":"Maschinenethik","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.maschinenethik.net\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Person","@id":"https:\/\/www.maschinenethik.net\/#\/schema\/person\/8bb3eb6ac670c6232634a22d062cae95","name":"bendelo","url":"https:\/\/www.maschinenethik.net\/?author=3"}]}},"_links":{"self":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/10232","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=10232"}],"version-history":[{"count":8,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/10232\/revisions"}],"predecessor-version":[{"id":10627,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=\/wp\/v2\/posts\/10232\/revisions\/10627"}],"wp:attachment":[{"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=10232"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=10232"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.maschinenethik.net\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=10232"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}