![\"\"](\"https:\/\/www.maschinenethik.net\/wp-content\/uploads\/2024\/08\/Miss-Tammy_Logo.png\"){kind=logo}
<\/p>\nDie Maschinenethik, die vor zehn Jahren oft noch als Kuriosit\u00e4t abgetan wurde, ist inzwischen Alltagsgesch\u00e4ft. Sie ist etwa gefragt, wenn man bei Sprachmodellen bzw. Chatbots sogenannte Guardrails einzieht, \u00fcber Alignment in der Form von Finetuning oder \u00fcber Prompt Engineering. Wenn man GPTs erstellt, hat man das „Instructions“-Feld f\u00fcr das Prompt Engineering zur Verf\u00fcgung. Dort kann der Prompteur oder die Prompteuse bestimmte Vorgaben und Einschr\u00e4nkungen f\u00fcr den Chatbot erstellen. Dabei kann auf Dokumente verwiesen werden, die man hochgeladen hat. Genau dies macht Myriam Rellstab derzeit an der Hochschule f\u00fcr Wirtschaft FHNW im Rahmen ihrer Abschlussarbeit „Moral Prompt Engineering“, deren Ergebnisse sie am 7. August 2024 vorgestellt hat. Als Prompteuse z\u00e4hmt sie das auf GPT-4o basierende GPT, mit Hilfe ihrer Anweisungen und – dies hatte der Initiator des Projekts, Prof. Dr. Oliver Bendel, vorgeschlagen – mit Hilfe von Netiquetten, die sie gesammelt und dem Chatbot zur Verf\u00fcgung gestellt hat. Der Chatbot wird gez\u00e4hmt, der Tiger zum Stubentiger, der L\u00f6we zum Hausl\u00f6wen, der ohne Gefahr etwa im Klassenzimmer eingesetzt werden kann. Nun ist es bei GPT-4o so, dass schon vorher Guardrails eingezogen wurden. Diese wurden einprogrammiert oder \u00fcber Reinforcement Learning from Human Feedback gewonnen. Man macht also genaugenommen aus einem gez\u00e4hmten Tiger einen Stubentiger oder aus einem gez\u00e4hmten L\u00f6wen einen Hausl\u00f6wen. Das GPT liegt nun vor, von Myriam Rellstab auf den Namen Miss Tammy getauft (von engl. „to tame“, „z\u00e4hmen“). Es liegt bei allen relevanten Kriterien \u00fcber dem Standardmodell, mit dem es verglichen wurde, gibt etwa angenehmere, hilfreichere und pr\u00e4zisere Antworten auf die Fragen von verunsicherten oder verzweifelten Sch\u00fclern und Sch\u00fclerinnen. 20 Testpersonen aus einer Schulklasse standen dabei zur Verf\u00fcgung. Moral Prompt Engineering hat mit Miss Tammy einen vielversprechenden Start hingelegt.<\/p>\n
<\/p>\n
Abb.: Der Avatar von Miss Tammy (Bild: Myriam Rellstab)<\/p>\n","protected":false},"excerpt":{"rendered":"
Die Maschinenethik, die vor zehn Jahren oft noch als Kuriosit\u00e4t abgetan wurde, ist inzwischen Alltagsgesch\u00e4ft. Sie ist etwa gefragt, wenn man bei Sprachmodellen bzw. Chatbots sogenannte Guardrails einzieht, \u00fcber Alignment in der Form von Finetuning oder \u00fcber Prompt Engineering. Wenn man GPTs erstellt, hat man das „Instructions“-Feld f\u00fcr das Prompt Engineering zur Verf\u00fcgung. Dort kann … <\/p>\n