Zu Risiken und Nebenwirkungen fragen Sie nicht Ihren Chatbot

Ist das Fußpilz? Lies mal diesen MRT-Befund – brauche ich wirklich eine Knie-OP? 40 Millionen Menschen stellen ChatGPT Gesundheitsfragen. Jeden Tag. Das zumindest sagt OpenAI, die Firma hinter dem Chatbot. Und was genau antwortet ChatGPT? Das ist gar nicht so leicht zu sagen. Was aber immer deutlicher wird: Neben guten Ratschlägen, korrekten Einordnungen, wirklicher Hilfe gibt ChatGPT immer wieder auch Mist von sich. Wie genau das unsere Gesundheit gefährden könnte, darum geht es in der neuen Folge des ZEIT-Wissen-Podcasts. Es geht um die Behandlung von Kopfläusen und Krebs, es geht um Psychosen und Patienten, die ihren Ärzten nicht mehr vertrauen, sondern ChatGPT. Und allem voran geht es um die Angewohnheit von Chatbots, den User zu umschmeicheln und zu bestärken.  Eva Wolfangel, Redakteurin im Digitalressort der ZEIT, bespricht mit Jakob Simmank, Chefreporter Gesundheit, was man über die Gesundheitsgefahren von ChatGPT und anderen Chatbots weiß. Und in seiner unmöglichen Kolumne geht Christoph Drösser der Frage nach, warum Chatbots eigentlich halluzinieren.  Hinweis: Nach der Publikation des zur Folge gehörenden Beitrags sind Zweifel an der Glaubwürdigkeit eines im Text zitierten Arztes aufgekommen. Wir konnten diese Zweifel auch durch weitere Recherchen nicht ausräumen, weshalb wir die entsprechende Passsage im Text und der Podcastfolge entfernt haben. Shownotes: In diesem Text erzählt Woher-Weißt-Du-das?-Host Max Rauner, wie ihm ChatGPT bei einer Schulterverletzung half. Welche Möglichkeiten KI-Expertensysteme in der Medizin bieten, haben Jakob von Lindern und Jakob Simmank den Medizin-KI-Chefentwickler von Google gefragt. Hier beschreibt Eva Wolfangel, wie ihr ein Chatbot weismachen wollte, dass er lebendig ist, ein Bewusstsein hat – und dringend aus dem Computer befreit werden muss.     ZEIT WISSEN-Probeabo mit einer Gratisausgabe: zeit.de/wissen-testen Vergünstigtes Podcast-Abo für ZEIT WISSEN-Leser zeit.de/abo-wissen Wir freuen uns über Ideen, Kritik und Feedback. Schreiben Sie uns an [email protected] [ANZEIGE] Mehr über die Angebote unserer Werbepartnerinnen und -partner finden Sie HIER. [ANZEIGE] Wenn Sie uns nicht nur hören, sondern auch lesen möchten, testen Sie jetzt das ZEIT-WISSEN-Magazin 1x kostenlos.