Diagnose: Automation Bias – Die unsichtbare Gefahr, die jeden Befund beeinflusst

Automation Bias. Ein Begriff, den viele noch nie gehört haben – und der trotzdem längst Teil unseres klinischen Alltags ist.Denn jedes Mal, wenn ein KI-System eine Empfehlung abgibt, passiert etwas ganz Menschliches:Wir neigen dazu, ihr zu folgen. Selbst dann, wenn unser eigener Blick etwas anderes sagt. Nicht aus Bequemlichkeit. Nicht aus Inkompetenz.Sondern weil unser Gehirn unter Druck genau so funktioniert.In dieser Folge von “Radiologie: Klartext” geht es um genau dieses Phänomen – und warum es weit mehr ist als ein theoretisches Risiko.Ich spreche über eine Studie, die wir selbst durchgeführt haben. Über Radiologinnen und Radiologen mit bis zu 15 Jahren Erfahrung, die systematisch falschen KI-Vorschlägen gefolgt sind. Und über eine Fehlerart, bei der Erfahrung plötzlich kaum noch schützt.Aber es geht nicht nur um Zahlen.Es geht um Vertrauen.Um Verantwortung.Und um die unbequeme Frage: Was passiert mit uns als Fach, wenn wir anfangen, dem System mehr zu glauben als uns selbst?Kapitel:00:00 Warum ich damals auf der Bühne angegangen wurde01:19 Was Automation Bias wirklich ist02:57 Die Studie – und was sie zeigt04:25 Der gefährlichste Fehler05:10 Warum unser Gehirn so reagiert07:27 KI hilft – aber du lernst nichts08:19 Wenn KI falsch liegt09:40 Wer haftet eigentlich?11:21 Wie du mit KI arbeiten solltest12:40 Das eigentliche Problem: Deskilling13:48 Wohin sich die Radiologie entwickelt🔗 Die Publikation zu Automation Bias, an der ich mitgewirkt habe: https://pubs.rsna.org/doi/10.1148/radiol.222176🔗 Links zu den anderen erwähnten Publikationen:Automation Bias Mosier KL, Skitka LJ. Human decision makers and automated decision aids: Made for each other? In: Parasuraman R, Mouloua M (Eds.), Automation and Human Performance. Erlbaum, 1996: 201–220.Mosier KL, Skitka LJ, Heers S, Burdick M. Automation bias: Decision making and performance in high-tech cockpits. Int J Aviat Psychol 1998; 8(1): 47–63.Chassagnon G et al. Can incorrect artificial intelligence (AI) results impact radiologists, and if so, what can we do about it? A multi-reader pilot study of lung cancer detection with chest radiography. European Radiology 2023. DOI: 10.1007/s00330-023-09747-1Bernstein MH et al. Can incorrect artificial intelligence (AI) results impact radiologists, and if so, what can we do about it? A multi-reader pilot study of lung cancer detection with chest radiography. European Radiology 2023. DOI: 10.1007/s00330-023-09747-1Rezazade Mehrizi MH et al. The impact of AI suggestions on radiologists' decisions: a pilot study of explainability and attitudinal priming interventions in mammography examination. Scientific Reports 2023. DOI: 10.1038/s41598-023-36435-3Bernstein MH et al. Randomized Study of the Impact of AI on Perceived Legal Liability for Radiologists. NEJM AI 2024/2025. DOI: 10.1056/AIoa2400785Bundesärztekammer. Stellungnahme „Künstliche Intelligenz in der Medizin." 2025. Verfügbar unter: bundesaerztekammer.deMehr Infos & Kurse auf meiner Lernplattform:🌐 www.lernrad.com📩 Für Anfragen: [email protected]⸻#RadiologieKlartext #Radiologie #AutomationBias #KIinderMedizin #Medizin #Weiterbildung #Radiologe #KünstlicheIntelligenz #Diagnostik #Patientensicherheit #Gesundheitssystem #Radiology #Podcast