EPISODE · Jun 22, 2026 · 6 MIN
Der Arzt wird zum Auditor der KI
from KI Espresso
Der Arzt wird zum Auditor der KI ⏰ Timestamps: 0:00 — Mehr als 1.000 KI-Medizingeräte sind durch FDA-Verfahren autorisiert. 0:23 — Genau, als intelligenter Vorfilter. 0:56 — Naja, stell dir vor, du fährst nachts stundenlang mit einem Navigationssystem. 1:39 — für fehleranfällige Software. 2:04 — Das prüfende Subjekt bleibt der Facharzt, der nur er besitzt den gesamten 2:30 — Die EU stuft medizinische KI nicht ohne Grund als Hochrisikosystem ein. 2:58 — Das ist ein zentraler Punkt, absolut. 3:32 — Wenn der Arzt keine Drift-Logs einsehen kann, also ein Protokoll darüber,... 3:53 — Aber genau für dieses Problem des Drifts hat die FDA Mechanismen, 4:16 — Leitplanken quasi. Exakt. 4:46 — In der Theorie klingt das super. 5:17 — In vielen Systemen hat der Arzt nicht einmal einen klaren Override-Pfad, 5:42 — Das ist der ultimative Praxistest für jede Klinik, die sich heute solche... 6:12 — Wie sieht der Override-Pfad aus, wenn ich als Arzt widerspreche? 💡 3 Gedanken: 1. Der positive Fall ist real: In engen Workflows kann KI Routine entlasten und fruehere Hinweise liefern. 2. Human in the loop ist nur real, wenn der Arzt Validierung, Unsicherheit, Drift und Update-Historie sehen kann. 3. Der harte Test lautet: Gibt es einen Override-Pfad, eine Patientenerklaerung und eine klare Haftungskette? 📖 Quellen: • [1] https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-enabled-medical-devices • [2] https://www.fda.gov/news-events/press-announcements/fda-issues-comprehensive-draft-guidance-developers-artificial-intelligence-enabled-medical-devices • [3] https://www.fda.gov/regulatory-information/search-fda-guidance-documents/marketing-submission-recommendations-predetermined-change-control-plan-artificial-intelligence • [4] https://www.fda.gov/medical-devices/digital-health-center-excellence/request-public-comment-measuring-and-evaluating-artificial-intelligence-enabled-medical-device • [5] https://health.ec.europa.eu/ehealth-digital-health-and-care/artificial-intelligence-healthcare_en • [6] https://www.who.int/news/item/18-01-2024-who-releases-ai-ethics-and-governance-guidance-for-large-multi-modal-models • [7] https://www.eurekalert.org/news-releases/1114399 • [8] https://portal.research.lu.se/en/publications/artificial-intelligence-supported-screen-reading-versus-standard- 🎙️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten. 🎧 Podcast hören: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #MedizinKI #EUAIACT #FDA
Embed this episode
What this episode covers
Der Arzt wird zum Auditor der KI ⏰ Timestamps: 0:00 — Mehr als 1.000 KI-Medizingeräte sind durch FDA-Verfahren autorisiert. 0:23 — Genau, als intelligenter Vorfilter. 0:56 — Naja, stell dir vor, du fährst nachts stundenlang mit einem Navigationssystem. 1:39 — für fehleranfällige Software. 2:04 — Das prüfende Subjekt bleibt der Facharzt, der nur er besitzt den gesamten 2:30 — Die EU stuft medizinische KI nicht ohne Grund als Hochrisikosystem ein. 2:58 — Das ist ein zentraler Punkt, absolut. 3...
Ready to play
Der Arzt wird zum Auditor der KI
No transcript for this episode yet
Similar Episodes
No similar episodes found.