[중국 병원 AI 호외 9/12] 환각 블랙박스 의사의 불안

김경진 변호사의 책 『중국 병원에는 인공지능이 얼마나 들어왔나』 제9장을 바탕으로 만든 중국 AI 브리핑 호외입니다. 병원 정보과 화면에는 이제 대형모델이 만든 문장이 하나 더 떠 있습니다. 진단 보조 문구, 퇴원 요약 초안, 환자에게 보낼 안내문까지 AI가 먼저 씁니다. 그런데 그 문장이 늘 맞는 것은 아닙니다. 존재하지 않는 논문을 인용하거나 있지도 않은 검사 수치를 그럴듯하게 적어 넣는 일이 벌어집니다. 의료 현장에서는 이런 현상을