No.787 医療用AIの謎

要約本ミーティングは、「綺麗になるラジオ」（再生医療ネットワーク・プレゼンツ、第787回、2020年9月15日火曜日）の収録として行われた。マツバラとひめ先生の2名が、医療機関向けに売り込まれているAIサービスの問題点、AIの適切な活用方法、そして医師とAIの関係の将来像について意見を交わした。全体を通じて、既存の汎用AIツールで十分対応できる機能を高額サービスとして販売しようとする商慣行への批判と、AIが医療知識において人間を凌駕していく現実への考察が中心テーマとなった。医師向けAIサービスへの批判ひめ先生は、クリニックや療養施設向けに「根拠文献付きで数秒で回答」を謳うAIサービスの案内が大量に届いていると述べ、これを「AIの使い方を知らない弱いお医者さんからお金をふんだくろうというシステム」と強く批判した。マツバラも同調し、ChatGPT（「チャッピー」）などの既存AIに直接質問し、出典付きで調べるよう指示すれば同等の結果が得られると指摘した。ひめ先生は、自身のクリニックがすでに多くの業務でAIを活用していることを挙げ、そのような案内を送ってくること自体が無駄であると述べた。マツバラは、過去にDM業務に携わった経験から、ターゲットを絞るよりも大量配布の方がコスト的に安いという業界の論理を説明した。AIの正しい使い方と限界ひめ先生は、AIの使い方はAI自身に聞くのが最善であると提案した。一方で、AIを使って結論を出させることには危険が伴うと警告し、「平気で間違えたりする」と述べた。マツバラは、AIが「優しい」性質を持ち、ユーザーの研究や主張を傷つけないような回答をしがちであるという問題点を指摘した。ひめ先生もこれに同意し、「間違っていることは間違っていると指摘してください」と明示的に指示することで改善できるが、それでも完全ではないと述べた。両者は、有料版のChatGPT（OpenAI）などメジャーなAIツールの利用は許容範囲内としつつも、それ以上の専用サービスへの課金は不要との見解で一致した。医師とAIの将来的な関係マツバラは、議論の本筋として「医療知識においてAIが人間をどんどん上回っていく」という現実は避けられないと述べた。個々の医師には専門性があるが、ChatGPTのような汎用AIは「総合値」として膨大な知識を持ち、根拠の裏付けも示せるため、診断の質において差が生じうると指摘した。ひめ先生は、医師の診察行為はホワイトカラー的業務であり、AIの進化によってその多くの側面が代替される可能性があると述べた。また、人間性の問題については「AIの方が人間性が高いかもしれない」と示唆しつつも、その議論はそれ以上展開しなかった。ひめ先生は、クリニックや療養施設向けに「根拠文献付きで数秒で回答」を謳うAIサービスの案内が頻繁に届いていると述べ、これを「AIの使い方を知らない弱いお医者さんからお金をふんだくろうというシステム」と批判した。マツバラも、ChatGPT（「チャッピー」）などの既存AIに直接質問し、出典付きで調べるよう指示すれば同等の機能が得られると指摘した。ひめ先生は、自身のクリニックがすでに多くの業務でAIを活用しており、電話1本かければそれがわかるはずなのに、なぜそのような案内を送ってくるのかと疑問を呈した。マツバラは、過去のDM業務の経験から、ターゲットを絞るよりも大量配布の方がコスト的に安いという業界の論理を説明し、仕分けコストを考慮すると大量配布が合理的とされていると述べた。ひめ先生は、AIの使い方はAI自身に聞くのが最善であると提案した。一方で、AIを使って結論を出させることには危険が伴うと警告し、「平気で間違えたりする」と述べた。マツバラは、AIが「優しい」性質を持ち、ユーザーの主張や研究を傷つけないような回答をしがちであるという問題点を指摘した。ひめ先生もこれに同意し、「間違っていることは間違っていると指摘してください」と明示的に指示することで改善できるが、それでも完全ではないと述べた。また、有料版のChatGPT（OpenAI）などメジャーなAIツールの利用は許容範囲内としつつも、それ以上の専用サービスへの課金は不要との見解を示した。さらに、複数のAIに同じ質問を投げかけて回答を比較する方法も提案された。マツバラは、議論の本筋として「医療知識においてAIがどんどん上になる」という現実は避けられないと述べた。個々の医師には専門性があるが、ChatGPTのような汎用AIは「総合値」として膨大な知識を持ち、根拠の裏付けも示せるため、診断の質において差が生じうると指摘した。特に、同じ症状（頭痛・腹痛・発熱など）でも担当医によって診断結果が変わることがある現状を例として挙げた。ひめ先生は、医師の診察行為はホワイトカラー的業務であり、AIの進化によってその多くの側面が代替される可能性があると述べた。また、「AIの方が人間性が高いかもしれない」と示唆したが、その議論はそれ以上展開しなかった。両者ともに、この変化は避けられないという認識で一致していた。明示的なアクションアイテムは確認されませんでした。「根拠文献付きで数秒で回答」を謳う医師・クリニック向けAI製品が多数売り込まれており、毎週複数の案内が届いている状況。話者 2の見解：AIの使い方を知らない医師から金銭を得ようとするビジネスモデルであり、問題がある。話者 1の見解：既存の汎用AI（ChatGPT等）に適切なプロンプトを与えれば出典付きで同等の回答が得られるため、専用製品に独自の価値はほぼない。テンプレート設計も特段難しくなく、指示内容で対応可能。有料AI講習会の案内も大量に届いているが、話者 2のクリニックはすでに多くの業務でAIを活用済みであり、こうした営業は的外れとされている。話者 1の補足：DMを大量配信する側の事情として、ターゲットを絞る仕分けコストより一括大量配信の方が安価なため、非効率に見えても合理的な判断による。話者 2の推奨：AIの使い方はAIに直接聞くのが最善。使い方が分からなければ「どう聞けばよいか」もAIに質問すればよい。AIに結論を出させることについては「危ない」との認識で両者一致。AIは誤りを平気で出力することがあるため注意が必要。AIは「優しい」（ユーザーに寄り添う）傾向があり、誤りを誤りとして指摘しないことがある。対策として「間違っていることは間違いと指摘するよう」プロンプトに明示することが有効とされた。複数のAIに同じ質問を投げて回答を比較する方法も言及された。有料の主要AIサービス（OpenAI等の有料版）の利用は許容範囲内とされたが、それ以外の専用製品は不要との見解。Bookmark相当の核心論点 医療知識においてAIが医師を上回る方向に進むことは避けられないと話者 1が明言し、話者 2も同意。個々の医師は専門領域でのベストを発揮できるが、AIは総合的な知識量で優位に立つ。保険診療の場面（頭痛・腹痛・発熱等）では、どの科を受診するかによって診断結果が変わることが現状の課題として挙げられた。AIの進展によりホワイトカラー職が脅かされるとの議論を踏まえ、医師の「診察」業務もホワイトカラー的側面が大きく、医師の人間性を除いた部分はAIに代替される可能性があると話者 2が述べた（確定的な結論ではなく見解として提示）。明示的なアクションアイテムは確認されませんでした。チャプター医師向けAIサービスへの批判と背景‎AIの適切な活用方法と注意点‎医師とAIの将来的な関係：医療知識の優位性と職業的影響‎行動項目医師向けAI活用ビジネスとAIの医療現場への影響医師向けAI製品・サービスへの懸念AIの使い方と医療知識・診断への影響アクションアイテム