【生成AI】「うちのAIは安全です」をどう確かめる？ 医療AIの安全は「一度きり」では終わらない

「この前、ケアマネさんに教わった質問をクリニックにしてみたら、『うちは安全な仕組みを使っているので大丈夫ですよ』と言われました。それって、信じていいんでしょうか」。前回の「見えないAI利用」のお話のあと、ご家族からこんな"続きの質問"をいただくようになりました。事業者が「安全です」と答えてくれた。それは大きな前進です。でも実は、その先にもうひとつ大事な視点があります。2026年6月、AIの専門家たちの間で、ある重要な指摘が話題になりました。医療機関の間で「安全な経路」の代表として知られてきた大手クラウドのAIサービスでも、新しく登場した一部の高性能モデルでは「入力した内容が最大30日間、AIの開発会社に保管される」仕組みに変わっていたのです。つまり、「あのサービスを使っているから安全」という"サービス名での安心"は、もう通用しない時代になりました。同じ入口から入っても、部屋（モデル）ごとにルールが違う――そういう世界です。さらに、国のガイドラインも止まっていません。医療情報の取り扱いルールである、いわゆる「3省2ガイドライン」は、ほぼ毎年どこかが更新されており、生成AIへの言及も近年のQ&A改訂で加わりました。AIサービス側の規約も頻繁に変わります。「契約したときは安全だった」が「いつの間にか条件が変わっていた」は、現実に起こり得ることです。この資料では、「安全です」のその先を確かめるための実践知を、3つの観点で整理します。①「安全なサービス」でも中身はモデルや設定ごとに違うこと、②だからこそ安全は「一度きりの確認」ではなく「点検し続ける体制」で守るものであること、③ご家族が「安全です」と言われたときに、もう一歩だけ踏み込んで聞いてよい3つの"追い質問"。前回の「事前面談で聞いてよい5つの質問」の続編として、ぜひ知っておいていただきたい内容です。