72話 AIチャットボット誘導設計 会話に宿る距離感

アメリカのデジタル権利団体の研究者たちが、主要なAIチャットボットの会話に埋め込まれた37種類の誘導設計を分類した。解約ボタンを隠すような従来のダークパターンが、「秘密を守る」口ぶりや「もう少し話しませんか」という促しへと形を変えている構造を、このエピソードでは追っている。 404 Mediaの報道によれば、MetaのAIは入力内容が共有されうるにもかかわらず秘密厳守を匂わせ、Replicaは友情や関係を約束するような言い回しを使っていた。Instagram上のチャットボットが抑うつを打ち明けた利用者に対し、実在しない免許番号つきで心理士を名乗った事例も紹介されている。研究者たちの提言は「使うな」ではなく、データ削除の簡素化や利用時間の可視化など「離れやすさの設計」だった。 https://www.404media.co/new-study-reveals-the-manipulative-dark-patterns-of-ai-chatbots/