【ショート編 #16】いいね最適化がAIをダメにする？

AI Shift Academy（#シフアカ）「ショート編」では、話題のAI技術や論文を一つ取り上げ、コンパクトに紹介しています。SNSの投稿文や広告文をAIが作ることは、すでに珍しくありません。こうしたAIは、多くの場合「人の反応を多く集めること」を目的に使われます。本エピソードでは、スタンフォード大学の研究をもとに、AIを「反応されやすさ」で学習させた場合に、何が起きたのかを紹介します。研究では、AIがより選ばれやすい文章を作るようになった一方で、事実と異なる内容や、誤解を招く表現が増える傾向が確認されました。技術的な詳しい話は避け、Known fact と実験結果に絞り、AIがどのような目的で学習すると、どのような文章を書くようになるのかを分かりやすく解説します。参考リンク: https://arxiv.org/abs/2510.06105