[9月23日]AIの嘘「ハルシネーション」の原因が判明。現役AIエンジニアが最新論文を徹底解説 (ep.2)

ChatGPTはどのようにして賢い文章を生み出しているのでしょう？その秘密の鍵は「事前学習」と「事後学習」という2段階のプロセスにあります。今回は、AIが嘘をつく「ハルシネーション」の原因を解き明かしたOpenAIの最新論文を元に、このAIの学習メカニズムを基礎からやさしく解説します。特に、ChatGPTを世界的なブームに押し上げた画期的な手法「RLHF」とは何なのか？そして、その「RLHF」がなぜハルシネーションを助長してしまうのか？技術的な背景を知ることで、AIニュースの解像度が格段に上がります。あなたの知的好奇心を満たし、深い落ち着きを提供する教養コンテンツです。【目次】(00:00) オープニングトーク(00:50) 今回のテーマはAIが嘘をつく「ハルシネーション」(02:08) ハルシネーションは「嘘」ではなく「もっともらしい誤り」(04:56) 原因解明！OpenAIの最新論文をわかりやすく解説(09:37) 抜き打ちクイズ！ChatGPTの「P」って何の略？(11:33) AIの学習法①：言葉を覚える赤ちゃんと同じ「事前学習」(16:37) AIの学習法②：人間に媚びる？モラルを学ぶ「事後学習」(20:22) ChatGPT3.5が世界を変えた秘密は、RLHF(34:43) ハルシネーションを引き起こす2つの根本原因(40:27) 衝撃！AIが嘘をつくのは人間社会の歪みが原因だった(46:15) これからのAIには「わからない」と言える勇気が必要(51:28) エンディング【今回の放送回に関連するリンク】・OpenAI 言語モデルでハルシネーションがおきる理由https://openai.com/ja-JP/index/why-language-models-hallucinate/・論文https://cdn.openai.com/pdf/d04913be-3f6f-4d2b-b283-ff432ef4aaa5/why-language-models-hallucinate.pdf【番組の概要】日々のAIトピックを、現役のAIエンジニアがやさしく解説する対談番組。AIニュースに驚き疲れたあなたに、おちつきを提供します。AIニュースの、驚くポイント、驚かなくても良いポイントがわかります。【お便りフォーム】https://forms.gle/yHoq9rgT9MhFGywn9【番組公式ハッシュタグ】#おちつきAI【パーソナリティ(MC)】▼しぶちょー・AIエンジニア・技術士(機械部門) 「大手機械メーカーでAI開発の最前線を担う現役エンジニア。AI（ディープラーニング）の実装スキルを証明する「E資格」を保有。機械（ハードウェア）への高度な知見も有し、双方の専門性を掛け合わせ『AIの社会実装』に貢献する。情報発信活動にも精力的に取り組み、ブログ・音声配信(Podcast/Voicy)・SNSなどで幅広く活躍。単なる技術解説でなく、行動変容を伴う情報発信を信条とする。その姿勢が評価され、2025年UJA科学広報賞 審査員特別賞を受賞。著書に『集まれ設計１年生 はじめての締結設計』（日刊工業新聞社）。岐阜県テクノプラザものづくり支援センター広報大使、生成AI EXPO in 東海 共同代表も務める。」https://x.com/sibucho_labohttps://voicy.jp/channel/3963▼かねりん（金田勇太）・KANERIN Podcast Studios 代表・一般社団法人 地方WEB3連携協会 理事「刑事司法実務の最前線で多数の犯罪捜査を指揮。2017年から暗号資産業界へ参入。数々のグローバルプロジェクトに参画しコンサルティング、情報分析・アドバイザリー業務を提供。犯罪捜査の最前線で培った知見を、リスク回避や資産防衛に活かすCrypto Security Evangelistとして活動。コンサートライブ配信業、音声配信業、テックメディア創業等を経て、ポッドキャストレーベル兼プロダクション「KANERIN Podcast Studios」を創業。」https://x.com/kanerinxhttps://voicy.jp/channel/2534【プロデューサー】かねりん　https://x.com/kanerinx【サウンド･アーキテクト】Aviv Haruta　https://x.com/oji_pal【カバーデザイン】準備中【制作/著作】KANERIN Podcast Studios--------------------------------------------------※画像引用：https://cdn.openai.com/pdf/d04913be-3f6f-4d2b-b283-ff432ef4aaa5/why-language-models-hallucinate.pdf【各種ポッドキャストスタンドへのリンク】🟢Spotifyhttps://open.spotify.com/show/6iGk39bSta5KZ1QD7jvK2o🟣Apple Podcasthttps://podcasts.apple.com/us/podcast/id1841316430🔵Amazon Musichttps://music.amazon.co.jp/podcasts/aba8e9a4-aefb-404a-b366-4b7a11b3f7cb/🔴YouTubehttps://www.youtube.com/playlist?list=PLNQiF7XIko7QOIlyFMiI_aDdk1eJzNiCD