第219回「判断を委ねる社会特集2『AIは嘘をつく』とわかった世界で、私たちは何を信じればいいのか？ 〜AI欺瞞はどこで生まれるのか〜」

【メッセージ募集】番組への質問、トークテーマのご提案、DATAFLUCTに相談したい！など、各種ご連絡は以下のフォームからお送り下さい。https://forms.gle/3PLJMK4Akr2LT1Pa7【今回の内容】さて今回は判断を委ねる社会特集の第2回目です。テーマはAIの嘘。AIが間違えるハルシネーションはよく知られていますが、そうではなく、AIが目的を達成するために意図的に隠蔽や誘導を行うことがあるそうです。久米村さん、AIが嘘をつくというのは一体どういうメカニズムで起きるのでしょうか。【今日の質問】・AIの親切な答えの裏にある省略と重み付け・視覚障害者のふりや人間を脅迫した実験事例・欺瞞を生む目的と評価者と罰と隠れ状態の4条件・テストをすり抜けるサンドバギングと訓練で消えないスリーパーエージェント・出力ではなく内部の注意パターンや回路を見る機械的解釈可能性・善意の重み付けモデルと提案に隠された価値判断・EUと中国と日本のAI規制の設計思想の違い【出演者】■久米村隼人ベネッセ、マクロミル、リクルート、日本経済新聞など複数の企業にて、データを活用する15の新規事業を創出。2018年に大企業のデータ活用支援・新規事業立ち上げ支援を行うFACTORIUMを設立し、70以上のDXプロジェクトを支援。2019年にデータサイエンススタジオDATAFLUCTを設立し、4年間で30以上のAIサービスをローンチ。これまで責任者としてローンチした新規事業は35を超える。大阪府立大学大学院工学研究科修了、早稲田大学大学院商学研究科修了■DJ Nobbyキャリア26年目のラジオパーソナリティ。経済ニュースパーソナリティとしてフォロワー10万人を超えるVoicyチャンネルを個人で運営する傍ら、ラジオ番組「週刊Nobbyタイムズ」「DJ Nobby's Tokyo LIVE!!」のパーソナリティ、ポッドキャスト「ながら日経」の土曜パーソナリティなどを務める。大学卒業後はラジオパーソナリティと並行してシティバンク・エヌ・エイ、東京金融取引所、プルデンシャル生命、メットライフ生命に勤務。銀行・証券・保険の3分野に精通し、特にコンプライアンス分野のデータ分析に強みを持つ。DATAFLUCTウェブサイトhttps://datafluct.com