第247回「AI自動化の失敗学特集4: AIは、なぜ評価指標を達成しても本来の目的からずれるのか？ プリンシパル・エージェント問題が教える任せ方の科学」

【メッセージ募集】 番組への質問、トークテーマのご提案、DATAFLUCTに相談したい！など、各種ご連絡は以下のフォームからお送り下さい。 https://forms.gle/3PLJMK4Akr2LT1Pa7 【今回の内容】 さて今回は、仕事を任せた瞬間に生まれる「目的のズレ」についてのお話です。人間もAIも、指示や評価指標に忠実に動いた結果、本来の目的から外れてしまうことがあります。その原因を人格ではなく、任せ方の構造から解き明かしていきます。 久米村さん、指示どおりに動いたのに失敗するという、AI時代には特に怖い問題ですね？ 【今日の質問】 ・浴室修理の時間払いと固定額で理解するプリンシパル・エージェント問題 ・利害のズレ、情報の差、行動の見えにくさが委任を難しくする仕組み ・不動産仲介で顧客の家が早く安く売られやすくなる報酬構造 ・監視コスト、保証コスト、残余損失というエージェンシーコストの3要素 ・かんぽ生命の不適切販売で顧客本位より新規契約が優先された背景 ・ビッグモーター事件で監視する側まで利害関係に取り込まれた構造 ・測れる仕事だけが増えるマルチタスク問題と不完備契約理論 ・報酬が善意や内発的動機を弱めるクラウディング・アウト ・依頼者が複数いる組織で目的が競合し、代理人が板挟みになる問題 ・指標の多重化、権限分離、抜き打ち検収、停止と再開を備えたAI委任設計 【出演者】 ■久米村隼人 ベネッセ、マクロミル、リクルート、日本経済新聞など複数の企業にて、データを活用する15の新規事業を創出。2018年に大企業のデータ活用支援・新規事業立ち上げ支援を行うFACTORIUMを設立し、70以上のDXプロジェクトを支援。2019年にデータサイエンススタジオDATAFLUCTを設立し、4年間で30以上のAIサービスをローンチ。これまで責任者としてローンチした新規事業は35を超える。 大阪府立大学大学院工学研究科修了、早稲田大学大学院商学研究科修了 ■DJ Nobby キャリア26年目のラジオパーソナリティ。経済ニュースパーソナリティとしてフォロワー10万人を超えるVoicyチャンネルを個人で運営する傍ら、ラジオ番組「週刊Nobbyタイムズ」「DJ Nobby's Tokyo LIVE!!」のパーソナリティ、ポッドキャスト「ながら日経」の土曜パーソナリティなどを務める。 大学卒業後はラジオパーソナリティと並行してシティバンク・エヌ・エイ、東京金融取引所、プルデンシャル生命、メットライフ生命に勤務。銀行・証券・保険の3分野に精通し、特にコンプライアンス分野のデータ分析に強みを持つ。 DATAFLUCTウェブサイト https://datafluct.com