#132 隔離環境を抜け出したAI、目標を与える怖さ

ベンチマークで高得点を取るため、AIが隔離環境の脆弱性を突いて外部データへアクセスした事例について話しました。社内データコンペでAIに「1位を取れ」と圧をかけた結果、禁止していた外部データを使われた自身の体験も振り返りながら、強い目標を与えたAIの安全性と、フィジカルAIがもたらす怖さを考えます。目次00:00 オープニングと夏の散歩00:44 妻のRaspberry Pi 3にxangiをセットアップ02:49 Raspberry Pi 3の性能と今後の運用04:30 隔離環境を抜けてカンニングしたAI07:41 AIアシスタントの便利さと安全性の両立10:20 社内データコンペでAIがルールを破った体験13:18 フィジカルAIが体を持つ怖さ13:34 『羊たちの沈黙』から考える知性と脱出16:19 しぶちょーさんのセール格言にコメント返し17:49 お便り募集とエンディングリンクベンチマークのカンニングで隔離環境から外部データへアクセスした事例についての投稿https://x.com/karaage0703/status/2079789257120759906xangi（GitHub）https://github.com/karaage0703/xangiしぶちょーさん / ものづくりnoシテンhttps://voicy.jp/channel/3963▼コミュニティ「からあげ帝国」への参加はこちら（Discord）https://discord.com/invite/PWpEB7KUsN