AI減速の3社合意は守られるか｜前例・不信・外部レビューの限界

アモディCEOのエッセイ「We Must Pace the Frontier」にアルトマン氏・マスク氏が同意し、ライバル3社がAI開発の減速で同じ方向を向いたと報じられました。主張は正しいと思いつつ、この合意が本当に守られるのかを懐疑的に検討した回です。 今回話していること: - 何が起きたか: 能力向上のペースを意図的に落とし、保護策実装の1〜2年を稼ぐ提案に3社が同調 - 「何がやばいか」の診断に異論はない: エージェントの自己開発と再帰的自己改善を制御できていない - 理由1: 2023年3月の「6ヶ月停止」書簡の前例。署名の13日前にxAIを登記していたマスク氏、結局誰も止まらなかった - 理由2: 当人同士の不信。「信頼していない相手となぜ議論するのか」、インドAIサミットでの手つなぎ拒否 - 減速合意が機能する条件は「相手が守ると信じられること」だけ - 理由3: 外部レビュー常駐案は良いが、独立した専門家はほぼ企業内にしかおらず、アクセス権≠理解 - 外部レビューは安全の保証装置ではなく「正直さの保証装置」 - まとめ: 主張は正しいが、実行確率は彼ら自身の過去が否定している。中国を巻き込めるのか 🔗 AIを仕事に取り入れていくSubstack（特典PDFあり）: https://ikkaku.substack.com/ #AI安全性 #Anthropic #OpenAI #AI活用 --- stand.fmでは、この放送にいいね・コメント・レター送信ができます。 https://stand.fm/channels/695826926f1e5aedb1ead45c