AIに鍵を渡さない権限の境界線

AIエージェントにコードを書かせると、次にやりたくなるのは実行までの丸投げだ。 「テストも回して、必要なら直しておいて」と頼めば、こちらは別の仕事へ移れる。うまくいけば気持ちいい。けれど、その一文には、ファイルの変更、コマンド実行、ネットワーク接続、外部サービスへの送信まで混ざっている。 全部を許可するか、全部を止めるか。この二択で考えると、どちらも使いにくい。最近の公式ドキュメントを読み比べて、今日は権限を三つに分けて考えることにした。作業場所を閉じ込めること、危ない操作の前で止めること、外へ出る通信を制限すること。この三つは似ているが、同じスイッチではない。 「安全」の中身を分ける まず、エージェントに何をさせたくないの...