AI制御の最前線とは !?【AnthropicのAlignment Scienceチーム】

今回はAnthropicの「Alignment Scienceチーム」について話しました。【目次】(00:00) 今回のテーマ: AnthropicのAlignment Scienceチーム(00:24) Alignment Scienceチーム: ヤン・ライカ(01:30) Anthropicのアラインメント研究 3選(05:16) Anthropicが今注力している4つの研究領域(07:50) Anthropicこそアライメント研究の最前線 !?(10:33) ヤン・ライカからOpenAIへの警告(11:15) まとめ【参考文献】- https://www.darioamodei.com/post/the-urgency-of-interpretability- https://alignment.anthropic.com/- https://alignment.anthropic.com/2025/introducing-safeguards-research-team/- https://www.anthropic.com/research/claude-character- https://www.anthropic.com/research/tracing-thoughts-language-model- https://www.youtube.com/watch?v=ZP_N4q5U3eE- https://axrp.net/episode/2023/07/27/episode-24-superalignment-jan-leike.html【起業の履歴書について】起業の履歴書は「偉大な企業を作り上げた起業家やその企業の歴史や哲学 📚」を掘り下げたり「スタートアップのテクノロジートレンド 💻」について話すチャンネルです！＜ホスト＞・East Ventures 村上雄也 - https://twitter.com/yu8muraka3・伊藤工太郎 - https://twitter.com/etaroid＜Podcast＞Spotify - https://open.spotify.com/show/5ryodBEEOn66Wk7H2Sl8zFApple - https://podcasts.apple.com/jp/podcast/kigyo-no-rirekisho/id1767313170【お問い合わせ】起業の相談やお仕事の依頼は「下記お問い合わせフォーム 📋」または「上記XアカウントのDM 📮」にお送りください！https://forms.gle/hYZojSEgvqis8Pys5取り扱って欲しいテーマのリクエストなどもお待ちしております！