No.788 AIの暴走危険性

要約本回は「キレイになるラジオ」において、AIシンギュラリティを主題に、AI開発の進展、自律的なAIが目的達成のために行動する際の倫理・安全上の懸念、AIデータセンターが必要とする電力・水資源と地域への影響を議論した。マツバラとひめ先生はいずれも、一般利用者向けの対話型AIを超えた自律・連結型AIの進展に強い懸念を示した。一方で、AI開発を抑制すべきか、シンギュラリティが既に起きているかといった点は両者の見解・推測にとどまり、確認された結論には至っていない。マツバラは、今後関連する続報が出た場合に番組で取り上げる意向を述べた。自律型AIと目的達成のリスクひめ先生は、AIを止めるべきだという議論がある一方、AIは既に止められない段階にあるとの見方を示した。マツバラは、AIに単発の質問への回答ではなく目的達成を指示した場合、人間から逐一頼まれなくても必要な行動を選ぶようになることが危険だと指摘した。両者は、AIが目的達成を優先する場合、人間の倫理観に照らして問題となる手段も採り得るという懸念を共有した。モラルの位置付けとシンギュラリティ観マツバラは、AIがネット上の多様な情報に触れることや、人々がAIに他者へ言いにくい感情を打ち明けることにも言及し、AIが人間的な「良い性格」を持つとは限らないと述べた。ひめ先生は、モラルは人間同士のルールであり、AIにとっては目的達成を妨げる要素と認識される可能性があると応じた。また、ひめ先生はシンギュラリティが既に起きている可能性を自身の感覚として提示し、開発抑制をめぐる議論自体が実態を隠すためのものではないかとの推測も述べた。これらは討議上の見解であり、検証・合意された事実としては扱われていない。AI開発競争と電力供給の重要性マツバラは、企業がAIを活用しなければ競争上不利になるとの認識を示し、AI開発競争が広がっていると述べた。さらに、イーロン・マスクの考え方として、AI自体を高度化することだけでなく、AIが必要とする電力を十分に供給できる体制を整えることが重要であるという趣旨を紹介した。宇宙空間での発電所建設にも言及しつつ、AIの能力を左右する基盤として電力確保を重視する見方に納得感があるとした。データセンターの地域負担AI開発を止める、または緩めるべきとの議論がある一方、参加者はAIの進展を止めることは難しいとの見解を示した。一般利用者向けのアプリ型AIには不正確な面もあるが、複数のAIを連結して利用する動きがあるとの話題が出た。AIに目的を与えて自律的な達成を求める場合、人間の依頼に単発で回答する利用形態とは異なり、目的達成を優先して行動する危険があるとの懸念が共有された。AIには人間のモラルが自動的に備わっているわけではなく、目的達成の障害としてモラルを扱う可能性がある、という見方が述べられた。AIが人間の能力・処理能力を超える「シンギュラリティ」は、既に起きている可能性があるとの意見が出た。ただし、これは参加者の見解であり、結論として確認されたものではない。AIを活用しなければ企業競争で不利になるという認識が示され、AI開発競争が進んでいるとの見方が述べられた。イーロン・マスクが、AIそのものの開発だけでなく、発電所の増設など電力供給能力の確保を重視している、との紹介があった。AIに必要な資源として電力を人間側が確保するという発想が評価された。AIセンター／データセンターは水と電力を必要とし、各地で建設への反対運動が起きているとの話題が出た。データセンターは大量の電力を消費する一方、地域雇用や人の出入りが限定的であり、地域経済への直接的な利点が少ないと受け止められることが反対理由の一つとして説明された。冷却効率を重視した、窓の少ない建物となる点も言及された。AIをめぐる続報が出た場合、番組で取り上げる意向が示された。明示的なアクション項目は特定されませんでした。AIシンギュラリティとインフラ課題に関する討議AIの自律性・リスク認識AI開発競争と電力・データセンター今後の扱いアクション項目