アメリカのアンソロピック社が発表した最新 AIモデルクロードミュートスとは。

皆さんこんにちは。東京都議会議員の飯田健一でございます。本日も飯田がいいねラジオお聞きをいただき、誠にありがとうございます。さて、私の専門領域といえば、デジタルマーケティングや SEOその他 IT系でございますけれども、今 IT業界だけでなくて、世界中でとてつもない大撃心が走っております。先日 BS11のインサイドアウトという番組で北陸先端科学技術大学院大学の今井翔太客員教授や KDDI総合研究所の小林正一さんが出演をされ、最新 AIについての非常に深い議論が交わされていました。今日はその内容に触れながら、私たちが直面している最先端の AIの光と影、そして私たち東京、日本がどう向き合うべきかをお話をしたいなというふうに思います。今回世界を驚かせているのが、アメリカのアンソロピック社が発表した最新 AIモデルクロードミュートスです。これ何がすごくて何が危険なのか一言で申し上げますと、前例のないサイバーセキュリティ能力を持っているという点です。プログラムのバグや脆弱さへ、いわゆる弱点、これを見つける能力が桁外れに高いです。実験ではわずか数週間で主要な OSやソフトウェアに潜んでいた数万件もの未知の欠陥を発見しました。中には 27年間誰も気づかなかったバグも見つけたそうです。これ一見するとシステムを直すのに素晴らしい技術に見えますよね。でも安全保障の視点から見ると、これは強烈な脅威にも裏返ります。もしこの AIが悪意あるハッカーの手に渡ったらどうなるか。今まではシステムの弱点が見つかってから実際にサイバー攻撃が始まるまで、数日あるいは数時間の猶予がありました。しかし、このクラスの AIが悪用をされると、弱点の発見から攻撃開始まで数分から数十秒に短縮されてしまうというふうに言われています。もはや人間のエンジニアがどう対応しようかと会議をしている間に、すべてのシステムが乗っ取られてしまう金融機関の口座凍結、電力や交通といった機関インフラの麻痺さらには病院の医療システムが人質に取られるランサムウェア被害など、私たちの命や生活に直結するリスクがすぐ目の前に迫っています。まさに AIによる攻撃には、 AIによる防御でしか立ち向かえないそういった時代が来ているのではないでしょうか。この事態を受けて、国も全政府的な対策を支持をして、メガバンクなど 1部の機関にメトスへのアクセス権が付与される動きが始まっています。オープン AI社も日本政府や企業向けにサイバー防衛特化型のモデルを提供するとこのように発表したところでございます。ここで私が危機感を持つのは、現状守るための技術ですら、他国のエア技術に頼らざるを得ないという日本の足元の状況です。日本には魚 AIのような非常に優秀な人材が集まるスタートアップがあり、独自の技術的アプローチやものづくり、科学研究の現場で培った固有のデータという強みを持っています。しかし、圧倒的に足りないものがあります。それは資本資金であります。最先端の AIを開発して、世界に展開するには何兆円という巨額の投資が必要です。アメリカのようなベンチャーキャピタル市場やリスクを取って投資する文化が日本にはまだまだ充分に根付いていません。技術力があっても、資金力で負けてしまう。ここは国や行政がもっと大胆に支援の枠組みを作らねばならない生命線であるというふうに思います。東京都としてもデジタルサービス局を中心に行政の DXや AI活用を進めていますが、これは単に便利にするだけでは片手落ちです。強力なサイバーセキュリティ、すなわちゼロトラストシステム何も信用しない。この網をどう張っていくか常に攻撃されることを前提とした一歩進んだシステム設計がこれからの使と東京のインフラを守るために不可欠であると痛感しています。 AIが進化する中で、人間の仕事はどうなるかという興味深い研究も紹介されていました。マニュアル化できる文字ベースの仕事は、 AIに代替されやすい一方、経験を積んだシニア層の言葉にはできないけれど、何かおかしいという直感や青黙口は、 AIには真似しにくいだからこそ、熟練の雇用がかえって増えているというようなデータもあるそうです。 AIは 24時間眠らないし、神もしません。でも最後の最後でリスクを察知し、命を守る判断をするのは、私たち人間の現場の知恵と責任感であると思います。自立型 AIがクレジットカードの決済権まで待つようなそういった時代が近づく今制御権をどこまで人間に残すか、その倫理とルールづくりが急務であると思います。最新テクノロジーの恩恵は最大限に生かしつつ防災安全の備えは 1ミリも妥協しない。これからは誰もが安全に暮らせるデジタル社会の実現に向けて、現場目線で政策を提言したいとしていきたいと思います。皆さんはこの牙を向くかもしれない最強の AIとどう向き合っていきますかまたぜひご意見をお寄せいただきたいと思います。それでは本日の飯田がいいねラジオこちらでお開きとさせていただきたいと思います。お相手は東京都議会議員の飯田健一でございました。また次回お会いいたしましょう。