Anthropic社は、最も強力なAIを一般公開するが、厳重な監視下に置く。

人工知能をめぐる世界的な競争は新たな局面を迎えた。アメリカのスタートアップ企業Anthropicは、同社が開発した最新AIスイート「Mythos」の初の一般公開版となる「Fable 5」のリリースを発表した。これは同社がこれまでに開発した中で最も高度なAIスイートだと謳われている。この決定は、元OpenAIの研究者によって設立された同社にとって転換点となる。同社は長年、AIに関連するセキュリティとリスク管理を中心とした事業展開に注力してきた。

この春に発表されたMythosファミリーのモデルは、これまで一部の企業、戦略組織、政府機関のみに限定されていました。Anthropic社は当時、この技術の能力は高度なものであり、特別な予防措置が必要だと考えていました。Fable 5では、同社はこの新世代AIへのアクセスを一般公開する一方で、機密性の高い用途を防止するための重要な制限を維持しています。

リスクを制限するための制限版

一般公開されているバージョンは、特にサイバーセキュリティ、生物学的リスク、化学兵器や生物兵器の開発を助長する可能性のあるアプリケーションに関連する分野において制限されている。Anthropic社は、これらの分野が現在、最も強力な人工知能システムに関連する主な潜在的危険性を孕んでいると考えている。

一方、同社は引き続き、一部のパートナー企業向けに「Claude Mythos 5」というフルバージョンを提供している。Anthropic社によれば、この技術はサイバーセキュリティの脆弱性を前例のない効率で特定し、悪用することが可能であり、デジタル脅威の増大に直面する政府、セキュリティ機関、大企業から急速に注目を集めているという。

AIセキュリティに関する世界的な議論

しかし、アントロピック社の戦略は必ずしも広く受け入れられたわけではなかった。ミトスの最初の発表時、複数の観察者から、同社が製品を宣伝するために「恐怖マーケティング」を行っているとの非難が上がった。それでも、最初のテストで得られた成果により、多くの機関がこの脅威を真剣に受け止めるようになった。アントロピック社と一部の連邦機関との間に緊張関係があったにもかかわらず、米国政府自身も最終的にこのモデルの評価を実施した。

ホワイトハウスはその後、この分野の企業が最先端のAIモデルを商用化する前に安全性評価のために提出できる自主的な仕組みを確立した。この取り組みは、新たな人工知能システムの技術力の急速な向上に対する当局の懸念の高まりを示している。

ますます激化する経済的・技術的な戦い

今回の発表は、この分野の大手企業間の激しい競争の中で行われた。OpenAIは現在、ChatGPTの新世代版の発売準備を進めており、Google、Meta、xAIも自社モデルへの投資を拡大している。AnthropicとOpenAIは、将来のIPOに向けた必要な措置を講じたことも明らかにしており、これは人工知能業界が経済的に成熟したことを示す兆候と言えるだろう。

技術競争を超えて、『Fable 5』の発売は、今後数年間における主要な課題の一つを浮き彫りにしている。それは、ますます強力になるツールをいかにして利用しやすくしつつ、サイバーセキュリティ、重要インフラ、あるいは国際安全保障に及ぼすリスクを最小限に抑えるか、という課題である。この複雑な方程式は、今や人工知能革命の中心にガバナンスと規制の問題を据えている。