人工知能：人間中心主義は、最も強力なモデルの開発を遅らせるためのグローバルなメカニズムを提案する。

人工知能分野における世界的な競争が激化する中、アメリカの企業Anthropicはより慎重なアプローチを求めている。同社の研究センターが発表した文書の中で、アシスタント「Claude」の開発者は、企業、研究機関、研究者がAIシステムによって引き起こされる可能性のある混乱に適応するための時間を確保するため、最先端のAIシステムの開発を一時的に遅らせるべきだと主張している。

この姿勢は、主要企業がより効率的なモデルの開発に投資を拡大している業界の主流戦略とは大きく対照的である。こうした技術革新の加速に直面し、アントロピック社は、技術進歩が国家や組織による新たなツールの効果的な規制能力を上回る可能性があると考えている。同社は特に、自律性と強力さを増すシステムに対する制御の喪失に伴うリスクを指摘している。

ブレーキのない競争を避けるためには、国際的な連携が必要である。

こうした懸念に対処するため、アントロピック社は企業と政府間の国際的な連携メカニズムの構築を提案している。その目的は、主要な業界関係者が、リスクが高すぎると判断された場合に、特定の技術開発を減速または一時的に停止することを共同で決定できるようにすることだ。同社によれば、このような枠組みがあれば、慎重なアプローチをとった企業が不利益を被る一方で、競合他社が何の妨げもなく開発を進めていくといった事態を防ぐことができるという。

アントロピックの共同創設者であるジャック・クラーク氏は、現状をアクセルペダルはあるがブレーキのない車に例えた。そして、技術の進歩が研究者や公的機関の制御能力や理解能力を上回った場合に備え、業界は迅速に対応できるツールが必要だと主張した。

業界を深く二分する議論

しかし、この提案は特に米国で強い反対に直面する可能性が高い。テクノロジー業界関係者や政治家の中には、景気減速は人工知能開発競争で世界的に躍進している中国に戦略的優位性をもたらす可能性があると考える者もいる。こうした関係者にとって、競合国に対する技術的優位性を維持することが依然として最優先事項なのだ。

Anthropicは、このエコシステムの中で独自の地位を占めている。元OpenAIメンバーによって設立された同社は、人工知能のセキュリティと倫理を中心とした議論によって名声を築いてきた。この戦略は、支持を集める一方で批判も招いている。一部のアメリカの政治家や競合他社は、同社がAI関連のリスクを誇張し、この分野に対する不安を煽っていると非難している。

米国では規制は依然として限定的である

米国政権は最初の規制措置の実施を開始した。大統領は ドナルド·トランプ 最近、国家安全保障とサイバーセキュリティの観点から、最先端の人工知能モデルに対する監視を強化することを目的とした政令が発布された。しかし、この措置は主に企業の自主的な参加に依存しており、Anthropicが言及したような拘束力のある仕組みは含まれていない。

同時に、ワシントンは人工知能の安全性に関する国際的な議論を開始しようとしている。ドナルド・トランプ大統領は最近の中国訪問で、この問題を中国当局に提起したことを示唆した。アントロピック社にとって、経済的・地政学的な競争が安全保障上の要請を決定的に凌駕するのを防ぐ唯一の方法は、世界的な協力である。