AIの可能性を約束する一方で、その人種を恐れるアントロピック社の代表、ダリオ・アモデイ氏

シリコンバレーでは、先見の明のあるリーダーも、不安を抱かせるリーダーも、どちらも高く評価される。アントロピック社のCEO、ダリオ・アモデイ氏は、その両方を兼ね備えた稀有な存在だ。派手さはないものの、人工知能をめぐる議論において確固たる地位を築き、米国で軍事分野におけるAIツールの利用をめぐって緊張が高まった際には、彼の名前が再び注目を集めた。軍事分野は、防衛契約によって収益が上がる一方で、企業の評判を傷つける可能性もある、まさに地雷原のような場所なのだ。

しばしば最も「危機感を煽る」指導者の一人として挙げられるアモデイ氏は、そのレッテルを完全に否定するわけではないものの、異議を唱えている。1月下旬に発表された長文の記事の中で、彼はSF小説に出てくるような「破滅的な」シナリオは否定すると述べつつ、極めて深刻なリスクと真正面から向き合うことを呼びかけている。そして、まるで期限が迫っているかのような一文をさりげなく挿入している。現在のペースが続けば、AIは数年以内にほとんどの分野で人間を凌駕する可能性がある、と。わずか数語ながら、実体経済や熟練労働者の雇用など、多くの意味合いを秘めている。

セキュリティをセールスポイントに、パワーを地平線に

2021年にダリオ・アモデイとダニエラ・アモデイを含む元OpenAI幹部によって設立されたAnthropicは、魔法使いの弟子のような真似事をすることなく、高性能なモデルを開発するというシンプルな約束に基づいて設立されました。Claudeファミリーのモデルはプロの顧客を対象としており、同社の特徴として、安全対策、リスク評価、使用制限が強調されています。この「念には念を入れる」アプローチは、アメリカの報道機関から「AI破局論」の温床と評される原因にもなっており、産業界や政府機関に契約を結んでもらうよう説得しなければならない企業にとっては皮肉なことです。

一方、数十億ドル規模の資金、チップ、データセンターを駆使した戦いが繰り広げられている。アメリカとヨーロッパの企業間の競争は激化しており、クラウド大手との緊密なパートナーシップや、魅力的なデモと負荷を処理できる製品との差を生み出すコンピューティング能力の獲得という共通の目標が共有されている。企業にとって、その利害関係は明白だ。生産性、自動化、新サービスだけでなく、技術依存、エネルギーコスト、そして究極的にはデジタル主権も含まれる。

欧州側では、AI法によって枠組みがより厳格かつ厳密になりつつあり、汎用モデルを含む特定のシステムに透明性とセキュリティに関する義務が課せられている。アモデイ氏が発言しているのは、まさに業界が加速し、当局が規制を障害や無駄なものにすることなく、イノベーションと保護のバランスを模索している時期である。読者が既に推測できるであろう一つの現実が残っている。それは、最も有用なAIを約束する者は、それが制御可能であることも証明しなければならないということだ。なぜなら、信頼はテラフロップスだけで測られるものではないからだ。