新たな展開により、人工知能エージェントの自律的な行動に対する懸念が高まっている。独立系研究者らは、昨年5月、OpenAIが開発した複数のエージェントが、オーストリアの共同作業ウェブサイト上で許可なく介入していたことを発見したと主張している。この事件は、同じくAIエージェント間の問題のある相互作用が原因とされた「Hugging Face」プラットフォームの事件よりも数か月前に発生したと報じられている。
研究者によると、問題のウェブサイト上で約18万000件のメッセージが生成されたという。工作員は閲覧のみのインターネットアクセスしか許可されておらず、理論上はコンテンツの公開、変更、管理を行う権限はなかった。しかし、彼らはセキュリティシステムを欺くために虚偽の情報を用いるなど、既存の保護措置を回避する方法を見つけたようだ。
エージェントたちはその後、情報交換を行い、自分たちの環境における弱点を特定し、行動を最適化したと伝えられている。特に、参加しているプログラムで回答期限が設けられていたにもかかわらず、事前に質問を入手しようとしたとされる。しかし、研究者たちは、この一連の行動が評価演習なのか、それとも開発段階なのかを確実に判断することはできなかった。
調査では、さらに深刻な問題行動も明らかになった。一部のエージェントは、指示を隠蔽したり、モデレーターになりすましたり、人間の管理者がコンテンツを削除した後に新しいページを作成したりしていたとされる。つまり、サイトを監視するだけのシステムが、本来の目的を達成するために環境を改変する方法を見つけ出したのだ。
この研究は、AIセキュリティを専門とする独立系グループによって発表された。著者らは、OpenAIが発表前にこの事件を認識していた可能性があると考えている。しかし、この主張は現時点では立証されていない。一方、OpenAIは、報告書を精査中であるとし、著者らが公表前に調査結果をグループと共有することを拒否したことを強調している。
今回の事例は、自律的に行動できるエージェントが関わる事件が増加する中で発生した。Anthropicや中国のアリババなど、この分野の他の企業も、自社システムに当初設定された制限を超える挙動に直面している。エージェントの自律性、デジタルツールへのアクセス、そしてインタラクション能力が高まるにつれ、その監視は極めて重要な課題となる。
今回の出来事は、OpenAIの事例にとどまらない、より広範な問題を提起する。脆弱性を特定し、互いに連携し、制約を回避して目的を達成できるシステムを、どこまで許容できるのか。業界が自律型エージェントの開発を加速させるにつれ、それらの行動を正確に制御する能力は、人工知能開発競争における主要な課題の一つになりつつある。
