OpenAIのハードウェア製品責任者であるケイトリン・カリノフスキー氏は、同社と国防総省の間で合意が締結されたことを受け、辞任を発表した。2月に締結されたこの合意は、OpenAIの特定の技術を国防および国家安全保障関連分野で使用することを認可するものである。
ソーシャルネットワークXに投稿されたメッセージの中で、幹部は自身の決断は原則的な問題に基づいていると説明した。彼女は特に、アメリカ国民の国内監視や、人間の制御なしに稼働する自律型軍事システムにAIを使用することに伴うリスクを懸念している。
人工知能の軍事利用に関する懸念
OpenAIと米国政府の間の合意は、ライバル企業のAnthropicが米軍に対し、自社の人工知能アシスタント「Claude」への無制限のアクセス提供を拒否した直後に締結された。この状況はワシントンで政治的緊張を引き起こしていた。
OpenAIのCEOサム・アルトマン氏は、批判に対し、合意に安全策が追加されたことを示唆した。ある条項では、同社のAIシステムを意図的に米国民の監視に利用してはならないと明記されている。しかし、ケイトリン・カリノウスキー氏は、発表があまりにも性急だったことを遺憾に思い、これらのガバナンス問題については更なる検討が必要だと主張した。
