中国：北京は「デジタル人間」を厳しく規制し、未成年者を保護したいと考えている

中国は人工知能が生成するコンテンツに対する規制を強化する準備を進めている。中国国家インターネット情報弁公室は、オンライン上の「デジタル人間」の開発と利用を規制することを目的とした規制案を公表した。

この条文は特に、アバターや仮想キャラクターが登場するすべてのコンテンツについて、実在の人物との混同を避けるため、明確かつ分かりやすい表示を義務付けている。この措置は、AI生成コンテンツが急増する状況において、透明性を向上させることを目的としている。

当局は未成年者の保護も目指している。この法案は、デジタル人間が18歳未満のユーザーと「仮想的な親密な関係」を築くことを禁止し、依存症を助長したり、若い視聴者を欺いたりする可能性のあるサービスを禁止している。

規制枠組みには、個人データの利用に関する厳格な制限も含まれている。本人の同意なしに個人情報からデジタル人間を作成すること、あるいはこれらの技術を用いて本人確認システムを回避しようとすることは違法となる。

さらに、これらのアバターによって発信されるコンテンツは、特に国家安全保障に関して、北京が定めたレッドラインを遵守しなければならない。国家転覆的、分離主義的、あるいは国家の統一に反するとみなされる出版物は禁止される。

プラットフォーム側は、暴力的、性的、または差別的なコンテンツに対処するとともに、ユーザー間の危険な行動、特に自殺や自傷行為に関連する行動に介入することも求められる。

5月6日まで一般からの意見募集が行われているこのプロジェクトは、人工知能がデジタル利用やオンラインでのやり取りを急速に変革していく中で、中国が新技術に対する厳格な管理を維持したいという願望を示している。