TikTokは、人工知能のみで運営されているアカウントへの対策を強化している。

TikTokは、AI生成コンテンツのみを投稿するアカウントに対するポリシーを強化する。同社は金曜日、今後数週間以内に、特にセンシティブなテーマに関するAI生成動画を大量に配信するアカウントを特定するための新たな検出ツールを導入すると発表した。

このプラットフォームは特に、政治、時事問題、健康、金融アドバイスに関連するコンテンツを標的にしている。TikTokによると、こうした投稿はユーザーの信頼を損なうだけでなく、オリジナルコンテンツを制作するクリエイターの認知度を低下させる可能性があるという。

低品質コンテンツが標的に

TikTokは、危険なテーマに焦点を当てた、高度に標準化された低品質の動画を投稿する「AIスパム」とみなされるアカウントを標的にしたいと説明している。また、フォロワーの売買を行うアカウントも監視する予定だが、使用する新たな技術ツールについては明らかにしていない。

プラットフォームは、しばしば「AIスロップ」と呼ばれる自動生成コンテンツの急増に直面している。これらの動画は、視聴者を素早く獲得するために低コストで制作されるが、時には偽情報やプロパガンダ目的で利用されることもある。

他のプラットフォームも追随するトレンド

TikTokは2024年にAI生成コンテンツに対する自動タグ付けシステムを既に導入していた。一方、Pinterestは2025年からユーザーが一部のAI生成コンテンツをフィルタリングできるようにしている。

同プラットフォームはまた、複数の国におけるAFP通信を含む、いくつかのファクトチェック機関と協力して、虚偽情報を含む動画を特定し、その拡散を抑制していると述べている。