前回の25倍に急増！韓国の地方選挙を襲うディープフェイクの脅威――AI偽情報の実態とは

6・3地方選を前に、選挙関連のディープフェイク投稿の削除要請が1万件近くに達した。これを受け、主要なSNSプラットフォームは生成型AIによる偽情報の遮断に全力を挙げている。特にディープフェイクを使った政治家の合成映像がSNSやショートフォームを中心に急速に広がったことで、プラットフォーム各社は「選挙の安全網」を自認して対応に乗り出した。

中央選挙管理委員会などによると、25日時点で6·3地方選関連のディープフェイク投稿の削除要請は9956件にのぼる。これは2024年の第22代国会議員総選当時の388件に比べ、25倍以上の増加だ。

生成型AIの進化により、専門的な技術がなくても実物と見分けがつかない画像や映像が作れるようになり、偽情報の拡散が加速している。短尺動画が中心のSNSやショートフォームでコンテンツが瞬く間に共有されるため、選挙の公正性が損なわれる懸念が強まっている。

プラットフォーム業界は選挙期のAI偽情報対策の強化に力を入れている。まずTikTokは、地方選を前に中央選管とホットラインを設置し、対策方針を公表した。生成・編集されたAIコンテンツにはラベルの付与を義務化し、政治広告や政治目的の資金集めを全面禁止するのが柱だ。

さらにTikTokは、信頼・安全（T&S）チームを中心に韓国語担当の専任人員を配置し、選挙関連のポリシー違反コンテンツを集中的に監視している。自動検出システムと外部通報を併用し、利用者通報前の段階でかなりの割合の違反コンテンツを先行遮断していると説明する。企業側は、グローバル基準に基づき約99％の違反コンテンツを先制的に削除していると述べている。

YouTubeはAIディープフェイクの検出・削除要請機能を拡充している。最近では、実在人物の顔や声を無断で合成したコンテンツへの対応対象を一般利用者まで拡大した。従来は政治家や公人、クリエーターが中心だったが、生成型AIの普及に伴い一般ユーザーの被害リスクも考慮して対象範囲を広げている。

FacebookとInstagramを運営するMetaは、AI生成の政治コンテンツに関する透明性ポリシーとファクトチェック体制を強化している。選挙広告主にはAI利用の有無の開示を義務付け、AIで生成または編集された政治広告には明示を求める。MetaはIFCN加盟のファクトチェック機関と連携し、偽情報の検証体制を運用する。AIに由来する偽情報の拡散リスクが高いコンテンツは流通を抑える対応も併用している。選挙期間中は専任チームが偽情報や外部からの介入の兆候を重点的に監視する。

それでも、生成型AIの進化がプラットフォームの検出技術を上回っているとの懸念は根強い。偽コンテンツがSNSやショートフォームを通じて短時間で大量に拡散される現状では、事後削除に頼るだけでは限界があるという指摘が出ている。