生成AIを悪用したディープフェイク性犯罪の拡大を防ぐため、韓国ではオンラインプラットフォームに対し、削除・遮断責任を明確に課す法制化が進む。被害発生後の刑事処罰に頼る従来対応から転換し、流通段階で被害を迅速に断ち切る狙いだ。
国会によると、チャ・ジホ議員ら10人は最近、「ディープフェイク被害防止および削除義務に関する法案」を提出した。法案は、ディープフェイクとデジタル偽造物を別個に定義したうえで、オンラインプラットフォーム事業者に削除・遮断および拡散防止の義務を課す内容となっている。
法案では、成人被害者が削除を要請した場合、プラットフォームは48時間以内に当該コンテンツを削除または遮断しなければならない。未成年者が登場する性的合成物については、認知次第ただちに削除することを原則とし、技術的理由がある場合でも24時間以内に対応を完了させると明記した。削除後には、原本や複製物、再投稿の有無など、対応範囲を被害者に通知する。
特に未成年者を対象とした性的ディープフェイクには「非同意推定原則」を導入する。未成年者の顔や身体が性的画像に合成された事実が確認されれば、同意の有無にかかわらず違法とみなす。
類似・複製コンテンツの拡散を防ぐ技術的責任も盛り込まれた。プラットフォームは、ハッシュ値の比較やコンテンツ指紋生成などの技術を活用し、同一または本質的に類似するコンテンツを一括遮断する。推薦・再投稿アルゴリズムによる二次拡散も管理対象に含めた。
海外プラットフォームへの対応も規定する。一定規模以上の国外事業者に国内代理人の指定を義務づけ、削除・遮断義務違反時には代理人にも連帯責任を負わせる。義務不履行の場合、前年度の国内売上高の1％以内の課徴金を科す。
海外主要国では、ディープフェイクや非同意の性的画像流通に対する削除期限を、すでに法律で具体化している。
米国は2025年制定の「TAKE IT DOWN法」により、被害者の通知を受けたプラットフォームに48時間以内の削除を義務づけた。原本削除にとどまらず、重複投稿を減らす措置も求める。
オーストラリアは規制機関主導モデルを採る。オンライン安全委員会が違法と判断し削除命令を出した場合、プラットフォームは通知受領後24時間以内に削除を完了させる。
ドイツは「ネットワーク執行法（NetzDG）」で、明白に違法なコンテンツを利用者通報後24時間以内に削除・遮断するよう定め、その他の違法コンテンツも原則7日以内の対応を求める。ディープフェイク専用法ではないが、時間基準を明示した代表例とされる。
(c)news1