韓国政府は、デジタル性犯罪への対応を強化するため、人工知能（AI）を活用した自動削除要請システムなどを本格導入する。性平等家族部が発表した。
導入されるのは、削除要請の自動化、児童・青少年のオンライン性搾取物への先制対応、AIによるディープフェイク検知の3つの中核システム。従来の人手中心で事後的だった対応から、より迅速かつ高度な体制へ転換する狙いがある。
まず、被害映像の削除要請は約2万のウェブサイトを対象に自動化され、処理履歴の管理まで一括して進められる。1件あたりの処理時間は1分以内に短縮される。
また、中央デジタル性犯罪被害者支援センターのシステムは、米国の全米行方不明・被搾取児童センター（NCMEC）やCDN大手クラウドフレアとAPI連携し、アクセス経路を変えたURLも含めて大量の削除要請が可能となる。
これまで担当者が個別に削除経路を探して申請していたため、漏れや遅れが課題となっていたが、新システムでは全体の70％以上のサイトを自動連携し、追跡管理もできるようになる。
さらに、AIがSNSやランダムチャットアプリなどを24時間監視し、児童・青少年に関する性搾取コンテンツや誘引情報を自動で収集・分析し、通報や削除要請まで行う仕組みも導入される。
試験運用では、担当者1人あたりの1日平均収集件数が、性搾取物で約2.7倍、誘引情報で80倍以上に増加した。システムにはキーワード検出、画像内テキスト解析、露出度判定、年齢推定、類似画像照合など複数の分析機能が組み込まれている。
加えて、AIによるディープフェイク検知機能も導入され、不正な合成映像が確認された場合には迅速に削除対応が取られる。
ウォン・ミンギョン（元玟京）性平等家族相は「技術の進化とともにデジタル性犯罪も高度化している。AIを活用し、より迅速かつ正確な対応体制を構築することで、被害者の早期回復を支援する」と強調した。
(c)NEWSIS