韓国で22日、生成型人工知能（AI）によって作られ、外部に流通する画像・映像・音声には「AI生成物」であることを示す表示を付けることが義務付けられた。これは「人工知能の発展および信頼基盤の造成等に関する基本法（AI基本法）」の施行に伴い、透明性確保義務が本格適用されるためだ。
実在と区別が難しいディープフェイクについては、より明確な方法でAI生成であることを告知しなければならない。一方、表示義務の責任主体は結果物を作成した利用者ではなく、AI製品・サービスを提供する事業者にある。
科学技術情報通信省によると、AI基本法に基づく透明性確保義務は▽高影響AIまたは生成型AIに基づくサービスであることを事前に利用者へ告知する義務▽生成型AIで作られた結果物が外部に流通する場合、「AI生成物」であることを表示する義務――の大きく二つに分かれる。
この義務を負うのは、国内利用者に直接AI製品・サービスを提供する「AI事業者」で、海外事業者も含まれる。AIを単なる業務や創作の「道具」として使う個人や制作会社は対象外だ。
生成型AIによる結果物がダウンロードや共有などでサービス外へ出る時点から「外部流通」とみなされ、表示義務が生じる。
表示方法は、人が認識できる可視・可聴的なウォーターマーク、またはメタデータなど機械判読方式のいずれかが認められる。ただし機械判読方式のみの場合、ダウンロード時などに少なくとも1回、AI生成である旨を案内しなければならない。
テキスト生成物も外部に流通する場合は対象となり得るが、特性上、メタデータ付与や提供時の告知といった柔軟な対応が可能とされた。
結果物がゲームやチャットボットなどサービス内部のUI（ユーザーインターフェース）内でのみ使われる場合、個別表示義務は課されない。例えばゲームでは、AIキャラクターやNPC（プレイヤーが操作しないコンピューター側のキャラクター）であることを名称や初期対話で示せば足りる。AI音声サービスも、利用開始時にAI音声であることを告知すればよい。
実在人物や現実と見分けがつかないディープフェイク生成物は、必ず人が明確に認識できる形でAI生成であることを示す必要がある。映像は再生全体を通じて、音声は再生初期に可視・可聴的に表示するのが原則だ。ただ映画やドラマなど芸術的創作物については、一部で非可視的方式も認められる。
表示義務違反に対しては、施行後1年以上の指導期間が設けられ、その間は事実調査や過料賦課が猶予される。初期段階では周知やコンサルティングが中心となる。
政府は「オープンAIやグーグルなど主要なグローバルAI企業も、すでに可視・非可視のウォーターマークを適用している」とし、今回の制度は国際的な透明性基準に沿ったもので、国内企業だけに過度な負担を課すものではないと説明している。
(c)NEWSIS
