韓国の研究チームが、人工知能（AI）の安全性に不可欠な要素である「頑健性」を確保し、改善するための条件を数学的に証明し、注目を集めている。
UNIST（蔚山科学技術院）は19日、人工知能大学院のユン・ソンファン教授の研究チームが、AI学習に不可欠なプロセスである「データ増強」を通じて、AIモデルの頑健性をどのように高められるかに関する条件を数学的に証明したと発表した。
韓国メガ・ニュース（MEGA News）のパク・ヒボム記者の取材によると、頑健性とは、AIがどのような状況でも安定して動作する程度を指す。
ユン・ソンファン教授は「吹雪の中でも車線を逸脱しない自動運転車や、低解像度の画像でもがんを診断する医療AIなどを実現するには、AIモデルの『頑健性』が優れていなければならない。データ増強はこうした頑健性を高める手法として広く使われてきた。今回その正確な頑健性向上の条件を数学的に明らかにした」と説明した。
ディープラーニングモデルは、学習したデータとわずかに異なる環境にさらされるだけで性能が急激に低下する。元のデータに人工的な変形を加えて学習量を増やす「データ増強」が不可欠な理由はここにある。しかし、どの変形手法が最も効果的なのかは明確にされておらず、数多くの試行錯誤を繰り返す必要があった。
研究チームは今回の研究で「PSA（Proximal-Support Augmentation）」という条件を満たすデータ増強であるほど、望ましい効果を得られることを明らかにした。PSAは、元のデータに微細な変形を加え、元データの周辺を密に埋める増強方式を指す。
研究チームはまず、データ空間とパラメータ空間での変化が互いに対応していることを証明し、そのうえでPSA条件を満たすデータ空間での変化が、パラメータ空間における損失関数の地形を平坦にするという事実を立証した。入力データの周辺を密に埋めることで、それに対応するモデル内部のパラメータ空間も平坦になり、AIが頑健性を備えるという。
モデルの損失関数地形が平坦（Flat Minima）である場合、尖った地形（Sharp Minima）に比べて頑健性が高かった。実際の実験でも、PSA条件を満たしたデータ増強手法は、それを満たさない手法に比べて圧倒的に高い頑健性を示した。
ユン・ソンファン教授は「データ増強の設計を、より体系的な科学に昇華させた研究。自動運転、医用画像、製造検査のように分布が頻繁に変化する実環境において、信頼できるAIモデルを作るための重要な理論的基盤になる」と語った。
(c)KOREA WAVE
