Googleの人工知能（AI）アルファゴー（AlphaGo）が2016年、囲碁の天才イ・セドル9段に勝利した「事件」は、世界中に大きな衝撃を与えた。一方で、AIの途方もない潜在力と発展の可能性への期待感から、韓国政府はもちろん、企業から大学から社会全般にわたって、AIに対する投資熱が高まった。それから5年経った昨年、AIチャットボット「イルダ」の事件が起き、AIを誤って扱えば、どれほど危険な状況が生じてしまうのか、知らされることになった。
そんななかで「AIは良心がない」（ヘイブックス/1万8800ウォン）＝写真＝がこのほど発刊された。
著者で、ソウル女子大のキム・ミョンジュ教授は、検察と警察にコンピューター犯罪捜査手法を教育してきた専門家。「情報保護とデジタル倫理がますます重要になっている」と強調する。AIによる副作用や逆機能、危険を法律的に解決することは容易ではない。AIの発展スピードが速すぎ、法律が追いつかないからだ。
それゆえ、著者は、スタートの段階から発展方向を正しく定め、最大限、社会的な論議を経る必要があると主張する。核心は「AI倫理」だ。AIによって社会的大転換が始まれば、副作用と逆機能、はなはだしくは「深刻な危険」が明らかになったとしても、その時点で元に戻すことは不可能なためだ。
われわれは、AIが開く未来に正しい方向性を提示するとともに、具体的な準備をしなくてはならない。少数の専門家だけではなく、社会構成員全員が、後戻りできない社会大転換によって発生する可能性がある問題・状況について理解し、共感する必要があるというのだ。
キム・ミョンジュ教授は、未来において、AIに裏切られることなく、ともに生きていくための「倫理」の必要性を強調する。倫理は、価値判断の基準で、人が持っている良心に基づく。だがAIには良心は存在しない。
この本では、AIの特性をもとに導き出された「PACT（協定）」を強調する。「公共性」（Publicness）▽「責務性」（Accountability）▽「統制性」（Controllability）▽「透明性」（Transparency）――の4つの基本原則を出発点として、具体的なAI実務指針と法律などを作成しなければならない、ということだ。
経済協力開発機構（OECD）が2019年に発表したAI倫理原則や、2020年の韓国「国家人工知能倫理基準」も同様の基準を提示している。
©MONEYTODAY
