2024 年 12月 23日 (月)
ホーム経済IT/メタバースサイバー攻撃への懸念 韓国でブーム「プロンプト」とは何だ (5)

サイバー攻撃への懸念 [KWレポート] 韓国でブーム「プロンプト」とは何だ (5)

米オープンAI社が開発したAIチャットロボット「チャットGPT」(c)ロイター/news1

プロンプトエンジニアの将来についての懐疑的な見方もある。

生成型AIが高度化すればするほど、自然言語(人間が意思疎通のため用いる言語)の理解度が高まり、プロンプトエンジニアが必要ではなくなる――という見通しだ。生成型AI時代のプロンプトを的確に記す能力というものは基本的な素養であり、特定の職業にはなり得ない、というわけだ。

イノベーションに詳しい米ペンシルバニア大学ウォートンスクールのイーサン・モリック(Ethan Mollick)教授(経営学)は「プロンプトエンジニアリングは未来の職業ではない」とみる。

文章から画像を作成するイメージ生成型AI「ミッドジャーニー(Mid Journey)」が、バージョン3からバージョン4にアップグレードされ、簡単なプロンプトを書くだけで、求めるイメージを描き出せるようになった。

このように、AI利用のハードルがますます下がる、と期待されている。

英ケンブリッジ大学の機械学習研究ディレクター、エイドリアン・ウェラー(Adrian Weller)氏も次のような見解を持つ。

「プロンプトによって、生成型AIと作用し合うことは非常に価値のある。だが、それが持続するかの確信はない。プロンプトエンジニアリングの現状に執着すべきではない。急速な進化を始めたからだ」

インターネットの初期、人気を集めた「インターネット情報検索士」も今、その存在はわからなくなった。「『情報検索士』の二の舞になるだろう」。ウェラー氏はこう指摘する。

◇「脱獄」

プロンプトの可能性が大きくなるにつれ懸念も高まる。新たなハッキング手法である「プロンプト・インジェクション(Injection)」の出現だ。

システムの抜け穴を使って悪意のあるプロンプトを入力し、情報を流出・操作するサイバー攻撃だ。

かつて、米マイクロソフト(MS)のAIチャットボット「Tay」が人種差別的な発言をするよう洗脳したり、BingのAIチャットボットが本来はユーザーへの開示が禁じられている事項を明かしたりするようにしたのも、プロンプトインジェクションの仕業だ。

また、チャットGPTに「DAN(Do Anything Now)」というプロンプトを入力して、米オープンAI社が定めた規則から抜け出させ、有害な返事ができるようになる「脱獄方法」も流行した。

オープンAI社は即座にこの問題に対応したが、その後も、より複雑で多様な脱獄プロンプトが作られている。同社のサム・アルトマン(Sam Altman)最高経営責任者(CEO)は「利用者がより多くの統制権を持って、広範囲にAIモデルを活用できるようになれば、脱獄も減るだろう」とみている。

(つづく)

(c)MONEYTODAY

RELATED ARTICLES

Most Popular