ハルシネーション

正解：A

ハルシネーションは、生成AIがもっともらしいが事実と異なる内容を出力する現象で、出典や事実の確認が欠かせない。外部からの指示で動作を乗っ取る攻撃(プロンプトインジェクション)や、学習の問題である過学習とは別の現象。

• A

  正しい。生成AIの代表的な課題で、出力の事実確認が必要になる。

• B

  誤り。訓練データに合わせすぎて、未知のデータで精度が下がる現象。

• C

  誤り。入力に紛れ込ませた指示で、生成AIに想定外の動作をさせる攻撃。

• D

  誤り。運用中に入力データの傾向が学習時から変わる現象。

学習のポイント：生成AIの代表的なリスクは、名前と起きる仕組みを結びつけて区別する。