ITパスポート 2025年 問10

生成AIの誤出力（もっともらしいが事実と異なる内容）が示す用語【ITパスポート 解説】

正解の理由

解法ステップ

1. 問題文のキーワードを読む：「もっともらしいが事実とは異なる」→ これは「見た目は正しいが中身が誤り」の意味。
2. 各選択肢の意味を確認する（わからなければ一語ずつ要点を押さえる）。
3. 意味を照らし合わせる：生成AIの誤出力に直接当てはまる用語を選ぶ。
4. 結論：生成AIの「誤ったが説得力ある出力」＝ハルシネーション（エ）。

選択肢別の誤答解説

• ア: エコーチェンバー
  • 定義：同じ意見や情報が仲間内で反響して強化される状況。新聞やSNSで自分と似た意見ばかり目にすること。
  • なぜ不正解か：社会的な情報空間の偏りを表す用語で、AIが事実と異なる出力をする現象そのものを指さないため不適切です。
• イ: シンギュラリティ
  • 定義：技術的特異点（technological singularity）：AIが人間の知能を超え、社会に大きな変化をもたらす仮説上の転換点。
  • なぜ不正解か：長期的・概念的な未来の変化を表す言葉で、個別の誤出力現象とは無関係です。
• ウ: ディープフェイク
  • 定義：深層学習（ディープラーニング）を使って作られた偽の画像や音声、映像。見た目・聞こえは本物に近いが加工されたもの。
  • なぜ不正解か：視覚・音声メディアの偽造を指す用語で、AIがテキストで誤情報を「作り出す」ハルシネーションとは用途が異なります。もちろん関連はありますが、設問の定義（事実と異なる出力）に最も直接当てはまるのはハルシネーションです。
• エ: ハルシネーション（正解）
  • 定義：AIが確証のない情報や間違った事実を、あたかも正しいかのように生成する現象。生成AIの分野で広く使われる用語です。

よくある誤解

1. ハルシネーションは「AIがわざと嘘をつく」わけではない
   • 誤解：AIが人間のように「意図」して嘘をつくと思う人がいます。
   • 本当：多くの生成モデルは過去のデータから「次に来やすい語」を予測して出力するため、事実確認を行わずに誤情報を組み合わせてしまいます。意図的ではなく仕組み上の問題です。
2. ハルシネーションと「古い情報の参照」は同じではない
   • 誤解：モデルが古い学習データのために間違うことを全てハルシネーションと考える人がいます。
   • 本当：情報が古いのは「知識の更新不足」。一方でハルシネーションは存在しない事実を作ること。両方が混在することはありますが区別して理解すると対処がしやすくなります。
3. ディープフェイクとハルシネーションは同じではない
   • 誤解：どちらも「偽り」を作るから同じだと思われがちです。
   • 本当：ディープフェイクは主に画像・動画・音声の偽造で、ハルシネーションはテキストなどの生成物が虚偽になる現象です。用途や対策が異なります。

補足コラム

• 出力を鵜呑みにしない：AIの回答は「参考情報」として扱い、必ず信頼できる一次情報（公式サイト、学術論文、政府発表など）で確認する習慣をつけましょう。
• 出典を求める：プロンプト（AIへの指示）で「出典を示してください」と要求すると、検証しやすくなります。ただしAIがでっち上げる出典もあるため注意が必要です。
• 検索で裏取り：AIが示した事実や数値は、別途検索エンジンやデータベースで確認するのが安全です。
• RAG（Retrieval-Augmented Generation：外部情報を取りに行く手法）や、信頼できる知識ベースと組み合わせたシステムを使うとハルシネーションは減少します。専門家のレビューも有効です。
• パラメータやプロンプトの工夫：生成の「temperature（ランダム性を制御するパラメータ）」を低めにする、明確な条件で問いを出す等で不正確な生成を減らせます。

FAQ