情報処理安全確保支援士 2021年 秋期 午前2 問01
問題文
AIによる画像認識において、認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによってAIアルゴリズムの特性を悪用し、判定結果を誤らせる攻撃はどれか。
選択肢
ア：Adaptively Chosen Message攻撃
イ：Adversarial Examples攻撃（正解）
ウ：Distributed Reflection Denial of Service
エ：Model Inversion攻撃
AIによる画像認識におけるノイズを用いた攻撃とは【午前2 解説】
要点まとめ
- 結論：画像認識AIの判定を誤らせる攻撃は「Adversarial Examples攻撃」です。
- 根拠：人間には気づかない微小なノイズを加え、AIの判断を誤らせる特徴的な手法だからです。
- 差がつくポイント：ノイズを用いてAIの脆弱性を突く攻撃であり、他の選択肢は異なる攻撃手法である点を理解しましょう。
正解の理由
「イ: Adversarial Examples攻撃」は、画像に人間には知覚できない微小なノイズを加えることで、AIの画像認識モデルを誤認識させる攻撃手法です。これはAIの学習モデルの特性を悪用し、判定結果を意図的に誤らせるため、問題文の条件に完全に合致します。
よくある誤解
ノイズを使う攻撃はDDoSなどのサービス妨害攻撃と混同されがちですが、Adversarial ExamplesはAIの判定誤りを狙う点で異なります。
解法ステップ
- 問題文の「人間には知覚できないノイズや微小な変化を含める」という表現に注目する。
- AIの判定結果を誤らせる攻撃であることを確認する。
- 選択肢の意味を整理し、AIの画像認識に特化した攻撃を選ぶ。
- 「Adversarial Examples攻撃」が該当することを判断する。
選択肢別の誤答解説
- ア: Adaptively Chosen Message攻撃
暗号解析などで使われる手法で、画像認識のノイズ攻撃とは無関係です。 - イ: Adversarial Examples攻撃
AIの画像認識モデルに微小なノイズを加え誤認識させる攻撃で正解です。 - ウ: Distributed Reflection Denial of Service
DDoS攻撃の一種で、サービス妨害を目的とし画像認識の誤認識とは異なります。 - エ: Model Inversion攻撃
AIモデルから学習データの情報を逆算する攻撃で、判定誤りを狙うものではありません。
補足コラム
Adversarial Examples攻撃は、AIの安全性・信頼性を脅かす重要な問題として研究が進んでいます。防御策としては、敵対的サンプルを用いた学習（敵対的訓練）や検出技術の開発が行われています。
FAQ
Q: Adversarial Examples攻撃はどのように作成されますか？
A: AIモデルの勾配情報を利用し、微小なノイズを画像に加えて誤認識を誘発します。
A: AIモデルの勾配情報を利用し、微小なノイズを画像に加えて誤認識を誘発します。
Q: 人間には気づかないノイズでもAIは誤認識するのはなぜですか？
A: AIは特徴抽出に敏感で、微細な変化が判定に大きく影響するためです。
A: AIは特徴抽出に敏感で、微細な変化が判定に大きく影響するためです。
関連キーワード: Adversarial Examples, 画像認識、AIセキュリティ、敵対的攻撃、機械学習脆弱性
\ せっかくなら /
情報処理安全確保支援士を
クイズ形式で学習しませんか？
クイズ画面へ遷移する→
すぐに利用可能！