システム監査技術者 2023年 午前2 問01

AI学習データの信頼性管理【午前2解説】

正解の理由

解法ステップ

1. 問題の対象が、学習データの「管理」であることを確認します。
2. 選択肢ごとに、ログ取得やバックアップ、アクセス制御などの管理策が適切に機能しているかを見ます。
3. データの信頼性を損なう状況、特に根拠のない判断や検証不足がないかを確認します。
4. AIの判断を検証せずにデータとして利用しているエを選びます。

選択肢別の誤答解説

• ア：サーバのアクセスログを取得し、定期的に確認しています。誰がデータにアクセスしたかを追跡しやすくするための対策であり、責任追跡性の確保に役立ちます。
• イ：データ消失時にバックアップから復旧し、学習を再開する手順を定めています。データの可用性や事業継続の観点で有効な対策です。
• ウ：サーバにアクセス制御を実装しています。許可された利用者だけがデータにアクセスできるようにするもので、機密性の確保に役立ちます。
• エ：AIが判断したというだけでデータの正しさを認め、検証なしに利用しています。信頼性を確かめる手続が不足しているため、指摘事項に該当します。

よくある誤解

• AIが作成・判断したデータなら信頼できると思う
  AIの出力には誤りや偏りが含まれることがあります。出力元の実績だけでなく、データの正確性や利用目的への適合性を確認する必要があります。
• バックアップがあればデータ管理は十分だと思う
  バックアップは消失への備えです。データの正確性や妥当性を保証するものではありません。
• アクセス制御があればデータの品質も保てると思う
  アクセス制御は、誰がデータを利用できるかを管理する対策です。データの内容が正しいかどうかは、別途確認が必要です。

補足コラム

FAQ