AIによる判定と人の関与
ある自治体が、補助金の申請書類から記載の不備や不正の疑いをスコアで示すAIを導入する。住民に不利益な判断につながりうることを踏まえ、運用の方針として最も適切なものを1つ選べ。
- A
検証データでの正解率が95%と高いので、スコアが基準を超えた申請は職員を通さず自動で不支給とする。
- B
スコアは職員の確認の参考にとどめて最終判断は職員が行い、申請者が不服を申し立てられる窓口も設ける。
- C
判定の根拠を示すと不正な申請に悪用されるおそれがあるので、申請者にはスコアの存在も理由も知らせない。
- D
学習データから性別と年齢の列を削除したので公平性は確保できており、導入後の偏りの点検は省略する。
正解と解説を見る
正解:B
人に不利益を及ぼしうるAIの判定では、人が最終判断に関わり、説明と異議申し立ての手段を用意し、導入後も偏りを点検し続ける。精度が高いことや属性の列を削除したことは、これらを省く理由にならない。
- A
誤り。正解率が高くても誤判定はなくならない。不利益な決定を人の確認なしに自動で行うのは、行動規範の点で問題が大きい。
- B
正しい。人に不利益が及びうる判断では、人が最終判断に関わること(人間の関与)と、異議を申し立てる手段を確保することが重要である。
- C
誤り。悪用を防ぐ配慮は必要だが、AIを使っていることや判断の理由をまったく示さないと、透明性と説明責任を果たせない。
- D
誤り。住所など別の項目が性別や年齢の代わりになって、偏りが残ることがある。導入後も継続して点検する必要がある。
このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。