AI判定への不服の受け付け
F市は、保育所の入所選考で、申請内容から優先度の点数案をAIで算出し、職員が確認して決定する運用を始める。住民に対する運用の設計として最も適切なものを1つ選べ。
- A
AIを使っていることと判断の主な根拠を説明し、不服があれば人が審査し直す窓口を設ける。
- B
AIの判定は基準が一定で公平なので、不服の申し出があっても判定結果を維持する。
- C
最終決定は職員が行うので、選考にAIを使っていることを住民に知らせる必要はない。
- D
判断の根拠を示すと悪用されるおそれがあるので、問い合わせには結果だけを伝える。
正解と解説を見る
正解:A
公共分野などの重要な判断にAIを使うときは、AIを使っていることと判断の根拠を説明し、人が見直す仕組みを用意する。人が最終確認しているからといって、説明の責任はなくならない。
- A
正しい。住民の生活に関わる判断では、AIを使っていることの説明と、人による見直しの手段を用意することが信頼の前提になる。
- B
誤り。学習データの偏りや入力の誤りで、判定を誤ることがある。見直しの手段は必要である。
- C
誤り。人が関わっていても、AIの点数案は判断に大きく影響する。使っていることを説明すべきである。
- D
誤り。根拠を示さなければ、住民は誤りがあっても気づけず、不服を申し立てることもできない。
このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。