代理変数による不公平
G銀行は、ローンの審査を支援するモデルを作っている。性別による不当な差が出ないよう、入力する項目から性別を除いた。公平性を確保するための対応として、適切なものを2つ選べ。
- A
性別と強く関係する項目(特定の職種や購買の傾向など)が、性別の代わりとして働いていないかを確認する。
- B
性別の項目は除いたので、モデルの出力に性別による差は生じないとみなし、追加の確認は省略する。
- C
公平性の確認に性別のデータを使うことも差別につながるので、評価用のデータからも性別を削除する。
- D
承認率などの審査結果を性別ごとに集計し、許容できない差が生じていないかを継続的に確認する。
正解と解説を見る
正解:A・D
保護すべき属性を入力から除いても、代理変数を通じて差が生じることがある。公平性を確保するには、代理変数の確認と、結果を属性別に評価し続けることの両方が必要である。
- A
正しい。性別を除いても、性別と関係の強い代理変数を通じて、差が再び生じることがある。
- B
誤り。代理変数を通じて差が残ることがあるため、項目を除いただけでは公平性を保証できない。
- C
誤り。属性の情報がなければ、差の有無を確認できない。適切に管理したうえで、評価に使う必要がある。
- D
正しい。公平性は、結果を属性別に比べて初めて確認できる。運用を始めた後も監視を続ける必要がある。
このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。