浮動小数点の誤差
M社の経費精算システムで、Pythonで計算した 0.1 + 0.2 == 0.3 の結果が False になり、金額の照合に失敗した。原因と対処の組み合わせとして、最も適切なものを1つ選べ。
- A
使っているPythonの版の不具合が原因で、別の版のPythonに入れ替える
- B
小数を2進数で正確に表せない誤差が原因で、十進数型や整数の単位で扱う
- C
足し算の順番が原因で、0.2 + 0.1 の順に書き直せば True になる
- D
比較演算子の書き方の誤りが原因で、== を = に直せば正しく比べられる
正解と解説を見る
正解:B
浮動小数点数は2進数で近似されるため、小数の計算にわずかな誤差が出る。金額の計算では十進数型や整数を使い、等しいかどうかは許容誤差を決めて比べる。
- A
誤り。浮動小数点数の一般的な性質で、多くの言語で同じように起きる。版を替えても解決しない。
- B
正しい。浮動小数点数では0.1などに誤差が生じる。金額は、decimal型や、銭などの整数の単位で扱うと誤差を避けられる。
- C
誤り。順番を入れ替えても、2進数で表すときの誤差は残る。
- D
誤り。= は代入で、比較には使えない。原因は数値の表し方にある。
このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。