問題文
金融の勘定系で小数の計算を何万回も繰り返したところ、合計が手計算の値とわずかに食い違った。浮動小数点数の丸め誤差の説明として適切なものはどれか。
選択肢
- 文字の符号を別種の文字集合に変換する過程で未定義の文字が混入する現象である
- 近似の数値を近接の減算処理に適用する過程で有効桁の数が減少する現象である
- 整数の数値を規定の上限に照合する過程で上位の桁部分が消失する現象である
- 実数の数値を有限の記憶桁数に変換する過程で下位側の情報量が欠落する現象である
プロジェクトマネージャ試験 のフリー問題 1 / 20 問目
金融の勘定系で小数の計算を何万回も繰り返したところ、合計が手計算の値とわずかに食い違った。浮動小数点数の丸め誤差の説明として適切なものはどれか。
正解と解説の確認、回答の記録には無料登録が必要です。登録すると演習モードでフリー問題に回答し、正誤と解説をその場で確認できます。