幻辞.com

丸め誤差

まるめごさ
名詞
1
標準
rounding error
作例 · 標準
膨大な計算を繰り返す過程で、丸め誤差が蓄積して結果が大きく狂った。
幻辭AI · gemini-3-flash-preview
シミュレーションの結果が理論値と僅かに異なるのは、丸め誤差のせいだろう。
幻辭AI · gemini-3-flash-preview
浮動小数点演算を扱うプログラムでは、常に丸め誤差への配慮が欠かせない。
幻辭AI · gemini-3-flash-preview