幻辞.com

浮動小数点相対精度

ふどうしょうすうてんそうたいせいど
名詞
1
標準
floating point precision
作例 · 標準
数値解析において、計算結果の信頼性を担保するために浮動小数点相対精度を評価した。
幻辭AI · gemini-3-flash-preview
浮動小数点相対精度が不十分な場合、反復計算の中で誤差が累積して発散してしまう。
幻辭AI · gemini-3-flash-preview
精度向上のために、浮動小数点相対精度の高い倍精度型を採用することにした。
幻辭AI · gemini-3-flash-preview