演算精度
えんざんせいど
名詞
標準
operational precision
作例 · 標準
金融計算では、誤差を許容できないため、非常に高い演算精度が求められる。
幻辭AI · gemini-2.5-flash
浮動小数点演算の演算精度は、ビット数によって決まる。
幻辭AI · gemini-2.5-flash
このソフトウェアは、設定で演算精度を変更できるため、用途に合わせて調整が可能だ。
幻辭AI · gemini-2.5-flash
シミュレーション結果の信頼性を高めるには、演算精度を確保することが不可欠だ。
幻辭AI · gemini-2.5-flash