拡張精度浮動小数点数
かくちょうせいどふどうしょうすうてんすう
名詞
標準
extended precision floating point number
作例 · 標準
科学技術計算では、丸め誤差を最小限に抑えるために拡張精度浮動小数点数を使用することがある。
幻辭AI · gemini-2.5-flash-lite
この数値計算ライブラリは、内部で拡張精度浮動小数点数を採用しているため、高い精度が保証されている。
幻辭AI · gemini-2.5-flash-lite
シミュレーションの精度を上げるために、計算結果を拡張精度浮動小数点数で保存する。
幻辭AI · gemini-2.5-flash-lite
うわ、この計算、標準の浮動小数点数だと誤差が出すぎちゃう。拡張精度浮動小数点数を使わないとダメか。
幻辭AI · gemini-2.5-flash-lite