幻辞.com

浮動小数点表示

ふどうしょうすうてんひょうじ
名詞
1
標準
floating-point representation
作例 · 標準
科学的な計測値は、桁数が多くなるため浮動小数点表示で記録されることが多い。
幻辭AI · gemini-3-flash-preview
計算機のディスプレイに、非常に小さな値が浮動小数点表示で現れた。
幻辭AI · gemini-3-flash-preview
浮動小数点表示に慣れていないと、指数部の意味を読み間違えることがある。
幻辭AI · gemini-3-flash-preview