幻辞.com

浮動小数点

ふどうしょうすうてん
名詞
1
標準
floating point
文例 · 用例
オプションとして示されたものには、最大二五六KバイトへのRAMの拡張、プリンター接続用アダプター、カラーもしくは白黒のディスプレイ、八インチのディスクドライブ、浮動小数点演算用プロセッサー、ジョイスティックがあった。
富田倫生 パソコン創世記 青空文庫
「あなたが七歳だったとして、浮動小数点演算(なにそれ)、対数、サイン、行列反転や核反応炉に関する計算といったものに大してこだわらないとしましょう。
富田倫生 パソコン創世記 青空文庫
作例 · 標準
コンピュータでは、非常に大きな数や小さな数を扱うために浮動小数点方式が使われる。
幻辭AI · gemini-3-flash-preview
浮動小数点の計算には誤差がつきものなので、厳密な金額計算には向かない。
幻辭AI · gemini-3-flash-preview
プログラミング言語の「float」型は、単精度の浮動小数点数を表している。
幻辭AI · gemini-3-flash-preview