幻辞.com

浮動小数点演算

ふどうしょうすうてんえんざん
名詞
1
標準
floating-point arithmetic
文例 · 用例
オプションとして示されたものには、最大二五六KバイトへのRAMの拡張、プリンター接続用アダプター、カラーもしくは白黒のディスプレイ、八インチのディスクドライブ、浮動小数点演算用プロセッサー、ジョイスティックがあった。
富田倫生 パソコン創世記 青空文庫
「あなたが七歳だったとして、浮動小数点演算(なにそれ)、対数、サイン、行列反転や核反応炉に関する計算といったものに大してこだわらないとしましょう。
富田倫生 パソコン創世記 青空文庫
作例 · 標準
物理シミュレーションを高速化するために、浮動小数点演算に特化したチップを導入した。
幻辭AI · gemini-3-flash-preview
このCPUは、先代のモデルに比べて浮動小数点演算の性能が大幅に向上している。
幻辭AI · gemini-3-flash-preview
複雑なグラフィック描写には、膨大な回数の浮動小数点演算が必要になる。
幻辭AI · gemini-3-flash-preview