幻辞.com

数値計算

すうちけいさん
名詞名詞-の形容詞
1
標準
numeric operation
文例 · 用例
特に数値計算の類は、段違いだ。
富田倫生 青空のリスタート 青空文庫
コンピューターといえば数値計算を行うもの、要するに電子計算機であるというセンスがまだまだ強く残っていた時期である。
富田倫生 パソコン創世記 青空文庫
作例 · 標準
数値計算ライブラリを使って、衛星軌道の予測プログラムをPythonで実装した。
Illusions AI · claude-sonnet-4-6
数値計算の誤差が積み重なって最終結果がずれていたため、倍精度浮動小数点数に切り替えて対処した。
Illusions AI · claude-sonnet-4-6
物理シミュレーションの授業では、解析解が求められない問題を数値計算で解くことの意義を学んだ。
Illusions AI · claude-sonnet-4-6