有効数字

この種の話は大抵の場合、有効数字としては一桁か、せいぜい二桁の割算ですむ場合が多い。

こういう意味のある数字を有効数字というのであるが、有効数字が三桁というのは、例えば56.2とか7.31とかいう数である。

本当の意味で有効数字が六桁も並んでいる測定があったら、その数字には正に脱帽して接すべきである。

波長の表を見ると七桁位の数字がずっと並んでいるし、現在のこの方面の実験技術と機械の精度とは、その程度の「有効数字」を得るまでに進んでいる。

この測定などが、現代の物理学で到達し得る精度の最高標準を示しているので、六桁の有効数字というのは、それほど恐ろしいものなのである。

六桁の有効数字の他の例は、三角測定の基線の長さである。

即ち四粁か五粁程度の距離を粍まで測って四捨五入して、やっと六桁の有効数字が得られるのであるから、単に長さを測るというような一番簡単な場合でも、六桁の有効数字というのが先ず極限であることが分るであろう。

物理のレポートでは、測定値の有効数字を正しく扱うことが求められる。

計算機は、指定された有効数字の範囲で結果を表示する。

彼は近似値を有効数字三桁で表した。