加算と減算で有効数字を使用する方法

不正確な数値を既存の数値と組み合わせただけでは、より正確にすることはできません。 そのため、精度の異なる数の数学演算のルールが存在し、これらのルールは有効数字に基づいています。 ただし、足し算と引き算のルールは、掛け算と割り算のルールと同じではありません。 また、足し算と引き算のルールは、小数点以下の桁数で理解しやすい場合があります。

2つのスケールがあるとします。 1つは0.1gの増分で読み取り、もう1つは0.001gの増分で読み取ります。 最初のスケールで2.3gの塩を測定し、これを2番目のスケールで計量した0.011グラムの塩と組み合わせると、合計質量はどのくらいになりますか? まあ、それはあなたがそれをどのスケールで計量するかに依存します。 最初のスケールではまだ2.3gですが、2番目のスケールでは2.311、2.298、または2.342になる可能性があります。 あなたが知っているのが2つの元の質量だけである場合、0.1gの精度しか想定できません。 したがって、最終結果の精度は、2つの数値の小数点以下の桁数の最小値によって決定され、その小数点以下の桁数に丸められます。 この場合、2.3 + 0.011→2.3です。 その他の例:100.19 + 1→101、100.49 + 1→101、100.51 + 1→102、および0.034 + 0.0154→0.050。 末尾のゼロは、小数点以下3桁までの精度を維持するためです。 ただし、0.0340 + 0.0154→0.0494。 -.0340の4の後の0が重要であるため、小数点以下4桁を保持します。

Teachs.ru
  • シェア
instagram viewer