近似値と有効数字の計算問題
四捨五入して有効数字の概数で表す
この単元のポイント
公式と考え方
測定値などで,信頼できる位までの数字を有効数字といいます。有効数字をはっきり示すときは,()の形で表します。
- 有効数字の桁数を指定されたら,その次の位を四捨五入します。
- の形では, の部分が有効数字を表します。 を有効数字3桁で表すと, です。
- 位取りのための0は有効数字に含めず, の累乗で表します。
例題と解き方
を有効数字2桁で表しなさい。
- と表します。
- 有効数字2桁にするため,3桁目を四捨五入して, です。
m を有効数字3桁で表しなさい。
- です。
- m です。
よくある間違い
- 位取りの0まで有効数字に数えてしまう。
- 四捨五入する位を間違える。指定された桁数の,ひとつ下の位で四捨五入します。