このサイトはお使いのブラウザでは正常に動作しません。Google Chromeなど、別のブラウザを使用してください。
有効数字
有効数字の根本的なルールから分からない可能性がありますが、以下の問題の解説をお願いさせていただきたいです🙇♀️
回答
しみ りつ さん、こんばんは。
有効数字って、どちらかというと科学のほうで気にしますね。
数学ではあまり気にしないので、うまい説明ができるかどうか…
要するに「信用していい桁数」です。
3なら1桁ですが、3.0と書かれていれば小数点以下1桁まで書かれているので信用できます。有効数字は2桁です。
この場合は真の値は3.02なのか3.07なのかは不明ですが、小数点以下1桁3.0までは信用していいという意味でです。
3.00とかかれていれば、3.003なのか3.008なのかは分かりませんが、3.01ではないことが分かります。有効数字は3桁です。
3.4と書かれていれば3.43なのか3.49なのかはわからないけれど3.4までは信用していいということで、有効数字は2桁です。
3000のように整数で後ろに0があるときはどこまで信じていいのか分かりにくいので書き換えて
3×10³なら1桁
3.0×10³なら2桁
3.00×10³なら3桁が有効数字だと分かります。
ただし、0.01みたいに左にある0は位を表すために出てきた数なので有効数字には数えません。0.01は1桁です。
でも0.010は2桁です。わかりますか?
あと、10の累乗をかける形にして有効数字をはっきりさせる時は、
3200を320×10では3桁、32×10²なら2桁、3.2×10³も2桁、3.20×10³なら3桁です。わかりますか?
たいていは数字の方を1以上10未満にして表すようです。たとえばQ8(2)では75×10²でもいいですが、7.5×10³のほうが普通みたいですよ。
質問の問題の答は持っていますか?やってみて納得できない問題をまず1つ聞いてください。
すみません再度分からない問題がありました🙇♀️ 0.0166(有効数字2桁)=1.6×10^-2が 間違えており、1.7×10^-2でした なぜ1.7になるんでしょうか?
ごめんなさい、有効数字とかはあまり厳密に考えたことがなかったもので。調べたら、有効数字を小さくする(切り詰める)ときは、その下の桁は四捨五入するみたいです。いい加減で申し訳ない。
こちらこそすみません🙇♀️ 理解できました ありがとうございます