備忘録めもらんだむ | どうしたら易しく面白くなるか もっと楽にならないか |
トップ > 備忘録 > さ行 > 数値の丸め方 | おもしろがりホーム | ||||||||
おすすめの 出し物 |
|||||||||
数値の丸め方 すうちのまるめかた | |||||||||
例えば、0.1244 0.1246 0.1245 0.1255 という数値を有効数字3桁にまとめようとするとき、 |
|||||||||
┌─ @ 左から4桁目が3桁目の1単位の1/2より小さい場合 │ 0.1244 → 0.124 4桁目は切り捨てる。 ┌─ A 左から4桁目が3桁目の1単位の1/2より大きい場合 │ 0.1246 → 0.125 4桁目は切り上げる。 ┌─ B 左から4桁目が3桁目の1単位の1/2の場合 │ │ 3桁目が、0,2,4,6,8 であれば │ 0.1245 → 0.124 4桁目は切り捨てる。 ┌─ C 左から4桁目が3桁目の1単位の1/2の場合 │ │ 3桁目が、1,3,5,7,9 であれば │ 0.1235 → 0.124 4桁目は切り上げる。 |
|||||||||
あ行 か行 さ行 た行 な行 は行 ま行 や行 ら行 わ行 <>・<>・<>・<>・<>・<>・<>・<>・<>・<> |
|||||||||
もし、4桁目が、以前に切り捨て又は切り上げた数値であるのかわからない場合には、B又はCの方法に従う。以前に切り捨て又は切り上げた数値であることがわかっている場合は、@又はAの方法に従う。 | |||||||||
Copyright (C) omoshirogari. All Rights Reserved. | |||