2010-11-05から1日間の記事一覧
端数処理というと、切捨、切上、四捨五入、JIS丸めの4種類と思われがちですが、 端数を切り上げて整数にするという場合のルールは実は2種類あります。①整数値を少しでも超えていたら切り上げるケース 例)0.01→1②端数処理後有効桁の次の桁、つまり少数…
端数処理というと、切捨、切上、四捨五入、JIS丸めの4種類と思われがちですが、 端数を切り上げて整数にするという場合のルールは実は2種類あります。①整数値を少しでも超えていたら切り上げるケース 例)0.01→1②端数処理後有効桁の次の桁、つまり少数…