2010-11-05から1日間の記事一覧

端数の切り上げ処理に注意

端数処理というと、切捨、切上、四捨五入、JIS丸めの4種類と思われがちですが、 端数を切り上げて整数にするという場合のルールは実は2種類あります。①整数値を少しでも超えていたら切り上げるケース 例)0.01→1②端数処理後有効桁の次の桁、つまり少数…