accuracy C++ Builder XE4 > 違い > this->ScaleBy(100 / s_curFactor, 100); と this->ScaleBy(100, s_curFactor * 100); > 前者では計算誤差が生じるaccuracygeometrybugcppBuilderdifferencebug c++ builder > 数値の精度にはまる > FLT_EPSILON > std::lround() / SimpleRoundTo()数値計算cppBuilderaccuracytrap数値計算 2019-02-27 Excel (Office 365) > 平均の仕方によって平均値は異なる > A. 300個平均(3.155899443), B. 60個平均を5個平均(3.144454011) > 誤差(0.011445431)differenceaccuracyExcelExcel
C++ Builder XE4 > 違い > this->ScaleBy(100 / s_curFactor, 100); と this->ScaleBy(100, s_curFactor * 100); > 前者では計算誤差が生じるaccuracygeometrybugcppBuilderdifferencebug c++ builder > 数値の精度にはまる > FLT_EPSILON > std::lround() / SimpleRoundTo()数値計算cppBuilderaccuracytrap数値計算 2019-02-27 Excel (Office 365) > 平均の仕方によって平均値は異なる > A. 300個平均(3.155899443), B. 60個平均を5個平均(3.144454011) > 誤差(0.011445431)differenceaccuracyExcelExcel