2019-02-27 Excel (Office 365) > 平均の仕方によって平均値は異なる > A. 300個平均(3.155899443), B. 60個平均を5個平均(3.144454011) > 誤差(0.011445431)
Windows 8.1 Pro (64bit)
Excel Office 365 (Excel 2016)
計算が合わない
- A. 3600個のデータの平均
- B. (60個のデータの平均)の60個の平均
Excelを使うと、上記のAとBが整合しない。
手計算(自分のソフト)ではAもBも整合する。
EXCELの誤差
試したこと
下記を試した。
- 300個のデータセット
- 299個は3.14159265358979
- 1個は4.0
- A. 300個の平均
- B. (60個の平均)の5個の平均
結果
A. 3.155899443
B. 3.144454011
誤差|A-B| = 0.011445431
備考
300個すべての値を3.14159265358979とした時はAもBも同じ結果でした。
まとめ
- EXCELで平均計算するときは計算の仕方に気を付けましょう
- 手計算とEXCEL計算が合わない理由は上記の状況のためかもしれません
提供情報1
EXCELの誤差については、Qiitadonで下記のように教えていただきました。
https://qiitadon.com/@hidao/101662908455757065
@hidao さんWrote
Excelは数値を内部的に2進数で保持しているので、小数使うと誤差出ます。
建築屋の兄が言うので間違いないと思います。
続けて@hidaoさん、@7of9、@real_yaruo さんの関連Tootは上記のリンク先を参照ください。
提供情報2
Excelの誤差について、@hidaoさんから関連情報を教えていただきました。
情報感謝です。
https://qiitadon.com/@hidao/101663047773685004
@hidaoさん Wrote
Excel誤差のMSによる公式見解
上記記事の英語版は下記のようです。
https://support.microsoft.com/en-us/help/78113/floating-point-arithmetic-may-give-inaccurate-results-in-excel
@hidaoさん、情報感謝です。
記載内容について
@hidaoさん
@real_yaruo さん
記載内容に問題があればご連絡ください。
対処いたします。
あるいは、補足情報がありましたら、編集リクエストください。
Author And Source
この問題について(2019-02-27 Excel (Office 365) > 平均の仕方によって平均値は異なる > A. 300個平均(3.155899443), B. 60個平均を5個平均(3.144454011) > 誤差(0.011445431)), 我々は、より多くの情報をここで見つけました https://qiita.com/7of9/items/be2d046d91ea2aff5c3e著者帰属：元の著者の情報は、元のURLに含まれています。著作権は原作者に属する。
Content is automatically searched and collected through network algorithms . If there is a violation . Please contact us . We will adjust (correct author information ,or delete content ) as soon as possible .