javascriptデジタル計算の精度誤差を避ける方法の一つ.

もしあなたに0.1+0.2はいくつですか?白い目で見てくれるかもしれませんが、0.1+0.2=0.3です.幼稚園の子供でさえ、このような小児科の問題に答えられます.でも、知っていますか?同じ問題はプログラミング言語において、想像の中でそんなに簡単なことではないかもしれません.
信じない?まずJSを見に来ます.varnumA = 0.1;varnumB = 0.2;alert( (numA + numB) === 0.3 );実行結果はfalseです.そうです.このコードを初めて見た時、私ももちろんtrueだと思いましたが、実行結果によってメガネを落としました.私の開け方が正しいですか?非も非もない.私たちは次のコードを実行してみます.結果はどうしてfalseなのか分かります.
 varnumA = 0.1;varnumB = 0.2;alert( numA + numB );もとは0.1+0.2=0.3000万0004だった.変ですか?浮動小数点数の四則演算については、ほとんどのプログラミング言語に類似の精度誤差があります.C+++/C((zhi/Java)という言語には精度の問題を回避するための方法がカプセル化されています.JavaScriptは弱いタイプの言語です.デザイン思想から浮動小数点に対して厳密なデータタイプはありません.精度誤差の問題は特に顕著である.なぜこの精度誤差があるのか、どのように誤差を修復するのかを分析します.
まず、私たちはコンピュータの角度に立って、0.1+0.2という小児科のような問題を考えます.コンピュータで読めるのはバイナリで、十進法ではないことを知っていますので、まず0.1と0.2をバイナリに変えてみます.
0.1=> 0.0001 1001 1001 1001…(無限ループ)
0.2=> 0.0011 0011 0011…(無限ループ)
ダブル精度の浮動小数点の部分は最大52桁まで対応していますので、両者を合わせて一列になります. 0.0100110011001101100110011001100110011001100110010010010001100浮動小数点数位の制限のために切断されたバイナリ数字です.この時、私達はもう一度10進数に変換します. 0.3000万0004です.
なるほど、この問題はどう解決しますか?欲しい結果は0.1+0.2==0.3です.
一番簡単な解決策があります.正確な精度要求を与えます.戻り値の過程で、コンピュータは自動的に四捨五入します.varnumA = 0.1;varnumB = 0.2;alert( parseFloat((numA + numB).toFixed(2)) === 0.3 );しかし、明らかにこれは一労永逸の方法ではないです.これらの浮動小数点の精度問題を解決してくれる方法があれば、どれほどいいですか?この方法を試してみましょう.Math.formatFloat = function(f, digit) {    varm = Math.pow(10, digit);    returnparseInt(f * m, 10) / m;}  varnumA = 0.1;varnumB = 0.2;alert(Math.formatFloat(numA + numB, 1) === 0.3);この方法はどういう意味ですか?精度の違いを避けるために、計算が必要な数字を10のn乗に掛け、計算機で正確に識別できる整数に換算して、さらに10のn乗を割ります.ほとんどのプログラミング言語はこのように処理精度の差があります.JSにおける浮動小数点の精度誤差を処理します.
今度また誰かに聞いたら、0.1+0.2は何ですか?注意して答えてください.
 
 
//lt;[CDATA[
if(typeof DUOHUO!='undefined')
DUOHUO.EmbodThread('.ds-thread')
//gt;