JavaScript浮動小数点数演算——精度問題
2672 ワード
JavaScript小数は4つの演算を行うと精度が失われ、プロジェクトで多くの不便を引き起こす可能性があります.まず、次のスクリプトを見てください.
通常の計算では、最初の行を除いて(それ自体が除去できないため)、他は正確な結果を得るべきで、ポップアップの結果から私たちが望んでいる正確な結果ではないことを発見しました.浮動小数点数の演算が不正確な問題を解決するために,演算前に演算に参加する数を整数にアップグレードし,演算が完了してから降格(0.1のXの次数)する.後で使うために、ここに集めて整理して貼ります.
テスト
<script type="text/javascript" language="javascript">
alert(1/3);// : 0.3333333333333333
alert(0.09999999 + 0.00000001);// : 0.09999999999999999
alert(-0.09999999 - 0.00000001);// : -0.09999999999999999
alert(0.012345 * 0.000001);// : 1.2344999999999999e-8
alert(0.000001 / 0.0001);// : 0.009999999999999998
</script>
通常の計算では、最初の行を除いて(それ自体が除去できないため)、他は正確な結果を得るべきで、ポップアップの結果から私たちが望んでいる正確な結果ではないことを発見しました.浮動小数点数の演算が不正確な問題を解決するために,演算前に演算に参加する数を整数にアップグレードし,演算が完了してから降格(0.1のXの次数)する.後で使うために、ここに集めて整理して貼ります.
//
Number.prototype.add = function(arg){
var r1,r2,m;
try{r1=this.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (this*m+arg*m)/m
}
//
Number.prototype.sub = function (arg){
return this.add(-arg);
}
//
Number.prototype.mul = function (arg)
{
var m=0,s1=this.toString(),s2=arg.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
//
Number.prototype.div = function (arg){
var t1=0,t2=0,r1,r2;
try{t1=this.toString().split(".")[1].length}catch(e){}
try{t2=arg.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(this.toString().replace(".",""))
r2=Number(arg.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}
テスト
<script type="text/javascript" language="javascript">
/*
alert(0.09999999 + 0.00000001);// : 0.09999999999999999
alert(-0.09999999 - 0.00000001);// : -0.09999999999999999
alert(0.012345 * 0.000001);// : 1.2344999999999999e-8
alert(0.000001 / 0.0001);// : 0.009999999999999998
*/
alert(Number(0.09999999).add(0.00000001));// : 0.1
// , , Number ,
alert(Number(-0.09999999).sub(0.00000001));// : -0.1
alert(Number(0.012345).mul(0.000001));// : 1.2345e-8
alert(Number(0.000001).div(0.0001));// : 0.01
</script>