jsにおける浮動小数点型演算bugの解決方法
3504 ワード
jsの浮動小数点型はどのように演算されますか?
例えば、var a=0.69;
私は6.9を得て直接このようにvar c=a*10を書きたいです;
alert(c);結果は6.89999999999999999999999995
ネットで検索すると、JS浮動小数点数演算Bugだというネットユーザーがいて、解決方法を探しています.
方法1:jsカスタム関数がある
直接関数を呼び出せばいいです.
方法2:小数点数の個数を知った上で、浮動小数点数を整数型(最後に相応の倍数で割る)に拡大して演算操作を行うことで、正しい結果が得られると考えられる
例えば、var a=0.69;
私は6.9を得て直接このようにvar c=a*10を書きたいです;
alert(c);結果は6.89999999999999999999999995
ネットで検索すると、JS浮動小数点数演算Bugだというネットユーザーがいて、解決方法を探しています.
方法1:jsカスタム関数がある
/**
*
* @param arg
* @return
*/
function checkIsNumber(arg){
if(arg != null && arg.toString() != ""){
var re = /^-?(0|[1-9]+\d*|[1-9]+\d*\.\d+|0\.\d+)$/;
if(re.test(arg.toString())){
return true;
}
}
return false;
}
/**
* ,
* :javascript , 。 。
* :arg1 arg2 、 、null、 、
* @param arg1
* @param arg2
* @return
*/
function accAdd(arg1,arg2){
if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
return null;
}
var r1,r2,m;
try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;}
try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;}
m=Math.pow(10,Math.max(r1,r2));
return (arg1*m+arg2*m)/m;
}
// Number add , 。
Number.prototype.add = function (arg){
return accAdd(this,arg);
}
/**
* ,
* :javascript , 。 。
* :arg1-arg2 ,arg1 arg2 、 、null、 、
* @param arg1
* @param arg2
* @return
*/
function accSub(arg1,arg2){
if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
return null;
}
var r1,r2,m,n;
try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;}
try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;}
m=Math.pow(10,Math.max(r1,r2));
// n=(r1>=r2)?r1:r2; //
// return ((arg1*m-arg2*m)/m).toFixed(n);
return (arg1*m-arg2*m)/m;
}
// Number subduct , 。
Number.prototype.subduct = function (arg){
return accSub(this,arg);
}
/**
* ,
* :javascript , 。 。
* :arg1 arg2
* @param arg1
* @param arg2
* @return
*/
function accDiv(arg1,arg2){
if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
return null;
}
var t1,t2,r1,r2;
try{t1=arg1.toString().split(".")[1].length;}catch(e){t1=0;}
try{t2=arg2.toString().split(".")[1].length;}catch(e){t2=0;}
with(Math){
r1=Number(arg1.toString().replace(".",""));
r2=Number(arg2.toString().replace(".",""));
return (r1/r2)*pow(10,t2-t1);
}
}
// Number div , 。
Number.prototype.div = function (arg){
return accDiv(this,arg);
}
/**
* ,
* :javascript , 。 。
* :arg1 arg2
* @param arg1
* @param arg2
* @return
*/
function accMul(arg1,arg2) {
if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
return null;
}
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{m+=s1.split(".")[1].length;}catch(e){}
try{m+=s2.split(".")[1].length;}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m);
}
// Number mul , 。
Number.prototype.mul = function (arg){
return accMul(this,arg);
}
var a=0.69;var b=10;
alert(a*b);//6.8999999999999995alert((a*100)/10);
直接関数を呼び出せばいいです.
方法2:小数点数の個数を知った上で、浮動小数点数を整数型(最後に相応の倍数で割る)に拡大して演算操作を行うことで、正しい結果が得られると考えられる
alert(11*22.9);// 251.89999999999998
alert(11*(22.9*10)/10);// 251.9