Lua指定小数位数保持

501 ワード

デフォルトでは四捨五入されます
  • 例えば:%0.2 fは四捨五入した後、小数点後2位
  • を保持する
    Luaは小数を1桁保持
    --- nNum    
    --- n     
    function Tool. GetPreciseDecimal(nNum, n)
        if type(nNum) ~= "number" then
            return nNum;
        end
        n = n or 0;
        n = math.floor(n)
        if n < 0 then
            n = 0;
        end
        local nDecimal = 10 ^ n
        local nTemp = math.floor(nNum * nDecimal);
        local nRet = nTemp / nDecimal;
        return nRet;
    end
    

    参照先:https://www.cnblogs.com/pk-run/p/4444582.html