データ型-実数の表示

2465 ワード
Java テキストリンク

1.浮動小数点方式

  • エラーは整数よりも正確であるため、整数とは異なる方法で表さなければならない.
    • 実数値0.1は
  • 浮動小数点として表される
  • 指数部と可数部は、
    • を示す.
  • コンピュータ使用基数2の
  • 正規化:歌手は底数より小さい歌手として表現される.
  • コンピュータでは,ベースが2であるため正規化を行う場合,歌手部分の1番目の数字は常に1である.
    例)0.2は0.4 x 2^-1が1.6 x 2^-3に正規化された
    • を示す

    2. float & double



    3.浮動小数点エラー

  • 指数および数で表される浮動小数点方式では、指数付加値が0を表すことができないため、いくつかの誤差が生じる可能性がある.
    • public class DoubleTest {
	public static void main(String[] args) {
    	double dnum = 1;
        
        for(int i=0 ; i<10000 ; i++) {
        	dnum = dnum + 0.1;
        }
        System.out.println(dnum);
    }
}
    AOS.js
    2020-11-30-golang同時モードcontext