浮動小数点の減算について
- 題名: 浮動小数点の減算について
- 著者: まとぱぱ
- 日時: 2007/12/25 17:38:40
- ID: 21179
- この記事の返信元:
- この記事への返信:
- ツリーを表示
- 題名: Re[1]: 浮動小数点の減算について
- 著者: Blue
- 日時: 2007/12/25 18:30:00
- ID: 21180
- この記事の返信元:
- この記事への返信:
- ツリーを表示
- 題名: Re[2]: 浮動小数点の減算について
- 著者: まとぱぱ
- 日時: 2007/12/26 9:37:23
- ID: 21182
- この記事の返信元:
- この記事への返信:
- ツリーを表示
- 題名: Re[3]: 浮動小数点の減算について
- 著者: まとぱぱ
- 日時: 2007/12/26 9:38:06
- ID: 21183
- この記事の返信元:
- この記事への返信:
- ツリーを表示
- 題名: Re[4]: 浮動小数点の減算について
- 著者: Blue
- 日時: 2007/12/26 10:20:34
- ID: 21184
- この記事の返信元:
- この記事への返信:
- ツリーを表示
分類:[.NET]
こんにちは。
いつもこちらのサイトにはお世話になっております。
初歩的な質問でしたらごめんなさい。
調べてもわからなかったので投稿させていただきます。
ある浮動少数点の数字からある数字を減算させた場合、計算されて返ってくる値が
一致し無いのはなぜでしょうか。
例:
double _A = 23.9d;
double _B = 23.0d;
double _C = 0.0d;
_C = _A - (int)_B;
結果:
0.899999999999999
0.9が返ってきてほしいのですが・・・