小数点を含む掛け算で計算結果が丸められるのは何故?
- 題名: 小数点を含む掛け算で計算結果が丸められるのは何故?
- 著者: イナフ
- 日時: 2005/06/27 19:57:03
- ID: 11494
- この記事の返信元:
- この記事への返信:
- ツリーを表示
- 題名: Re[2]: 小数点を含む掛け算で計算結果が丸められるのは何故?
- 著者: ガッ
- 日時: 2005/06/27 20:28:41
- ID: 11496
- この記事の返信元:
- この記事への返信:
- ツリーを表示
- 題名: Re[2]: 小数点を含む掛け算で計算結果が丸められるのは何故?
- 著者: イナフ
- 日時: 2005/06/27 21:17:16
- ID: 11497
- この記事の返信元:
- この記事への返信:
- ツリーを表示
分類:[.NET]
いつもお世話になっております。
小数点を含む下記の計算で、結果が思うように得られません。
基本的な様な気がしてお恥ずかしい質問かもしれませんが
なかなか解決できなく投稿させていただきました。
どうかよろしくお願いいたします。
Dim dat1 As Decimal = 1200
Dim dat2 As Decimal = 96
Dim dat3 As Decimal = 136
Dim dat4 As Decimal = 119
dat2 = dat2 / 100 '0.96
dat3 = 100 / dat3 '0.7352941
dat4 = dat4 / 100 '1.19
'計算結果が1008.00...となります…。
'本当は1007.9999...という結果を得たいのです。
TextBox1.Text = (dat1 * dat2 * dat3 * dat4).ToString