發表新討論
#7788: 運算時的型態轉換竟影響計算結果


sunset (sunset)

d809. 黑暗土地 | From: [123.192.13.12] | 發表日期: 2013-05-24 22:12

在行行列式計算時，我將廚2這個動作搬到最後輸出時在做

所以在行列式運算時全部都是int

結果最後 float area = max / 2;

在 0,0  1,0  0,1 會輸出0

所以要   float area = (float)max / 2;

才會輸出0.5

 

原理是為什麼阿??

#15762: Re:運算時的型態轉換竟影響計算結果


wish.rirf@gmail.com (C++ 與我)

d809. 黑暗土地 | From: [114.136.227.204] | 發表日期: 2018-10-27 13:25

在行行列式計算時，我將廚2這個動作搬到最後輸出時在做

所以在行列式運算時全部都是int

結果最後 float area = max / 2;

在 0,0  1,0  0,1 會輸出0

所以要   float area = (float)max / 2;

才會輸出0.5

 

原理是為什麼阿??

precision lost when converting int and float

ZeroJudge Forum