2019年7月3日 星期三

[iOS] Float轉換成Double時,會有些許的誤差

有時候我們可能會把Float轉換成Double。

像是使用UISlider時,將它的Value取出後,轉換成Double。

但是要特別小心此問題,轉換的時候,會有精度上的誤差,

舉例來說,以下的程式碼的結果可能會跟你想像的不太一樣。

因為Float的精度與Double的不一樣,即使小數點只有幾位的情況下,

轉換過去也是有可能有精度上的誤差。

因此使用時必須特別小心。

沒有留言:

張貼留言