BCC-16 (in Chinese) 計算機概論十六講 Matlab -- Machine Errors

Matlab 可以正確計算 1/2 或者 1/5，但是 1 / 3 計算結果是 0.3333； 我們知道答案應該是 0.3循環，所以 Matlab 的計算節果並不正確。 這是 所有數值計算軟體無法避免的誤差。 因為計算機的空間與人們能夠等待的時間是有限的， 所以所有的數值計算軟體，都 不 ...

libai.math.ncu.edu.tw