BCC-16 (in Chinese) 計算機概論十六講 Matlab -- Machine Errors

BCC-16 (in Chinese) 計算機概論十六講 Matlab -- Machine Errors

瀏覽:1213
日期:2024-07-08
Matlab 可以正確計算 1/2 或者 1/5,但是 1 / 3 計算結果是 0.3333; 我們知道答案應該是 0.3循環,所以 Matlab 的計算節果並不正確。 這是 所有數值計算軟體無法避免的誤差。 因為計算機的空間與人們能夠等待的時間是有限的, 所以所有的數值計算軟體,都 不 ......看更多