很明顯，如果 b^2 和 4ac 是浮點(diǎn)數(shù)，就會(huì)遇到舍入誤差問題。如果 b^2 遠(yuǎn)大于 4ac，則 √(b^2 ) =|b|。如果b>0，β 將有解，但 α 的解將為 0，因?yàn)槠浞肿又械母黜?xiàng)相互抵消。另一方面，如果 b < 0，則 β 的解為 0，α 將有解。這是一種錯(cuò)誤的設(shè)計(jì)，因?yàn)樵诟↑c(diǎn)計(jì)算的作用下，根的值為 0，如果用于后續(xù)的設(shè)計(jì)，將很容易導(dǎo)致錯(cuò)誤的輸出。

防止這種錯(cuò)誤抵消的方法之一是將 α 和 β 的分子和分母同時(shí)乘以 -b-√(b^2-4ac)，這樣得到：

現(xiàn)在，在 b>0 的情況下，應(yīng)使用 α’ 和 β 求出兩個(gè)根的值。在 b<0 的情況下，應(yīng)使用 α 和 β’ 求出兩個(gè)根的值。在設(shè)計(jì)中很難察覺到這樣的誤差，原因在于對(duì)于整數(shù)數(shù)據(jù)集來說，常規(guī)公式會(huì)得出正確的結(jié)果，但在使用浮點(diǎn)數(shù)據(jù)的時(shí)候，常規(guī)公式會(huì)讓設(shè)計(jì)返回錯(cuò)誤的結(jié)果。

另一個(gè)有趣的實(shí)例是計(jì)算三角形面積。根據(jù) Heron 公式，在已知三角形邊長的情況下，三角形的面積 A 可以用下面的公式求出：

這里 a，b 和 c 是三角形的邊長，s= (a+b+c)/2。

對(duì)一個(gè)一邊的長度約等于另外兩邊長度之和的平三角形而言，有 a≈b+c，隨即有 s≈a。由于兩個(gè)相鄰的數(shù)值會(huì)在 (s-a) 中相減，所以 (s-a) 可能會(huì)等于 0。或者，如果 s或者 a 出現(xiàn)舍入誤差，就會(huì)導(dǎo)致顯著的 ulps 誤差。因此，最好根據(jù)數(shù)學(xué)家和計(jì)算機(jī)科學(xué)家 William Kahan (2)在 1986 年率先提出的建議，將此公式改寫為下列格式：

我們看看分別用 Heron 的公式和 Kahan 的公式對(duì)相同的數(shù)值進(jìn)行計(jì)算的結(jié)果如何。假定 a=11.0，b=9.0，c=2.04，則正確的 s 值為 11.02，正確的 A 值為1.9994918。但是，在采用 Heron 公式的情況下，計(jì)算得出的 s 值為 11.05，只有 3ulps 的誤差，A 的值為3.1945189，出現(xiàn)巨大的 ulps 誤差。在采用 Kahan 的公式的情況下，得出的 A 值為 1.9994918，小數(shù)點(diǎn)后七位完全與正確的結(jié)果吻合。

處理極小和極大的浮點(diǎn)數(shù)
極小的浮點(diǎn)數(shù)在相乘后會(huì)得出更小的結(jié)果。對(duì)設(shè)計(jì)人員來說，這可能會(huì)導(dǎo)致系統(tǒng)的下溢問題，最終的結(jié)果可能出錯(cuò)。這個(gè)問題在概率處理領(lǐng)域中尤為突出，比如計(jì)算語言學(xué)和機(jī)器學(xué)習(xí)。任何事件的概率一般都在 0 和 1 之間。能夠得到完美整數(shù)結(jié)果的公式在處理非常小的概率時(shí)往往會(huì)導(dǎo)致下溢問題。避免下溢的方法之一是采用指數(shù)和對(duì)數(shù)。

在對(duì)很小的浮點(diǎn)數(shù)做相乘運(yùn)算時(shí)，采用下面的公式非常有效：

這里指數(shù)和對(duì)數(shù)的底數(shù)必須相同。不過需要注意的是，如果a 和 b 都是概率，值都在 0和 1 之間，那么它們的對(duì)數(shù)會(huì)在-∞ 和 0 之間。如果只希望處理正概率，則將概率的對(duì)數(shù)乘以 -1，就可以正確地解讀結(jié)果。采用對(duì)數(shù)值的另一項(xiàng)優(yōu)勢(shì)在于速度，因?yàn)橄嗉颖认喑说牟僮魉俣雀臁?/p>

工程人員往往會(huì)遇到需要對(duì)非常大的連續(xù)數(shù)進(jìn)行相乘的情況，比如：

K 的值在某些情況下非常容易溢出。處理這種情況的方法之一是用下式計(jì)算 k：

當(dāng)然，這樣計(jì)算相對(duì)較為復(fù)雜一點(diǎn)，但如果想要保證設(shè)計(jì)在計(jì)算這種極端狀況時(shí)不會(huì)出錯(cuò)，這點(diǎn)代價(jià)還是值得的。

一些常見的浮點(diǎn)微妙之處
浮點(diǎn)算術(shù)并不嚴(yán)格遵循整數(shù)的數(shù)學(xué)規(guī)律。加法和乘法結(jié)合律對(duì)浮點(diǎn)數(shù)無效，減法和除法也是如此。造成這種情況的原因有兩個(gè)。首先在順序變動(dòng)時(shí)會(huì)出現(xiàn)下溢或者上溢，其次是舍入誤差問題。請(qǐng)看下面關(guān)于浮點(diǎn)數(shù) a，b 和 c的幾個(gè)例子。