上個(gè)月，《哈佛商業(yè)評論》發(fā)表了一篇名為Want Less-Biased Decisions? Use Algorithms的文章，作者為Alex P. Miller。文中表示，雖然目前AI算法存在偏見，但是技術(shù)的進(jìn)步如果有助于提高系統(tǒng)性能，這也是很重要的。即使有了偏見，也比人類的偏見小得多。

針對這篇文章，fast.ai的創(chuàng)始人之一Rachel Thomas有不同的看法。她認(rèn)為算法偏見的影響實(shí)際上深遠(yuǎn)得多，我們關(guān)注的重點(diǎn)應(yīng)該是如何解決這一問題。以下是論智對原文的編譯：

最近，《哈佛商業(yè)評論》刊登了一篇文章，講的是人類總是作出有偏見的決定（這確實(shí)沒錯(cuò)），但文章忽視了許多相關(guān)問題，包括：

算法的實(shí)現(xiàn)通常沒有適當(dāng)?shù)姆椒ǎㄒ驗(yàn)楹芏嗳苏`解算法是客觀、精準(zhǔn)并且不會犯錯(cuò)的）

在很多情況下，算法的使用比人類決策規(guī)模大得多，所以也會產(chǎn)生和人類相同的偏見（通常是由于算法使用成本低）

算法的使用者也許不了解概率或置信區(qū)間（即使這些都已經(jīng)標(biāo)明了），而且如果讓他們重寫算法也會很困難

與其關(guān)注微不足道的選擇，更重要的是思考怎樣才能創(chuàng)造偏見更少的決策工具。

在《哈佛商業(yè)評論》的文章中，作者M(jìn)iller認(rèn)為，“算法革命”的批評者們擔(dān)心“算法在運(yùn)用時(shí)會不透明、帶有偏見，成為無法解釋的工具”，但是在文章中，他只針對“偏見”展開解釋，對“不透明”和“無法解釋”的特征沒有解釋。

人機(jī)結(jié)合才能真正進(jìn)步

媒體總是通過人類和機(jī)器的對比來顯示AI的進(jìn)步，我們總是看到這樣的標(biāo)題：“在XX比賽中，機(jī)器戰(zhàn)勝了人類”。如果考慮到大多數(shù)算法的使用方法，這種對比也是不準(zhǔn)確的，這樣評價(jià)AI也是非常狹隘的。在所有案例中，算法都有人類因素存在，尤其是數(shù)據(jù)的收集、決策的制定、實(shí)現(xiàn)方式、對結(jié)果的解讀以及不同參與者的不同理解等方面，都會受人類的影響。

很多致力于研究醫(yī)學(xué)領(lǐng)域AI產(chǎn)品的人并不打算用AI替代人類，他們只是在創(chuàng)造能夠幫助醫(yī)生做出更精確更高效的決策，從而提高醫(yī)療質(zhì)量。能做到最佳水平的不是人類也不是電腦，而是二者的結(jié)合。

Miller在他的文章中指出，人類帶有非常多的偏見，然后對比了目前的幾種方法，來比較哪種更加糟糕。但是文章并未提出有什么方法可以讓偏見更少，從而做出決策呢（也許用人類和算法的結(jié)合）？總之這才是更值得考慮的、重要的問題。

算法的使用通常和人類決策方式不同

算法在實(shí)際中運(yùn)用范圍很廣，也因此會出現(xiàn)很多相同的偏見，甚至被認(rèn)為是正確或客觀的結(jié)果。Miller在文章中分享的研究將它們進(jìn)行比較時(shí)，并沒有發(fā)現(xiàn)實(shí)際使用中的區(qū)別。

Cathy O’Neil在Weapons of Math Destruction一書中寫道，她所批評的那類算法對窮人更不友好。

這些算法專注于處理大型任務(wù)，并且使用成本低，這也是吸引人的部分原因。相反，富裕的人通常會選擇個(gè)人定制的輸入。大型公司或者貴族預(yù)科學(xué)校通常更傾向于內(nèi)部推薦或者面對面的面試。有特權(quán)的人通常會由人來選拔，而普通人才靠機(jī)器選拔。

O’Neil書中的一個(gè)例子是有一位患有雙向情感障礙的大學(xué)生想在暑假時(shí)在便利店打工。他應(yīng)聘的每家店都用相同的心理測量軟件來對面試者打分，所以每家店都拒絕了他。這表明了算法的另一個(gè)危險(xiǎn)之處，雖然人類通常會有相似的偏見，但并不是每個(gè)人都會做出同樣的決定。雖然他有精神障礙，但這位大學(xué)生也許最終會找到一個(gè)愿意雇用他的店。

很多人更愿意相信算法做出的決策，而不愿意相信人類的決定。而設(shè)計(jì)算法的研究者們可能對概率和置信區(qū)間有更好的了解，而一般人不會注意到這一點(diǎn)。

算法需要被解釋

很多關(guān)于算法偏見的案例都沒有有意義的解釋或者有意義的處理過程。這看起來似乎是算法決策過程中的特殊趨勢，也許是因?yàn)槿藗冨e(cuò)誤地認(rèn)為算法就是客觀的，所以沒有必要進(jìn)行客觀分析。同時(shí)，如上面所解釋的，算法決策系統(tǒng)通常是為了削減成本，重復(fù)檢查就會增加成本。

Cathy O’Neil還寫道一位老師非常受學(xué)生和家長的愛戴，但是莫名其妙就被算法開除了。她永遠(yuǎn)不會知道為什么會有這樣的結(jié)果。如果我們能重新對算法進(jìn)行檢查或者了解其中的因素，就不會令人如此費(fèi)解。

The Verge曾調(diào)查美國超過一半的州所使用的軟件，統(tǒng)計(jì)人們接收到的醫(yī)療健康服務(wù)。當(dāng)這種軟件在阿肯色州使用后，很多有嚴(yán)重殘疾的人們發(fā)現(xiàn)他們的醫(yī)療補(bǔ)助突然被大幅減少。例如，一位腦癱患者Tammy Dobbs原本需要每天有人幫助她下床、去衛(wèi)生間、吃飯等等，突然算法將醫(yī)療救助時(shí)間減少到了每周20個(gè)小時(shí)。她無法解釋為什么會這樣。最終，法院調(diào)查后發(fā)現(xiàn)是軟件的算法出現(xiàn)了錯(cuò)誤，影響了患有糖尿病或腦癱的患者。然而，像Dobbs這樣的很多人還是會擔(dān)心某一天他們的醫(yī)療補(bǔ)助是否會再次被削減。

算法的創(chuàng)建者被問到能否有交流決策的方法，他說：“也許這是我們的責(zé)任。”但之后又稱，這可能是其他人的原因。我們不能認(rèn)為自己造出來的成果是別人的責(zé)任。

另一個(gè)在科羅拉多州使用的系統(tǒng)發(fā)現(xiàn)了系統(tǒng)中有超過900個(gè)錯(cuò)誤規(guī)則，結(jié)果導(dǎo)致了很多問題，例如將懷孕的女性不算入需要醫(yī)療補(bǔ)助的計(jì)劃之內(nèi)。律師們很難發(fā)現(xiàn)算法中的錯(cuò)誤，因?yàn)檫@些內(nèi)部工作機(jī)制就像商業(yè)秘密一樣受保護(hù)。所以，重要的是要?jiǎng)?chuàng)建一個(gè)能輕松發(fā)現(xiàn)錯(cuò)誤的機(jī)制。

復(fù)雜的真實(shí)系統(tǒng)

當(dāng)我們談到AI，就需要想想現(xiàn)實(shí)世界中復(fù)雜的系統(tǒng)。《哈佛商業(yè)評論》中所提到的研究將決策看成孤立的行為，并沒有考慮所處的環(huán)境。判斷一個(gè)人是否會坦白其他罪行，這種決定并不是單獨(dú)做出的，它還要結(jié)合復(fù)雜的法律系統(tǒng)。我們有必要了解研究領(lǐng)域所處的真實(shí)環(huán)境是如何運(yùn)作的，同時(shí)不要忽略了可能受到影響的人們。

美國法庭中所用到的COMPAS算法是用在預(yù)審前保釋、判刑和假釋中的決策系統(tǒng)。ProPublica調(diào)查后發(fā)現(xiàn)，白人被告者的結(jié)果誤報(bào)率是24%，而黑人被告的誤報(bào)率高達(dá)45%（即被告被系統(tǒng)認(rèn)定為“高風(fēng)險(xiǎn)”但結(jié)果卻并未再次入獄）。之后的研究發(fā)現(xiàn)，COMPAS還不如一個(gè)簡單的線性方程精確。

通過這些案例可以看出，算法也許會加劇潛在的社會問題。所以我們有責(zé)任了解系統(tǒng)以及它們可能帶來的問題。

反偏見不等于反算法

大多數(shù)對算法偏見持反對意見的人，都會反對不公平的偏見，但他們不是討厭算法的人。Miller表示，這些批評者“很少會問這些系統(tǒng)在沒有算法的情況下運(yùn)行得怎樣”，這表明那些反對偏見算法的人可能并不知道人類有多少偏見，或者可能只是不喜歡算法。在我開始撰寫有關(guān)機(jī)器學(xué)習(xí)偏見的文章之前，我花了大量時(shí)間研究和撰寫有關(guān)人類的偏見。

當(dāng)我發(fā)布或分享有關(guān)偏見的算法時(shí)，總有人認(rèn)為我是反算法或者反科技的。而且我不是唯一受到質(zhì)疑的人。所以我希望有關(guān)偏見算法的討論重點(diǎn)不要僅僅局限于這種微不足道的地方，我們需要深入解決這個(gè)問題。