如今，人工智能(AI)正在幫助我們從數據中發(fā)現新見(jiàn)解并增強人類(lèi)決策能力。例如，我們使用面部識別來(lái)登錄手機，并使用語(yǔ)音理解和意圖分析來(lái)獲得幫助。電子商務(wù)零售商與AI共同預測并向消費者推薦新產(chǎn)品。銀行使用對話(huà)式AI來(lái)減少欺詐并更好地管理客戶(hù)體驗。

當今使用的大多數AI是狹窄AI。通用AI更類(lèi)似于人類(lèi)的智能，可以涵蓋范圍廣泛的決策，情感和判斷力，因此不會(huì )很快出現。如今，窄人工智能實(shí)際上在某些特定任務(wù)上非常擅長(cháng)，但是按照定義，“窄”會(huì )帶來(lái)一些局限性，使其容易產(chǎn)生偏差。

偏差可能來(lái)自不完整的數據樣本或不正確的數據集?；?dòng)中也存在偏見(jiàn)–隨時(shí)間推移的互動(dòng)會(huì )發(fā)生偏斜的學(xué)習。而且，有時(shí)業(yè)務(wù)的突然變化(例如新法律或業(yè)務(wù)規則)可能會(huì )導致偏差。最后，無(wú)效的訓練算法可能會(huì )導致偏差。識別出偏差來(lái)自何處有助于緩解問(wèn)題，并可以確保AI應用程序產(chǎn)生預期的業(yè)務(wù)成果。

數據偏差的最明顯原因是用于訓練AI系統的數據樣本缺乏多樣性。例如，我們定期通過(guò)AI算法運行飛機發(fā)動(dòng)機的傳感器數據，以預測零件更換并優(yōu)化資產(chǎn)性能。但是，如果AI主要針對從美國飛往歐洲的航班(在寒冷的北半球上空飛行)進(jìn)行了培訓，然后再用于撒哈拉以南非洲的航班，則很容易看出數據集將落在經(jīng)過(guò)訓練的模型參數之外，并產(chǎn)生錯誤的結果。換句話(huà)說(shuō)，該算法僅與放入其中的數據一樣聰明。

現實(shí)情況是很難獲得全面的數據來(lái)訓練AI系統，因此許多系統僅使用容易獲得的數據。有時(shí)，可能甚至不存在用于訓練AI算法所有潛在用例的數據。例如，如果僅在歷史上沒(méi)有異類(lèi)工作的人才庫中進(jìn)行培訓，用于招聘的AI軟件就難以推薦多樣化的候選人。

偏見(jiàn)的另一大推動(dòng)力是訓練中的偏見(jiàn)，可以通過(guò)匆忙而又不完整的訓練算法來(lái)解決。例如，一個(gè)旨在從對話(huà)中學(xué)習并變得更加聰明的AI聊天機器人可以選擇一種政治上不正確的語(yǔ)言，只要它未經(jīng)培訓就可以暴露出來(lái)并開(kāi)始使用它-如Microsoft從Tay那里學(xué)到的。同樣，在刑事司法系統中可能會(huì )使用AI也很重要，因為我們尚不知道AI算法的培訓是否正確完成。