眾包自動(dòng)測試公司Applause今天宣布推出新的 人工智能培訓解決方案，它將幫助機器學(xué)習算法更好地處理人工輸入數據。

新的可擴展，可用于企業(yè)的解決方案訓練機器學(xué)習算法來(lái)快速學(xué)習并測試它們以檢測和糾正偏差，從而確保它們能夠正確處理和響應。

為此，掌聲正在使用其龐大的經(jīng)過(guò)審查的人類(lèi)測試人員社區，以便在最能與被測試產(chǎn)品和服務(wù)的實(shí)際條件相匹配的環(huán)境中，提供最廣泛的潛在培訓輸入。然后，該數據將通過(guò)系統反饋并在所有可能的設備，位置和環(huán)境中進(jìn)行測試，以幫助識別可能出現的問(wèn)題并實(shí)時(shí)提供可操作的用戶(hù)反饋。

用戶(hù)希望AI更自然，更人性化。Applause的眾包方法提供了AI所缺少的東西：在發(fā)布之前會(huì )有大量的真實(shí)人類(lèi)交互，” Applause產(chǎn)品副總裁Kristin Simonini說(shuō)。

通過(guò)設計，掌聲收集的數據旨在避免出現孤立的小群體的偏見(jiàn)，這對任何人群來(lái)說(shuō)都是一個(gè)很差的代表。對于有才華的測試人員而言，這尤其是個(gè)問(wèn)題，他們的人群很容易引入偏見(jiàn)，因為培訓測試產(chǎn)品的人可能很容易來(lái)自相同的背景。

因此，公司收集的機器學(xué)習培訓數據來(lái)自許多國家，不同年齡，性別，種族，文化政治派別，意識形態(tài)，社會(huì )經(jīng)濟背景，教育水平等等的人們。與從較小的組中獲取數據相比，這種廣泛的數據樣本基礎可以更好地模擬偏差較小的輸出。

Simonini說(shuō)：“這不僅將改善各地消費者的AI體驗，而且社區的廣度還具有緩解偏見(jiàn)的潛力，并使AI更加代表現實(shí)世界。”

當前市場(chǎng)上的所有類(lèi)型的AI都遇到了極為相似的問(wèn)題：獲取足夠的數據來(lái)教授ML算法如何解釋和響應。這一挑戰阻礙了從旨在識別食物的營(yíng)養應用程序到虛擬助手(了解不同用戶(hù)如何要求相同事物)的許多AI解決方案的產(chǎn)生。

掌聲的新AI解決方案可在五種不同類(lèi)型的AI互動(dòng)中運行：語(yǔ)音，光學(xué)字符識別，圖像識別，生物識別和聊天機器人。

對于語(yǔ)音，數據池使用源話(huà)語(yǔ)來(lái)訓練啟用語(yǔ)音的設備。對于OCR，它在視覺(jué)上包含閱讀的文檔和相應的文本以構建上下文。通過(guò)圖像識別，它為機器學(xué)習算法提供了檢測和分類(lèi)預定義對象和位置的能力。對于生物識別，它獲取諸如面部和指紋之類(lèi)的生物識別輸入。對于聊天機器人，數據源會(huì )采樣問(wèn)題和意圖，以更好地了解用戶(hù)需求并以更人性化的方式進(jìn)行響應。

當訓練AI系統的團隊未能考慮到各種各樣的潛在人工輸入時(shí)，不僅可能導致不良的客戶(hù)服務(wù)或產(chǎn)品，還可能導致更多的后果。一些極端的機器學(xué)習失敗之所以成為新聞，是因為它們無(wú)法正確識別人臉，例如在2015年，Google LLC照片識別算法將黑人誤認為是“大猩猩”(該公司通過(guò)從培訓庫存中移除大猩猩來(lái)糾正這一問(wèn)題)。2016年，新西蘭護照驗證算法誤以為他是22歲的具有亞洲特色的DJ 理查德·李，他閉著(zhù)眼睛。

盡管這些失敗已廣為人知，并且事后看來(lái)潛在的問(wèn)題很明顯，但它們也揭示了一個(gè)深層的文化問(wèn)題，即如何培訓AI系統以與不同人群互動(dòng)。機器學(xué)習在與人互動(dòng)時(shí)的擴散和實(shí)施是一個(gè)以人為本的問(wèn)題，需要考慮到這一點(diǎn)的解決方案。

Applause希望利用其眾包的人力數據池，幫助邁出建立更好的AI培訓系統的第一步，從而減少將來(lái)出現這些錯誤的可能性，并有可能在偏見(jiàn)成為人類(lèi)問(wèn)題之前對其進(jìn)行檢測并發(fā)出警告。