它們具有看似復雜的結果，但也有可能被愚弄，范圍從相對無(wú)害-將動(dòng)物誤識別為另一動(dòng)物-到引導自動(dòng)駕駛汽車(chē)的網(wǎng)絡(luò )將停車(chē)標志誤解為指示停車(chē)標志的潛在危險是可以安全進(jìn)行的。

休斯頓大學(xué)的一位哲學(xué)家在發(fā)表于《自然機器智能》上的一篇論文中暗示，關(guān)于這些假定故障背后原因的普遍假設可能是錯誤的，這些信息對于評估這些網(wǎng)絡(luò )的可靠性至關(guān)重要。

隨著(zhù)機器學(xué)習和其他形式的人工智能越來(lái)越深入地融入社會(huì )，從自動(dòng)柜員機到網(wǎng)絡(luò )安全系統，其用途廣泛，UH哲學(xué)副教授卡梅倫·巴克納(Cameron Buckner)表示，了解由什么導致的明顯故障的來(lái)源至關(guān)重要。

研究人員稱(chēng)其為“對抗性例子”，是指當深度神經(jīng)網(wǎng)絡(luò )系統遇到用于構建網(wǎng)絡(luò )的訓練輸入之外的信息時(shí)，會(huì )誤判圖像或其他數據。它們很罕見(jiàn)，被稱(chēng)為“對抗性”，因為它們通常是由另一個(gè)機器學(xué)習網(wǎng)絡(luò )創(chuàng )建或發(fā)現的-機器學(xué)習領(lǐng)域中的一種邊緣技術(shù)，介于創(chuàng )建復雜示例的更復雜方法與檢測和避免它們的更復雜方法之間。

巴克納說(shuō)：“這些對抗性事件中的一些反而可能是人工產(chǎn)物，為了更好地了解這些網(wǎng)絡(luò )的可靠性，我們需要更好地了解它們是什么。”

換句話(huà)說(shuō)，不發(fā)火可能是由網(wǎng)絡(luò )需要處理的內容和所涉及的實(shí)際模式之間的相互作用引起的。這與完全被誤解不是完全一樣的。

巴克納寫(xiě)道：“理解對抗性例子的含義需要探索第三種可能性：至少其中一些模式是人工制品。”“……因此，目前簡(jiǎn)單地丟棄這些模式既有代價(jià)，也有天真地使用它們的危險。”

導致這些機器學(xué)習系統犯錯誤的對抗事件不一定是故意的瀆職造成的，但這是最高的風(fēng)險所在。

巴克納說(shuō)：“這意味著(zhù)惡意行為者可能欺騙依賴(lài)于本來(lái)可靠的網(wǎng)絡(luò )的系統。”“那有安全應用程序。”