專(zhuān)家說(shuō)，在黑客攻擊變得更加復雜的時(shí)候，固有偏見(jiàn)的人工智能程序可能會(huì )給網(wǎng)絡(luò )安全帶來(lái)嚴重問(wèn)題。

根據IBM Security副總裁Aarti Borkar的說(shuō)法，偏差可能發(fā)生在三個(gè)方面 - 程序，數據和設計這些AI系統的人。

人工智能的作用正在擴展到網(wǎng)絡(luò )安全領(lǐng)域。許多CEO認為網(wǎng)絡(luò )攻擊是未來(lái)十年全球經(jīng)濟面臨的最大威脅。

專(zhuān)家告訴CNBC，在黑客攻擊變得更加復雜的時(shí)候，固有偏見(jiàn)的人工智能程序可能會(huì )給網(wǎng)絡(luò )安全帶來(lái)嚴重問(wèn)題。

根據IBM Security副總裁Aarti Borkar的說(shuō)法，偏差可能發(fā)生在三個(gè)方面 - 程序，數據和設計這些AI系統的人。

“一個(gè)是算法本身，”她告訴CNBC，指的是教授A(yíng)I程序執行特定任務(wù)的代碼行。“它接近的方式是否有偏見(jiàn)，以及它試圖解決的結果?”

她解釋說(shuō)，一個(gè)有偏見(jiàn)的計劃最終可能會(huì )關(guān)注錯誤的優(yōu)先事項，并可能錯過(guò)真正的威脅。

“如果你試圖解決錯誤的結果，并且結果存在偏差，那么你的算法是有偏見(jiàn)的，”Borkar說(shuō)。

人工智能的作用正在擴展到網(wǎng)絡(luò )安全領(lǐng)域。許多CEO認為網(wǎng)絡(luò )攻擊是未來(lái)十年全球經(jīng)濟面臨的最大威脅。

隨著(zhù)數字威脅的不斷發(fā)展，防火墻和防病毒被視為古代的工具，黑客現在正在使用更先進(jìn)的技術(shù)，如AI，對企業(yè)發(fā)起復雜的攻擊。

一旦他們能夠破壞系統，許多攻擊者保持低調，這使得IT團隊更難以檢測他們的存在。有些人會(huì )悄悄地在網(wǎng)絡(luò )上嗅聞敏感數據，而其他人可能會(huì )慢慢改變重要信息而沒(méi)有人注意到 - 專(zhuān)家說(shuō)這種情況會(huì )隨著(zhù)時(shí)間的推移而產(chǎn)生嚴重影響。

根據行業(yè)專(zhuān)業(yè)人士的說(shuō)法，打擊這種情況需要依靠人工智能來(lái)構建能夠自動(dòng)響應威脅的安全系統。

事實(shí)上，科技巨頭微軟委托進(jìn)行的一項研究發(fā)現，75%接受調查的公司已采用或正在尋求采用人工智能的網(wǎng)絡(luò )安全計劃。

人工智能使我們能夠更快地了解問(wèn)題所在，在人類(lèi)難以處理所有數據的情況下，微軟網(wǎng)絡(luò )安全現場(chǎng)首席技術(shù)辦公室的Diana Kelley周二告訴CNBC的“Squawk Box”。

認識到偏見(jiàn)

AI系統通常需要大量所謂的訓練數據來(lái)學(xué)習它們的功能。

Borkar說(shuō)，如果使用的數據存在偏差，那么人工智能將只了解世界的局部視圖，并根據這種狹隘的理解做出決策。

同樣，如果設計該計劃的人來(lái)自相似的文化或背景，并且心胸狹窄，那么認知多樣性就會(huì )很低。

“那是你開(kāi)始創(chuàng )建隧道視覺(jué)和回聲室的時(shí)候，”她補充道。

固有偏見(jiàn)可能導致AI系統錯誤識別可能減慢業(yè)務(wù)流程，導致信任問(wèn)題并影響公司底線(xiàn)的問(wèn)題。在更大范圍內，它也會(huì )影響公司的品牌。

Borkar補充說(shuō)，更令人擔憂(yōu)的是，它可能導致程序可能錯過(guò)完全識別嚴重威脅的情況。

據她說(shuō)，網(wǎng)絡(luò )安全威脅來(lái)自各方面，這使得它們“自然多樣化”，不偏不倚。

因此，公司需要“同樣多樣化且同樣不偏不倚的人工智能系統 - 否則，一些東西會(huì )悄悄進(jìn)入，所以，這就是漏洞的來(lái)源，這就是你錯過(guò)了什么......因為你沒(méi)有像對手那樣廣泛地思考， “ 她說(shuō)。

盡管如此，微軟的Kelley解釋說(shuō)，雖然可能很難完全消除固有的偏見(jiàn)，并且最大限度地減少這種情況“需要對AI提供的數據進(jìn)行規劃和仔細監督”。

“這并不像壞人在等我們學(xué)習如何做到這一點(diǎn)。因此，我們到達的越快，越好(我們)，“Borkar補充道。