今天的惡意黑客平均有312天的時(shí)間來(lái)利用“零日”計算機軟件漏洞，然后人類(lèi)網(wǎng)絡(luò )安全專(zhuān)家才能找到并解決這些漏洞。美國軍方專(zhuān)注于破壞性技術(shù)的主要研究機構旨在了解人工智能是否能夠在幾秒鐘或幾分鐘內更好地發(fā)現和修復此類(lèi)攻擊。
今年夏天，美國國防高級研究計劃局(DARPA)網(wǎng)絡(luò )大挑戰賽的七支決賽隊伍 將與AI系統展開(kāi)激戰，這些系統可以通過(guò)積極發(fā)現和修復軟件漏洞，自主掃描競爭對手的網(wǎng)絡(luò )服務(wù)器以獲取漏洞并保護自己的服務(wù)器。直接獎勵的形式是首獎200萬(wàn)美元，第二名100萬(wàn)美元，第三名750,000美元。但從長(cháng)遠來(lái)看，DARPA希望挑戰結果將證明自主AI系統已經(jīng)足夠能夠幫助人類(lèi)在永無(wú)止境的斗爭中保護計算機軟件和網(wǎng)絡(luò )。
DARPA網(wǎng)絡(luò )大挑戰賽的項目經(jīng)理Mike Walker在7月13日舉行的電話(huà)會(huì )議新聞發(fā)布會(huì )上說(shuō)：“他們將直接進(jìn)行現場(chǎng)直播。”我們希望看到證據證明應對漏洞的整個(gè)計算機安全周期可以實(shí)現自動(dòng)化。“
今天的網(wǎng)絡(luò )安全防御主要依靠人工團隊手動(dòng)掃描崩潰報告，試圖找出他們需要修復的問(wèn)題; 當計算機故障產(chǎn)生數百或數千個(gè)錯誤報告時(shí)，這個(gè)過(guò)程變得異常繁瑣。一些技術(shù)巨頭如微軟已經(jīng)開(kāi)始開(kāi)發(fā)軟件程序，可以自動(dòng)發(fā)現問(wèn)題并生成這樣的錯誤報告。
但DARPA試圖提高自動(dòng)化AI系統如何找到和停止攻擊的標準。美國軍方希望這種自動(dòng)化系統可以大大加快軟件補丁的開(kāi)發(fā)和應用時(shí)間，以修復軟件漏洞。此外，自動(dòng)化系統可以幫助監控整個(gè)軟件系統，而不是僅僅依靠人工專(zhuān)家來(lái)檢查出現問(wèn)題時(shí)的崩潰報告。
七個(gè)入圍團隊獲得了高性能計算硬件，以開(kāi)發(fā)他們的AI“網(wǎng)絡(luò )推理”系統。8月4日，在拉斯維加斯舉行的為期10小時(shí)的網(wǎng)絡(luò )大挑戰賽決賽期間，他們將退后一步觀(guān)看人工智能系統相互競爭。
當決賽開(kāi)始時(shí)，每個(gè)AI競爭者都會(huì )發(fā)現自己處于一個(gè)運行已知協(xié)議并涉及以前未經(jīng)審查的計算機代碼的網(wǎng)絡(luò )中。這意味著(zhù)AI系統在開(kāi)始發(fā)現漏洞之前需要學(xué)習網(wǎng)絡(luò )的軟件語(yǔ)言和邏輯。
為了攻擊競爭對手，AI競爭對手將首先掃描其網(wǎng)絡(luò )服務(wù)器中的漏洞。如果他們發(fā)現漏洞，他們將不得不告訴DARPA裁判有關(guān)漏洞并預測何時(shí)可能發(fā)生此類(lèi)軟件崩潰。沃克說(shuō)，這就像一個(gè)叫臺球的臺球選手，比如“七球，角落口袋” - 在他或她排隊的球場(chǎng)提示射擊之前。AI競爭對手通過(guò)證明競爭對手的這些漏洞贏(yíng)得積分，如果他們無(wú)法保護自己的服務(wù)器免受此類(lèi)模擬攻擊，則會(huì )失去積分。
AI競爭對手還必須同時(shí)創(chuàng )建自己的網(wǎng)絡(luò )防御，以保護其服務(wù)器免受競爭對手的侵害。沃克解釋說(shuō)，這種網(wǎng)絡(luò )安全防御可以使用兩種策略。首先，您可以創(chuàng )建一個(gè)通用的“二進(jìn)制裝甲”，以防止對網(wǎng)絡(luò )服務(wù)器任何部分的一般威脅。這種方法的缺點(diǎn)是它在運行其通常的計算任務(wù)時(shí)會(huì )降低服務(wù)器軟件的速度。沃克說(shuō)：“人們希望計算機是安全的，但不希望它以?xún)尚r(shí)的時(shí)間發(fā)送電子郵件為代價(jià)。”
第二種防御策略包括找到軟件缺陷并使用針對這些問(wèn)題量身定制的特定補丁來(lái)修復它們。對于A(yíng)I競爭對手而言，這種逆向工程和問(wèn)題的“點(diǎn)修補”更具挑戰性。但是，在2015年6月舉行的網(wǎng)絡(luò )大挑戰賽的前幾輪資格賽中，由決賽隊伍開(kāi)發(fā)的人工智能系統確實(shí)產(chǎn)生了這樣的補丁。沒(méi)有個(gè)別競爭對手在資格賽期間成功找到所有590個(gè)軟件缺陷，但他們一起發(fā)現所有戰功。
但是，如果這樣的網(wǎng)絡(luò )安全AI系統可以用于惡意目的，例如尋找攻擊并發(fā)起網(wǎng)絡(luò )攻擊，該怎么辦?作為一個(gè)柜臺，Cyber?? Grand Challenge的結果和競爭對手的軟件將成為公共領(lǐng)域的開(kāi)源。開(kāi)源軟件使得在線(xiàn)社區發(fā)現和修復任何漏洞或攻擊的可能性更大，而不是隱藏在公眾知識之外。這種開(kāi)放性是沃克所描述的“開(kāi)放安全革命”方法的關(guān)鍵，這種方法可以最大限度地減少這種技術(shù)的“惡意濫用”。
在網(wǎng)絡(luò )大挑戰賽決賽開(kāi)始之前，沃克不想推測這種人工智能系統在網(wǎng)絡(luò )安全方面的未來(lái)能力。但他指出，商業(yè)軟件的任何網(wǎng)絡(luò )安全改進(jìn)也會(huì )使美國軍方受益，因為后者普遍依賴(lài)這種現成產(chǎn)品。
“我們將在21天內進(jìn)行科學(xué)實(shí)驗和生存能力實(shí)驗，因此我會(huì )更加準備推測，”沃克說(shuō)。“說(shuō)實(shí)話(huà)，在我們說(shuō)它存在并推測未來(lái)發(fā)展之前，我們試圖證明自治。”
即使是DARPA網(wǎng)絡(luò )大挑戰中令人信服的勝利也只是這種人工智能系統的第一步。決賽團隊已經(jīng)口頭同意其中的獲勝者將參加類(lèi)似的“奪旗”競賽，該競賽將在8月份同時(shí)在拉斯維加斯舉行的世界最大的黑客大會(huì )之一DEF CON 2016上與人類(lèi)黑客進(jìn)行競爭。 。這標志著(zhù)自動(dòng)機器第一次在桌面上對抗人類(lèi)專(zhuān)家。