幾位專(zhuān)家對AI構成的威脅提出了自己的想法，毫不奇怪，假冒內容是當前最大的危險。

專(zhuān)家在星期二在紐約的WSJ Pro網(wǎng)絡(luò )安全執行官論壇上發(fā)表講話(huà)時(shí)認為，人工智能生成的內容是我們社會(huì )迫切關(guān)注的問(wèn)題。

社交媒體分析公司Graphika的首席創(chuàng )新官CamilleFrançois說(shuō)，deepfake文章構成了最大的危險。

我們已經(jīng)看到了人工生成的“虛假新聞”和虛假信息活動(dòng)所能起到的作用，因此，對于許多人來(lái)說(shuō)，在此過(guò)程中涉及AI是一個(gè)主要威脅，這并不令人感到驚訝。

弗朗索瓦(François)強調指出，當今的偽造文章和虛假宣傳活動(dòng)依靠大量的手工工作來(lái)創(chuàng )建和傳播虛假信息。

弗朗索瓦(François)說(shuō)：“當您查看虛假宣傳活動(dòng)時(shí)，創(chuàng )建假網(wǎng)站和假博客的體力勞動(dòng)量是巨大的。”

“如果您只是簡(jiǎn)單地使可信的文本變得自動(dòng)化，那么它確實(shí)以非常自動(dòng)化和可擴展的方式在垃圾中泛濫成災。所以我很擔心。”

2月，OpenAI 推出了其GPT-2工具，該工具可生成令人信服的假文字。AI接受了跨越800萬(wàn)個(gè)網(wǎng)站的40 GB文本的培訓。

OpenAI擔心會(huì )造成損害，因此決定不公開(kāi)發(fā)布GPT-2。但是，八月，兩名畢業(yè)生決定重新創(chuàng )建 OpenAI的文本生成器。

這些畢業(yè)生表示，他們不認為自己的工作目前會(huì )對社會(huì )構成風(fēng)險，因此將其發(fā)布給全世界，是在沒(méi)有一家擁有大量資源的公司或政府的情況下所能實(shí)現的。

“這讓大家有關(guān)于安全的重要談話(huà)，研究人員能夠幫助確保對未來(lái)的潛在濫用，”萬(wàn)尼亞·科恩的畢業(yè)生之一，說(shuō)：有線(xiàn)。

McAfee首席數據科學(xué)家兼高級首席工程師Celeste Fralick在WSJ活動(dòng)上與François在同一小組上發(fā)言，建議公司與專(zhuān)門(mén)研究深造假的公司合作。

與AI有關(guān)的最可怕的網(wǎng)絡(luò )安全威脅之一是“對抗性機器學(xué)習攻擊”，黑客利用這種攻擊來(lái)發(fā)現并利用AI系統中的漏洞。

Fralick提供了加利福尼亞大學(xué)伯克利分校教授Dawn Song進(jìn)行的實(shí)驗示例，其中無(wú)人駕駛汽車(chē)被誤認為僅使用貼紙就可以使停車(chē)標志是45 MPH限速標志。

據Fralick稱(chēng)，McAfee本身也進(jìn)行了類(lèi)似的實(shí)驗，并發(fā)現了進(jìn)一步的漏洞。其中之一是，再次修改了35 MPH的速度限制標志，以欺騙無(wú)人駕駛汽車(chē)的AI。

“我們擴展了三者的中間部分，因此賽車(chē)沒(méi)有將其識別為35。它認為它是85。”她說(shuō)。

兩位小組成員都認為，除了采用應對攻擊的策略外，還需要對整個(gè)員工進(jìn)行有關(guān)AI構成的威脅的教育。

弗朗索瓦總結說(shuō)：“確保人們具有基本的AI素養非常緊迫。”