歐盟威脅要對大型高科技公司處以罰款，前提是大型高科技公司沒(méi)有在出現在網(wǎng)上的一小時(shí)內刪除恐怖分子的內容。之所以發(fā)生這種變化，是因為緊張局勢正在發(fā)展，并且正在社交媒體平臺上播放。
曾經(jīng)在幕后會(huì )議中積累并在城市街道上席卷而來(lái)的社會(huì )沖突，現在在社交媒體平臺上積蓄了勢頭，然后才蔓延到現實(shí)生活中。過(guò)去，政府傾向于控制傳統媒體，而個(gè)人傳播仇恨的可能性很小甚至沒(méi)有。
數字革命改變了一切。
恐怖主義組織，最著(zhù)名的是伊斯蘭國(ISIS)武裝分子，已使用 Facebook，Instagram和Twitter等社交媒體平臺進(jìn)行宣傳，并計劃了針對平民的恐怖襲擊。
包括德國的反難民極端分子在內的極右翼團體也越來(lái)越多地利用技術(shù)平臺來(lái)?yè)碜o反移民的觀(guān)點(diǎn)并妖魔少數群體。
從斯里蘭卡到緬甸，在線(xiàn)上引發(fā)的社區緊張局勢導致了暴力。
由于西方國家越來(lái)越多的政治意愿來(lái)規范社交媒體公司，因此許多技術(shù)巨頭爭辯說(shuō)他們可以自我調節，而人工智能(AI)是減少在線(xiàn)仇恨的主要工具之一。幾年前，我們創(chuàng )建了“防止大規模暴行數字實(shí)驗室”，致力于改善公共政策，以遏制暴力極端分子對技術(shù)平臺的利用。
超賣(mài)能力?
科技公司痛苦地意識到其平臺的惡意使用。
2017年6月，Facebook，微軟，Twitter和YouTube宣布成立反恐全球互聯(lián)網(wǎng)論壇，旨在破壞在線(xiàn)極端主義活動(dòng)。然而，隨著(zhù)消除有害在線(xiàn)內容的政治壓力越來(lái)越大，這些公司開(kāi)始意識到其人類(lèi)內容主持人的局限性。
相反，他們越來(lái)越多地開(kāi)發(fā)和部署AI技術(shù)，以自動(dòng)執行不需要的內容檢測和刪除過(guò)程。但是他們這樣做是在沒(méi)有監督的情況下進(jìn)行的，而且很少有關(guān)于這些AI系統如何工作的公共信息，這是公共政策論壇在最近的一份報告中指出的問(wèn)題。
根據其最新的透明度報告，Twitter聲稱(chēng)其在2017年上半年使用AI刪除了超過(guò)300,000個(gè)與恐怖主義有關(guān)的帳戶(hù)。
Facebook本身承認，在圍繞仇恨言論的問(wèn)題上，它正在努力有效地利用AI。首席執行官馬克·扎克伯格(Mark Zuckerberg)今年早些時(shí)候告訴美國國會(huì )議員，人工智能仍然在努力解決語(yǔ)言方言，語(yǔ)境以及聲明是否符合仇恨言論的細微差別，并且可能需要花費多年的時(shí)間才能解決。
但是，該公司還聲稱(chēng)能夠使用AI驅動(dòng)的算法和人工內容主持人，刪除ISIS和基地組織附屬內容的99%。人工智能還是人類(lèi)是公司成功聲明的關(guān)鍵，尚未進(jìn)行獨立調查。
人工智能的失敗
2017年，有250家公司因涉嫌未能控制YouTube極端主義內容而暫停與Google的廣告合同。一年后，Google廣告和商務(wù)高級副總裁Sridhar Ramaswamy表示，該公司在平臺安全方面取得了長(cháng)足進(jìn)步，以重拾客戶(hù)失去的信心。
但是，NGO反極端主義項目最近的一項研究駁斥了該公司限制和刪除極端主義視頻的努力的有效性。鑒于這項研究發(fā)現，超過(guò)90%的ISIS視頻被上傳了多次，并且未對違反公司服務(wù)條款的帳戶(hù)采取任何措施，因此YouTube需要提高透明度和問(wèn)責制。
顯然，沒(méi)有簡(jiǎn)單的前進(jìn)道路。刪除無(wú)害，冒犯，極端主義或非法的內容，即使這些內容令人反感，也妨礙了言論自由。在某些情況下，使用AI刪除內容會(huì )阻止人權捍衛者發(fā)布的合法材料。
例如，2017年，人權活動(dòng)家莎·侯賽因(Shah Hossain)發(fā)現他在Facebook上有關(guān)迫害緬甸羅興亞少數民族的大量帖子被刪除。YouTube還刪除了他的新聞頻道，該頻道有近80,000個(gè)訂閱者。侯賽因在記錄侵犯人權行為，而不是仇恨行為。
在敘利亞，獨立新聞受到戰爭的嚴格限制，激進(jìn)分子在網(wǎng)上發(fā)布的視頻和照片對于了解該國的局勢至關(guān)重要。然而，為了打擊極端主義內容，YouTube的AI驅動(dòng)算法刪除了數千個(gè)針對平民的暴行視頻。錄像帶被發(fā)布，以作為最終起訴敘利亞官員危害人類(lèi)罪的證據。這很麻煩。
向前進(jìn)
知名的社交媒體巨頭公開(kāi)表示，他們將投入更多資源來(lái)監管其平臺。但是，鑒于當前的結果，是時(shí)候考慮這種方法是否合乎道德和有效。
英國，法國，德國，歐盟和美國等已開(kāi)始公開(kāi)討論和實(shí)施有關(guān)高科技行業(yè)的監管措施，不僅涉及恐怖主義和仇恨言論，而且還涉及數字選舉干擾，傳播虛假新聞和虛假宣傳活動(dòng)。
加拿大已經(jīng)開(kāi)始認真對待這一問(wèn)題，在加拿大全球事務(wù)部成立了數字融合實(shí)驗室，致力于加強七國集團的共同努力。
這些是非常需要的舉措。大型科技巨頭一直在夸大AI在對抗其平臺上的仇恨方面的有效性。我們的民主和開(kāi)放社會(huì )必須拋棄人工智能是解決眼前問(wèn)題的靈丹妙藥的觀(guān)念。除非民選官員監管大科技公司，否則社會(huì )兩極分化和日益增長(cháng)的不信任將繼續存在。