隨著(zhù)圖片和視頻上越來(lái)越多地使用人工智能(AI)，“ deepfake”內容已在Internet上變得非常普遍。盡管這些內容中的許多內容都是為了娛樂(lè )和娛樂(lè )而制作的，但對于那些不太了解信息的人群，這些內容仍然可能成為錯誤信息的來(lái)源。因此，為了通過(guò)“深造”圖像和視頻來(lái)對抗錯誤信息和虛假新聞的傳播，Microsoft開(kāi)發(fā)了一種工具，可以檢測AI制作的圖像和視頻。
由總部位于雷德蒙德(Redmond)的軟件巨頭的研發(fā)部門(mén)開(kāi)發(fā)的“視頻身份驗證器”工具可以分析圖像和視頻，并檢測它們是虛構的還是真實(shí)的。該工具研究視頻和圖像，并為它們提供“百分比機會(huì )或置信度分數”。
“今天，我們宣布了Microsoft Video Authenticator。Video Authenticator可以分析靜態(tài)照片或視頻，以提供媒體被人為操縱的機會(huì )或置信度分數。” 微軟的高管在官方博客中寫(xiě)道。
據微軟稱(chēng)，在分析視頻的情況下，該工具將實(shí)時(shí)為視頻的每一幀提供“百分比機會(huì )”。
盡管檢測AI操縱的媒體可能很困難，但該公司表示，該工具 “通過(guò)檢測可能無(wú)法被人眼察覺(jué)的Deepfake和細微褪色或灰度元素的混合邊界來(lái)工作。”
現在，進(jìn)入一些技術(shù)細節，“視頻身份驗證器”工具是使用FaceForesnics ++的公共數據集開(kāi)發(fā)的。然后在DeepFake檢測挑戰數據集上對其進(jìn)行了測試。根據微軟的說(shuō)法，這兩個(gè)是 “用于訓練和測試深度檢測技術(shù)的領(lǐng)先模型”。
總部位于雷德蒙德的巨人正在與舊金山的AI基金會(huì )合作以分發(fā)該工具。隨著(zhù)該工具的推出，該公司旨在防止錯誤信息的傳播，特別是在美國大選之前。
因此，該工具“最初只能在RD2020 [Reality Defender 2020]上使用，它將通過(guò)任何Deepfake檢測技術(shù)固有的局限性和道德考量來(lái)指導組織。” 。因此，它將分發(fā)給競選活動(dòng)的組織者以及涉及政治新聞的新聞和媒體。
