微軟呼吁美國政府介入并規范面部識別技術(shù)的使用。Chris Middleton解釋了原因。
“所有工具都可以用于好或壞。微軟總裁布拉德史密斯在周五晚上(7月13日)的博客文章中寫(xiě)道，即使是一把掃帚也可以用來(lái)掃地或打人頭。
但史密斯并不是在談?wù)撉鍧嵎课?- 至少不是傳統意義上的。他指的是面部識別系統，以及他們被私人公司和公共機構使用和濫用的可能性。
“面部識別技術(shù)提出了基本人權保護的核心問(wèn)題，如隱私和言論自由，”他繼續說(shuō)道。“這些問(wèn)題加劇了創(chuàng )建這些產(chǎn)品的科技公司的責任。”
解決這項技術(shù)潛在的大規模濫用問(wèn)題的解決方案是微軟稱(chēng)之為“深思熟慮的政府監管”而不是供應商自我監管，以及制定可接受使用的新規范。
史密斯呼吁“政府采取行動(dòng)，規范面部識別技術(shù)的正確使用，首先由兩黨和專(zhuān)家委員會(huì )通報”。
新的背景
那么是什么促使微軟要求美國政府監管技術(shù)部門(mén)，以及自己使用產(chǎn)品?或者，從另一個(gè)角度來(lái)看，尋求兩黨共識和補救措施?
最近一個(gè)月出現了一些關(guān)于面部識別在執法中越來(lái)越多使用的新聞報道 - 特別是在與少數民族公民打交道時(shí)，錯誤識別和偏見(jiàn)的風(fēng)險增加。
“科技行業(yè)的研究人員正在加班加點(diǎn)以應對這些挑戰，并且正在取得重大進(jìn)展，”史密斯寫(xiě)道。“但正如 重要研究表明的那樣，缺陷仍然存在。該技術(shù)的相對不成熟使得更廣泛的公眾問(wèn)題變得更加緊迫。“
商業(yè)聯(lián)盟最近報道了兩名美國警察使用亞馬遜的實(shí)時(shí)重新識別系統，以及英國警方自己使用該技術(shù)造成的不良結果的爭議：2%的成功率和零逮捕。
但微軟表示，這些問(wèn)題只是問(wèn)題的一部分：急于使用這項技術(shù)是我們努力創(chuàng )造的世界的核心所在。史密斯寫(xiě)道，這項技術(shù)“不再脫離社會(huì )”。“它正在我們的個(gè)人和職業(yè)生活中深深融入。”
史密斯承認，面部識別的一些新興用途是積極的和變革性的，但是公眾監督，政治監控，甚至零售商未經(jīng)同意共享客戶(hù)數據的風(fēng)險應該迫使我們問(wèn)：我們想要這些技術(shù)的作用是什么在我們的社會(huì )中發(fā)揮?
由自己的花瓣提升
但是微軟本身在做什么，因為它可以解決問(wèn)題的一部分?
最近關(guān)于微軟與美國移民和海關(guān)執法局(ICE)的關(guān)系的爭議不僅僅是因為全球對墨西哥邊境的兒童與父母分離的反感，而且還與對可能歧視性地使用面部識別的擔憂(yōu)有關(guān)。通過(guò)ICE未來(lái)。
正如谷歌最近對道德人工智能開(kāi)發(fā)的承諾是由員工反對其與五角大樓的Project Maven交易而引發(fā)的，因此微軟關(guān)于面部識別的公開(kāi)聲明似乎受到了自己與ICE相關(guān)的強烈反對的刺激。
“有問(wèn)題的合同根本沒(méi)有被用于面部識別，”史密斯用一個(gè)值得注意的，防御性的聲音寫(xiě)道。“微軟也沒(méi)有與美國政府就任何與邊境兒童與家人分離有關(guān)的項目進(jìn)行合作，我們強烈反對這種做法。
“合同下的工作取而代之的是支持舊電子郵件，日歷，消息傳遞和文檔管理工作負載。這種類(lèi)型的IT工作在美國的每個(gè)政府機構中進(jìn)行，對于這個(gè)問(wèn)題，幾乎每個(gè)政府，企業(yè)和非營(yíng)利機構都在世界各地。
“但有些人建議微軟取消合同并停止與ICE的所有合作。”
顯然，微軟無(wú)意這樣做 - 或者至少，史密斯在這一點(diǎn)上放棄了這個(gè)主題，而是選擇將一些微軟的主要競爭對手引入更廣泛的爭議：
“[這些問(wèn)題]今年早些時(shí)候出現在谷歌和其他科技公司。最近幾周，一群亞馬遜員工反對與ICE簽訂合同，同時(shí)重申美國公民自由聯(lián)盟(ACLU)對執法使用面部識別技術(shù)的擔憂(yōu)。Salesforce員工提出了與移民當局和這些機構使用其產(chǎn)品相關(guān)的相同問(wèn)題。
“越來(lái)越多的技術(shù)公司需要限制政府機構使用面部識別和其他技術(shù)的方式。”
但是，當然，供應商可以簡(jiǎn)單地拒絕從他們認為違反自己聲明的價(jià)值的部署中賺錢(qián)。但目前有五百億美元的五角大樓云計算合同可供爭奪，他們中的任何一個(gè)都會(huì )走開(kāi)嗎?
但問(wèn)題本身并沒(méi)有消失，史密斯說(shuō)，并補充說(shuō)這使得“我們利用這個(gè)時(shí)刻來(lái)確定方向更為重要”。