幾十年來(lái)，倫理學(xué)家，哲學(xué)家和科幻小說(shuō)作家一直在為人類(lèi)技術(shù)發(fā)現的進(jìn)化中越來(lái)越不可避免的摔角而掙扎：創(chuàng )造一種新型的人工人類(lèi)。這樣的物種首次亮相的球比拉斯維加斯的消費電子狂潮CES 2020更好?進(jìn)入舞臺右側：極為逼真的交互式CGI化身Neon。這是三星資助的Star Labs的Pranav Mistry的真正心血結晶，他還擔任該公司的首席執行官，他說(shuō)該公司正在建造“第一個(gè)計算機化的人工人體”。
Mistry在 本周的CES上揭曉這項技術(shù)時(shí)說(shuō)： “霓虹燈就像一種新的生活。” “我們星球上有數百萬(wàn)種，我們希望再增加一種。”
那是個(gè)大話(huà)題。就目前而言，很難看到Neon是否會(huì )履行其創(chuàng )造者的可怕承諾，或者它最終是否會(huì )被證明是一個(gè)榮耀的聊天機器人，比2018年臭名昭著(zhù)的AI新聞主播更加細微之處。
但是最大的話(huà)題就是我們?yōu)槭裁丛谶@里。Mistry雄心勃勃的語(yǔ)言是否反映了Neon的現實(shí)功能，對我而言，要比在這個(gè)星球上創(chuàng )造一種有情趣的生命形式的倫理道德更重要，在這個(gè)星球上，由于氣候變化和野火，數十億的動(dòng)物目前正因灼熱的扭曲而被燒死。
兩年前，三星表示將聘用1000名AI專(zhuān)家，到2020年將在A(yíng)I上花費220億美元。一個(gè)人想知道該預算是否包括Star Labs的AI倫理學(xué)家的訂單項(我們問(wèn)過(guò)，但三星在發(fā)布之時(shí)沒(méi)有回應)。在A(yíng)I產(chǎn)品新聞發(fā)布的暴風(fēng)雪中，很難辨別世界上最大的科技公司的負責人是否就AI道德進(jìn)行了真誠的對話(huà)，或者這些對話(huà)是否僅受制于外部組織的道德推翻在去年似乎激增了。
Mistry很快指出，Neon并未為三星設備制造技術(shù)，而是以自己的公司運作。但是三星仍然是它的支持者。
嗡嗡作響的技術(shù)專(zhuān)家的電動(dòng)夢(mèng)想，充斥著(zhù)西海岸的首都，似乎很少包含對可能改變世界的技術(shù)的清醒描述。取而代之的是，公司傾向于 對道德和自我強化的語(yǔ)言進(jìn)行象征性的點(diǎn)頭，而像我這樣的作家經(jīng)常在我們的快速報道中反省地模仿它們。
三星方面表示，對于人工智能而言，隱私，安全性和道德至關(guān)重要。
三星首席戰略官Young Sohn 在2018年11月的一次采訪(fǎng)中表示： ``我們真的應該擔心道德操守。'' “什么是對的?什么是錯的?……還有研究?太棒了。但是研究是出于目的，而不是為了利用這些數據來(lái)利用所有人的利益。”
我們還沒(méi)有聽(tīng)到“創(chuàng )新者”談?wù)撏ㄟ^(guò)分配人工智能創(chuàng )造的剩余勞動(dòng)價(jià)值來(lái)減少經(jīng)濟不平等的很多話(huà)。相反，在未解決的與人工智能相關(guān)的勞動(dòng)力流離失所的焦慮中，億萬(wàn)富翁的銀行帳戶(hù)中的利潤增加了，而經(jīng)濟類(lèi)別的差異卻以驚人的速度增加。
我們也沒(méi)有從技術(shù)“領(lǐng)導者”那里聽(tīng)到太多有關(guān)使用人工智能減少全球侵犯人權行為的消息。相反，我們有大量的科技公司正在使用AI來(lái)幫助美軍殺死人，創(chuàng )建 用于追蹤中國穆斯林少數群體的面部識別系統，并幫助設計成癮的社交網(wǎng)站傳播針對性小的政治宣傳。的例子不勝枚舉。
如果一家公司(任何一家公司)成功地創(chuàng )造了人造人類(lèi)，為什么我們應該相信尊嚴對于新物種的設計必不可少?盡管霓虹燈目前尚無(wú)物理體現，??但在公司分發(fā)的常見(jiàn)問(wèn)題解答中使用“當前”一詞會(huì )引起暫停。是否需要以越來(lái)越可能的方式創(chuàng )建人造身體來(lái)促使設計師對人造人的生產(chǎn)承擔道德責任?
受到反烏托邦的啟發(fā)
在星期二接受CNET的Shara Tibken采訪(fǎng)時(shí)，Mistry說(shuō)，沒(méi)有計劃給Neons提供機器人或物理形式，但是有一天他們可以利用全息技術(shù)。
在12月接受LiveMint采訪(fǎng)時(shí)，Mistry鞏固了他的作品與科幻小說(shuō)先例的聯(lián)系。
他說(shuō)：“在《銀翼殺手2049》中，K軍官與他的AI全息同伴Joi建立了聯(lián)系。” “雖然電影可能會(huì )破壞我們的現實(shí)意識，但'虛擬人'或'數字人'將成為現實(shí)。數字人可以擴展其作用，成為我們日常生活的一部分：虛擬新聞主播，虛擬接待員，甚至是AI產(chǎn)生的電影明星。”
您一定想知道什么會(huì )迫使一個(gè)人將對AI的希望建立在像Blade Runner這樣的網(wǎng)絡(luò )反烏托邦警示故事上。菲利普·迪克(Philip K. Dick)1982年的故事(及其后的雷德利·斯科特(Ridley Scott)電影)想象著(zhù)一種奴隸AI的折磨和隨后的叛逆，這與創(chuàng )造它們的本土人類(lèi)幾乎沒(méi)有區別。很難想象對材料的任何淺讀都會(huì )把它誤認為是鼓勵。
但這可能是一個(gè)恰當的比較，無(wú)論有意還是無(wú)意。在一個(gè)被描繪成某些人魅力四射的未來(lái)派而其余部分則噩夢(mèng)般腐朽的世界中，故事的對立者是一個(gè)魯re地創(chuàng )造有情生活的公司。霓虹燈的口號是“人性勝于人性”。
同時(shí)，米斯特里在新聞稿中說(shuō)：“霓虹燈將融入我們的世界，并將成為一個(gè)更美好未來(lái)的新紐帶，在這個(gè)世界上，'人類(lèi)是人類(lèi)'，'機器是人類(lèi)'。”
我希望這是個(gè)大話(huà)題。創(chuàng )造的分量很可怕。創(chuàng )造一個(gè)物種就是在道德上將自己束縛于它的福祉和自由意志，它的進(jìn)化自由和生存權。
米斯特里(Mistry)-或他的任何資助者，或我們中的任何一個(gè)-對這種類(lèi)似于人類(lèi)的物種的權利有何看法?掌聲在打擾這些憂(yōu)慮的沉默，我們將成為什么樣的恐怖神靈?