《紐約時(shí)報》3月21日的《科學(xué)》雜志報道說(shuō)，黑客的可訪(fǎng)問(wèn)性和潛在的安全漏洞在很大程度上影響著(zhù)成功的AI系統的發(fā)展，但更緊迫的威脅可能會(huì )由醫療保健監管機構(如保險提供商和計費公司)面臨。

雖然神經(jīng)網(wǎng)絡(luò )通過(guò)分析大量數據來(lái)訓練自己完成某些任務(wù)，但只需少量的數字操作即可改變技術(shù)的核心功能，哈佛醫學(xué)院和麻省理工學(xué)院的研究員Samuel Finlayson也是該論文的作者，告訴《紐約時(shí)報》。正如研究人員已經(jīng)訓練了AI系統來(lái)檢測乳腺癌一樣，黑客可以操縱代碼以不標記惡性腫瘤。

研究人員一次又一次地證明了AI可能會(huì )帶來(lái)意想不到的負面后果-例如，無(wú)人駕駛汽車(chē)將停車(chē)標志解釋為屈服標志，并且以AI為動(dòng)力的眼鏡被欺騙以使其認為名人。但就臨床而言，Finlayson和他的同事表示，他們擔心強大的醫療保健利益相關(guān)者可以通過(guò)數據操作實(shí)現什么。

Finlayson告訴《紐約時(shí)報》：“醫學(xué)信息固有的含混性，加上經(jīng)常競爭的財務(wù)激勵機制，使高風(fēng)險決策可以依靠非常微妙的信息。”

他說(shuō)，由于醫療保健行業(yè)內有大量的貨幣兌換，保險和計費公司已經(jīng)通過(guò)更改其計算機系統內的計費代碼和其他數據來(lái)“使系統計費”。隨著(zhù)AI在這些環(huán)境中變得越來(lái)越普遍，利益相關(guān)者更有可能操縱掃描以獲得更好的支出，或者更改圖像以加快監管審批。

賓夕法尼亞大學(xué)助理教授哈姆薩·巴斯塔尼(Hamsa Bastani)對《醫療時(shí)報》進(jìn)行了研究，他說(shuō)：“某些行為是無(wú)意的，但并非全部。” “總是會(huì )有意想不到的后果，尤其是在醫療保健方面。”