對未來(lái)人工智能系統出現問(wèn)題的擔憂(yōu)已引起Google研究人員的關(guān)注。在公司的DeepMind小組宣布與牛津大學(xué)的研究人員合作開(kāi)發(fā)無(wú)賴(lài)AI系統的殺傷開(kāi)關(guān)后不到兩周，谷歌發(fā)布了一份致力于解決AI安全風(fēng)險的技術(shù)論文。

這篇名為“人工智能安全的具體問(wèn)題”的論文是與斯坦福大學(xué)，加利福尼亞大學(xué)，伯克利分校和致力于人工智能研究的非營(yíng)利性公司OpenAI的研究人員合作撰寫(xiě)的。

它概述了研究人員說(shuō)在當今相對較小的五個(gè)基本問(wèn)題，但隨著(zhù)機器在未來(lái)變得越來(lái)越智能，預測將具有更大的重要性。

谷歌研究員克里斯·奧拉赫(Chris Olah)在該公司的研究博客上說(shuō)，本文探索了解決這些問(wèn)題并確保將AI系統設計為以可靠且安全的方式運行的實(shí)用方法。

Olah說(shuō)：“雖然可能的AI安全風(fēng)險已經(jīng)引起了公眾的廣泛關(guān)注，但大多數先前的討論都是非常假設性和推測性的。” 他說(shuō)：“我們認為，在真正的機器學(xué)習研究中關(guān)注問(wèn)題并開(kāi)始為工程AI系統開(kāi)發(fā)實(shí)用方法至關(guān)重要。”

機器學(xué)習和人工智能是Google的重要領(lǐng)域。該公司表示，希望利用這些領(lǐng)域的進(jìn)步來(lái)改善其核心技術(shù)。它已經(jīng)在某些應用程序中應用了AI和機器智能技術(shù)，包括Google Translate，Google Photos和語(yǔ)音搜索。

公司首席執行官Sundar Pichai 表示，Google希望看到AI能夠從根本上改變人們的出行方式，完成日常任務(wù)并解決醫療保健和氣候變化等領(lǐng)域的問(wèn)題。

OpenAI研究人員Paul Christiano和Greg Brockman在博客文章中指出，先進(jìn)的AI意味著(zhù)使AI系統更智能，更安全，并在新發(fā)布的技術(shù)論文中宣布了公司的作用。研究人員說(shuō)，這意味著(zhù)“確保AI系統能夠完成人們真正希望他們做的事情”。

新發(fā)布的Google技術(shù)論文研究的五個(gè)問(wèn)題之一是確保AI系統在執行功能時(shí)不會(huì )對環(huán)境造成負面影響的一種方法。例如，Olah指出要對清潔機器人進(jìn)行編程，使其不要敲倒花瓶，即使這樣做可以更快地完成任務(wù)。

其他問(wèn)題涉及找出確保機器人不會(huì )從事具有負面影響的活動(dòng)的方法，例如將濕拖把插入電源插座，或者以適當安全的方式在不同的環(huán)境(例如車(chē)間或辦公室)中運行。

OpenAI的克里斯蒂安諾和布羅克曼說(shuō)：“許多問(wèn)題并不是新問(wèn)題，但是本文是在尖端系統的背景下進(jìn)行探討的。”

這份新的技術(shù)論文似乎是對解決AI安全相關(guān)問(wèn)題日益加深關(guān)注的一部分。例如，谷歌與牛津大學(xué)的研究專(zhuān)注于確保未來(lái)的超智能AI系統永遠不會(huì )主動(dòng)阻止操作員的干擾。目的是確保工程師能夠以一種不穩定或不安全的方式開(kāi)始安全關(guān)閉AI系統。