行業(yè)資訊
霍金:人工智能未來(lái)將發(fā)展出自己的意志
發(fā)表日期:2016年10月27日導(dǎo)語(yǔ):最近幾年,霍金針對(duì)人工智能發(fā)表了一系列令人頗感恐慌的警告。
據(jù)外媒報(bào)道,雖然史蒂芬·霍金(Stephen Hawking)一直以來(lái)都在警告人工智能蘊(yùn)含的各種危險(xiǎn),但他最近卻出人意料地出席了一個(gè)人工智能研究中心的成立儀式,并且發(fā)表了演講。
每當(dāng)霍金發(fā)話,人們總會(huì)側(cè)耳傾聽(tīng)。
最近幾年,霍金針對(duì)人工智能發(fā)表了一系列令人頗感恐慌的警告。他在2014年接受BBC采訪時(shí)說(shuō):“人工智能的全面發(fā)展將宣告人類的滅亡。”正因如此,當(dāng)這位全球最著名的科學(xué)家祝賀一個(gè)新的人工智能研究中心的成立時(shí),全世界都頗感意外。
霍金在劍橋大學(xué)利弗休姆未來(lái)智能研究中心(Leverhulme Centre for the Future of Intelligence,以下簡(jiǎn)稱“CFI”)的成立儀式上發(fā)表了演講。雖然他緩和了對(duì)人工智能的態(tài)度,但并沒(méi)有改變基本觀點(diǎn)。
“對(duì)人類而言,強(qiáng)大的人工智能技術(shù)的崛起可謂‘不成功,則成仁’?!彼f(shuō),“但究竟是‘成功’還是‘成仁’,目前還不清楚?!?/p>
霍金之的態(tài)度所以稍微有所緩和,可能是源自這個(gè)研究中心的使命。CFI的工作并不是開(kāi)發(fā)人工智能技術(shù),而是評(píng)估人工智能對(duì)人類文明產(chǎn)生的影響,從而對(duì)由此產(chǎn)生的好處和威脅提前做出應(yīng)對(duì),并就相應(yīng)的公共政策提出建議。
CFI獲得了利弗休姆信托基金1000萬(wàn)英鎊的撥款,這家機(jī)構(gòu)為全英國(guó)的眾多研究項(xiàng)目提供資金。CFI匯聚了全球4所頂尖高校的力量,包括劍橋大學(xué)、牛津大學(xué)、加州大學(xué)伯克利分校和倫敦帝國(guó)理工學(xué)院,他們計(jì)劃建設(shè)一個(gè)國(guó)際化的跨學(xué)科研究團(tuán)隊(duì)。CFI還將與政府和產(chǎn)業(yè)界展開(kāi)合作,就具體問(wèn)題制定相應(yīng)的計(jì)劃——例如,針對(duì)自動(dòng)化武器制定監(jiān)管政策。
根據(jù)劍橋大學(xué)發(fā)布的官方新聞稿,該研究中心在第一個(gè)“3年計(jì)劃”內(nèi)將著眼于7大項(xiàng)目,最初一批項(xiàng)目包括:
——智能的科學(xué)、價(jià)值和未來(lái)
——政策與負(fù)責(zé)任的創(chuàng)新
——探究自動(dòng)化武器的監(jiān)管政策
——信任與透明
學(xué)術(shù)界似乎都在為人工智能的進(jìn)步做好準(zhǔn)備,而政府也在積極籌備相關(guān)工作。例如,美國(guó)白宮就在10月12日發(fā)布了長(zhǎng)達(dá)60頁(yè)的相關(guān)報(bào)告
除了CFI之外,最近還誕生了另外幾個(gè)以人工智能為主要研究方向的智庫(kù)。例如,美國(guó)馬薩諸塞州的未來(lái)生活研究所(Future of Life Institute)和牛津大學(xué)的人類未來(lái)研究所( Future of Humanity Institute)。
特斯拉創(chuàng)始人伊隆·馬斯克(Elon Musk)的OpenAI組織雖然明確以人工智能技術(shù)為開(kāi)發(fā)方向,但對(duì)人類文明本身也懷有更大的擔(dān)憂。該機(jī)構(gòu)的網(wǎng)站寫(xiě)道:“我們的使命是開(kāi)發(fā)安全的人工智能技術(shù),確保人們可以盡可能廣泛而平均地受益于此?!?/p>
即便單純從公關(guān)角度來(lái)看,霍金對(duì)這座新研究中心的背書(shū)也非常重要。作為全球最著名的科學(xué)家,霍金擁有無(wú)與倫比的影響力。
以下為霍金當(dāng)天的演講全文:
很高興今天能夠參加這座新的研究中心的成立儀式。我們花了很多時(shí)間研究歷史,但不得不承認(rèn),人類的歷史多半是一部愚蠢史。所以很高興人們轉(zhuǎn)而把研究方向轉(zhuǎn)向了智能的未來(lái)。
智能是人類之所以成為人類的關(guān)鍵因素。人類文明的一切成就都是人類智能的產(chǎn)物:從學(xué)習(xí)取火和種植食物到理解宇宙,無(wú)一例外。
我相信,生物大腦與電腦所能達(dá)到的成就并沒(méi)有本質(zhì)的差異。因此,從理論上講,電腦可以模擬人類智能,甚至可以超越人類。
人工智能研究目前的進(jìn)展很快。從無(wú)人駕駛汽車到電腦在圍棋中戰(zhàn)勝人類頂尖選手,這一系列標(biāo)志性事件都預(yù)示著未來(lái)的走向。海量資金正在涌入這一領(lǐng)域,與今后幾十年的進(jìn)步相比,如今的成就必然相形見(jiàn)絀。
人工智能的潛在利益十分巨大。當(dāng)我們本身的思維都要靠人工智能來(lái)擴(kuò)充時(shí),我們就無(wú)法預(yù)測(cè)未來(lái)的成就。憑借著這場(chǎng)新的科技革命帶來(lái)的工具,我們或許能夠挽回上一場(chǎng)工業(yè)化革命給自然界帶來(lái)的破壞。我們也希望最終消除疾病和貧困。我們生活的方方面面都將改變。簡(jiǎn)而言之,成功創(chuàng)造人工智能將成為人類文明史上最重大的事件。
然而,這也有可能成為最后一個(gè)重大事件——除非我們學(xué)會(huì)如何規(guī)避風(fēng)險(xiǎn)。除了各種好處外,人工智能還將帶來(lái)危險(xiǎn),包括強(qiáng)大的自動(dòng)化武器,或者幫助少數(shù)人欺壓普通大眾的方法。這將對(duì)我們的經(jīng)濟(jì)造成巨大破壞。人工智能未來(lái)還將發(fā)展出自己的意志——這種意志將與人類的意志產(chǎn)生沖突。
簡(jiǎn)而言之,對(duì)人類而言,強(qiáng)大的人工智能技術(shù)的崛起可謂“不成功,則成仁”,但究竟是“成功”還是“成仁”,目前還不清楚。正因如此,我與其他幾個(gè)人在2014年呼吁對(duì)這一領(lǐng)域展開(kāi)更多研究。我很高興有人聽(tīng)從了我的建議!
這個(gè)中心所開(kāi)展的研究對(duì)于我們的文明和我們這個(gè)物種的未來(lái)至關(guān)重要。我真心祝福你們!