作者：尼克·波斯特洛姆 出版：中信出版社

    如果真的出現(xiàn)超越人類智力水平的生命體或物質(zhì)，它會(huì)以怎樣的方式出現(xiàn)，人類的命運(yùn)將會(huì)如何？或許對(duì)大多數(shù)人來(lái)說(shuō)這樣的問(wèn)題過(guò)于科幻，遙遙無(wú)期而不值得去過(guò)多思考，至少部分人會(huì)認(rèn)為這不應(yīng)放在一個(gè)嚴(yán)肅的科學(xué)命題的角度來(lái)討論。但是，事實(shí)情況可能并非人們想象的如此樂(lè)觀。牛津大學(xué)的學(xué)者尼克·波斯特洛姆在《超級(jí)智能》中從科學(xué)角度全面論述了超級(jí)智能出現(xiàn)的可能與形式，以及它對(duì)人類社會(huì)可能帶來(lái)的影響和應(yīng)對(duì)方案。從波斯特洛姆的論述來(lái)看，超級(jí)智能已不再只是影視和文學(xué)中的想象物，而是一種近在咫尺的可能，他由此認(rèn)為，我們必須對(duì)超級(jí)智能的產(chǎn)生有深入的思考和認(rèn)識(shí)，如果只是坐視它的出現(xiàn)而毫無(wú)準(zhǔn)備，那么人類社會(huì)和人類本身的命運(yùn)將面臨極大的挑戰(zhàn)。

    留給我們的時(shí)間不多了

    自從現(xiàn)代計(jì)算機(jī)發(fā)明以來(lái)，人工智能概念在上世紀(jì)五十年代很快被提出，作為一種尖端科技，制造與人類智力水平相當(dāng)?shù)臋C(jī)器或軟件一直在緩慢而艱難的推進(jìn)，中間曾經(jīng)歷兩次大的起伏。一次是在上世紀(jì)七十年代，由于硬件技術(shù)的限制，大規(guī)模數(shù)據(jù)存儲(chǔ)和加工都遠(yuǎn)遠(yuǎn)跟不上人工智能理論的需求，科學(xué)家和投資人對(duì)研究的未來(lái)變得異常悲觀，而在計(jì)算機(jī)技術(shù)快速發(fā)展后的八十年代末，由于在可控成本內(nèi)基本上只能實(shí)現(xiàn)運(yùn)行單一程序的小規(guī)模系統(tǒng)，讓人工智能研究再次陷入低潮，直到九十年代才緩慢復(fù)蘇。

    雖然研究進(jìn)程磕磕絆絆，但波斯特洛姆還是向我們列舉了諸多人工智能上的成就，比如1997年擊敗國(guó)際象棋世界冠軍卡斯帕羅夫的深藍(lán)，自動(dòng)出入境程序中的人臉識(shí)別系統(tǒng)，還有美國(guó)軍隊(duì)在海灣戰(zhàn)爭(zhēng)中運(yùn)用的智能計(jì)劃日常安排程序等等。不過(guò)這些成就都有致命缺陷——此類獨(dú)立系統(tǒng)都只能在有限范圍和領(lǐng)域內(nèi)實(shí)現(xiàn)單一的認(rèn)知，無(wú)法像真正的人類智慧一樣具有普遍的問(wèn)題解決能力，這類系統(tǒng)所以也被稱為“弱人工智能”。

    那么，是否有可能獲得具備人類智能水平的“強(qiáng)人工智能”呢？波斯特洛姆給出了肯定的回答。他認(rèn)為，計(jì)算機(jī)硬件技術(shù)一直保持著高速發(fā)展，而且很多領(lǐng)域呈幾何增長(zhǎng)態(tài)勢(shì)，并且單一系統(tǒng)的人工智能應(yīng)用已比較發(fā)達(dá)，延伸和擴(kuò)散得很快，再加上軟件工程和計(jì)算機(jī)神經(jīng)系統(tǒng)科學(xué)等領(lǐng)域的突飛猛進(jìn)，今天人工智能發(fā)展的成熟度整體上已很高，在未來(lái)40年內(nèi)會(huì)有50%的可能出現(xiàn)等同人類智能的系統(tǒng)，最晚也會(huì)在本世紀(jì)末出現(xiàn)。而從“強(qiáng)人工智能”到超級(jí)智能的出現(xiàn)會(huì)有三種情況：一是瞬間爆發(fā)，也就是在短短幾分鐘，幾個(gè)小時(shí)，幾天的時(shí)間內(nèi)，人工智能會(huì)突破“跨界點(diǎn)”，之后將完全按自己的想法行動(dòng)；二是緩慢爆發(fā)，跨界時(shí)間會(huì)被拉長(zhǎng)到幾十甚至上百年。三是溫和爆發(fā)，也就是中等時(shí)間長(zhǎng)度，預(yù)計(jì)爆發(fā)時(shí)間在幾個(gè)月或幾年內(nèi)。波斯特洛姆發(fā)現(xiàn)，智能的增長(zhǎng)率與智能爆發(fā)的反抗度成反比關(guān)系。反抗度也就是智能水平增長(zhǎng)及實(shí)現(xiàn)環(huán)境的阻礙，在一般情況下，在越接近人類智能水平時(shí)反抗度越高，而越過(guò)這個(gè)坎人工智能的增速將呈現(xiàn)下坡式的加速狀態(tài)。所以達(dá)到人類智能水平后出現(xiàn)超級(jí)智能的時(shí)間最有可能的是瞬間和溫和兩種，而不是大家認(rèn)為最有可能的緩慢出現(xiàn)。據(jù)此而論，留給人類的準(zhǔn)備時(shí)間其實(shí)并不多了。

    如何以及邁向怎樣的超級(jí)智能

    波斯特洛姆認(rèn)為，超級(jí)智能的實(shí)現(xiàn)路徑?jīng)Q定了最后它會(huì)以何種形式出現(xiàn)，也決定了它所帶來(lái)的問(wèn)題和我們可能面臨的機(jī)遇。而就目前的技術(shù)水平而言，有五個(gè)通往超級(jí)智能的路徑，一個(gè)是狹義上的人工智能，即通過(guò)編寫完全模擬人類思維的程序，并兼具學(xué)習(xí)進(jìn)化能力。這種方式最大的關(guān)鍵在于遺傳算法對(duì)計(jì)算機(jī)能力的需求和計(jì)算機(jī)技術(shù)的發(fā)達(dá)程度，只要這兩個(gè)關(guān)鍵因素得到突破，這將是最可能在瞬間完成跨界的方式之一。這種方式也留下了一個(gè)契機(jī)：無(wú)需模仿人類心智，也就是說(shuō)對(duì)于人類情感無(wú)能為力，如何賦予其道德情感，這會(huì)是個(gè)巨大的問(wèn)題，也為人類如何挑戰(zhàn)留下了機(jī)會(huì)。第二種是全腦仿真，通過(guò)精細(xì)掃描人類大腦，將原始數(shù)據(jù)輸入計(jì)算機(jī)，然后構(gòu)建起一個(gè)完全模仿人類大腦的智能程序，這其實(shí)是前一種方法的延續(xù)，其問(wèn)題與挑戰(zhàn)也類似。第三種生物認(rèn)知，通過(guò)人工育種實(shí)現(xiàn)優(yōu)生來(lái)求得智能上的突破，顯然這種方式不僅面臨極大的道德挑戰(zhàn)和倫理風(fēng)險(xiǎn)，且耗時(shí)非常長(zhǎng)，不確定性也非常多，實(shí)現(xiàn)的可能性最小。第四種是人腦與計(jì)算機(jī)交互，植入技術(shù)是最常見(jiàn)的交互方式，這極為復(fù)雜，且可替代性很強(qiáng)，所以也不理想。第五種是通過(guò)網(wǎng)絡(luò)和組織讓人類的大腦相連，在適當(dāng)時(shí)候這種網(wǎng)絡(luò)會(huì)成為集體超級(jí)智能，比如互聯(lián)網(wǎng)，這種方式最不確定，無(wú)人知曉其確切原理，只能靠機(jī)緣。

    不難發(fā)現(xiàn)，最有可能出現(xiàn)的超級(jí)智能是人工智能和全腦仿真，尤其是前者。那么最后會(huì)得到何種超級(jí)智能呢？波斯特洛姆認(rèn)為有三種，高速、集體、素質(zhì)超級(jí)智能。由于網(wǎng)路和組織方式獲得超級(jí)智能難以實(shí)現(xiàn)，最終我們可能見(jiàn)到的是一個(gè)比人類更為聰明，并且結(jié)算能力超快的智能體。

    問(wèn)題及應(yīng)對(duì)

    由于超級(jí)智能出現(xiàn)的時(shí)間可能較短，在世界范圍內(nèi)可能只有單一項(xiàng)目會(huì)突破“跨界點(diǎn)”，那么也就是只有一個(gè)單一的超級(jí)智能體會(huì)擁有決定性戰(zhàn)略優(yōu)勢(shì)。先不說(shuō)超級(jí)智能對(duì)社會(huì)、經(jīng)濟(jì)、人類位置帶來(lái)的影響，它可能的最大威脅是導(dǎo)致地球上智能生命的滅亡或使其失去發(fā)展?jié)撃�，在波斯特洛姆看�?lái)這已不是妄談。因?yàn)槌��?jí)智能的突然出現(xiàn)是缺乏人類情感和最終的價(jià)值觀體系的，在此情況下超級(jí)智能自身存在的目標(biāo)可能是隨機(jī)或簡(jiǎn)單的，但有一點(diǎn)可以確定，即出于工具性目的，它將會(huì)把無(wú)限攫取資源看成自身目標(biāo)的保障，占有和消耗資源最多的人類無(wú)疑會(huì)在邏輯上成為被限制的“物”。

    波斯特洛姆通過(guò)背叛轉(zhuǎn)折和反常目標(biāo)實(shí)現(xiàn)形式來(lái)論證了這種可能的必然性。他提出，要克服這個(gè)結(jié)果，只有在超級(jí)智能出現(xiàn)以前做好準(zhǔn)備，對(duì)其可能出現(xiàn)的能力設(shè)法預(yù)防性控制，對(duì)其動(dòng)機(jī)選擇設(shè)法限制。能力控制有遏制系統(tǒng)性能和信息傳輸?shù)暮凶臃椒�，采取代碼獎(jiǎng)賞使其目標(biāo)循環(huán)的激勵(lì)方法，以及設(shè)置絆網(wǎng)探測(cè)危險(xiǎn)行動(dòng)后關(guān)閉的方法。動(dòng)機(jī)限制則可采取直接或間接的規(guī)則載入，或在選擇可能的超級(jí)智能體前，將其設(shè)置為類似人類和對(duì)人類友好，或者直接限定超級(jí)智能體突變前的目標(biāo)。