繼不久前美國電動汽車廠商特斯拉首席執(zhí)行官馬斯克和社交媒體網(wǎng)絡(luò)臉譜創(chuàng)始人扎克伯格就人工智能（AI）技術(shù)的危害隔空辯論之后，近期全球一百多位人工智能專家聯(lián)名致信聯(lián)合國，呼吁禁止基于該技術(shù)的自動化武器的發(fā)展。人工智能產(chǎn)業(yè)化前景毋庸置疑，但其雙面性使得如何在以人類安全和利益為重的前提下，對其潛在的威脅進(jìn)行制衡正引發(fā)越來越多的思考。

　　預(yù)警“機(jī)器人殺手”

　　上百位科技界領(lǐng)袖和人工智能專家近期聯(lián)名簽署一封信，敦促聯(lián)合國盡快采取行動應(yīng)對自動化武器的潛在危害，以免為時(shí)過晚。

?

當(dāng)?shù)貢r(shí)間2017年7月11日，日本玩具制造商Tomy在日本東京展示新款機(jī)器人玩具Cozmo，Cozmo配備人工智能，帶有臉部識別功能，可以基于不同環(huán)境表達(dá)情感。Cozmo將于9月23日在日本開賣。?

　　信件在21日于澳大利亞墨爾本舉行的人工智能技術(shù)會議上被公開。據(jù)法新社報(bào)道，116名機(jī)器人與人工智能技術(shù)領(lǐng)域的科技領(lǐng)袖致信聯(lián)合國警告稱，“機(jī)器人殺手”，即能致人死傷的自動武器，可能帶來繼槍藥炮彈和核武器之后戰(zhàn)爭領(lǐng)域的第三次革命。信件稱，一旦發(fā)展了自動化武器，就可能令武裝沖突作戰(zhàn)規(guī)模大于以往，并且作戰(zhàn)規(guī)模的發(fā)展速度可能要比人們所能理解的快得多。信中稱，這些自動武器可能包括恐怖武器、專制者和恐怖分子用來對付無辜人群的武器，或以多種令人不快的方式出現(xiàn)的武器等等?？植澜M織還可能通過黑客技術(shù)盜用“機(jī)器人殺手”，進(jìn)而傷害無辜平民。

　　信中稱，人們必須抓緊時(shí)間行動，一旦這一潘多拉盒子被打開，就很難再關(guān)閉起來。致信的科技界人士包括美國特斯拉公司首席執(zhí)行官埃隆·馬斯克、谷歌旗下研制出人工智能“阿爾法狗”的深度思維技術(shù)公司聯(lián)合創(chuàng)始人穆斯塔法·蘇萊曼、著名人工智能專家托比·沃爾什、中國優(yōu)必選科技有限公司創(chuàng)始人周劍等，他們建議聯(lián)合國像禁止生化武器一樣禁止此類武器。

　　參與簽署這封信件的澳大利亞新南威爾士大學(xué)人工智能專家托比·沃爾什表示，他對全球人工智能武器軍備競賽感到十分擔(dān)憂。他說：“如果我們把人工智能武器運(yùn)用到戰(zhàn)爭中去，最終人類將陷入一個(gè)非常危險(xiǎn)、極其不穩(wěn)定的世界。”

　　沃爾什認(rèn)為，人工智能具有雙面性，這項(xiàng)技術(shù)必須研發(fā)下去，但應(yīng)建立在以全球人類安全為重的大前提下，建立在各方在人工智能研發(fā)中必須就制衡達(dá)成共識的基礎(chǔ)之上。沃爾什舉例說，人們需要自動駕駛汽車，在該領(lǐng)域人工技術(shù)怎樣發(fā)展都不為過，可以帶來很多益處；但是這些技術(shù)稍加改動就可能會產(chǎn)生很壞的結(jié)果。沃爾什表示，因此相關(guān)的立法就顯得尤為重要，全社會必須共同努力確保不在戰(zhàn)爭領(lǐng)域使用這些技術(shù)。

　　據(jù)聯(lián)合國官網(wǎng)顯示，一個(gè)聯(lián)合國人工智能專家組原定21日開會商討“機(jī)器人殺手”事宜，但會議隨后取消，預(yù)計(jì)將推遲至11月舉行。

　　AI是福是禍？

　　目前，人工智能技術(shù)幾年間已經(jīng)從實(shí)驗(yàn)室逐步走向產(chǎn)業(yè)化,全球科技企業(yè)均在紛紛布局人工智能領(lǐng)域。人工智能技術(shù)的快速發(fā)展，令人們在享受其便利的同時(shí)，對其潛在危害的擔(dān)憂也不斷加深。科技大佬們在這一問題上交鋒不斷。今年7月底，馬斯克與美國社交網(wǎng)絡(luò)臉譜公司創(chuàng)始人馬克·扎克伯格圍繞“人工智能對人類是福還是禍”展開隔空論戰(zhàn)，引發(fā)關(guān)注。

　　科技狂人馬斯克一直指責(zé)人工技術(shù)的潛在危害，曾將人工智能技術(shù)稱為人類文明目前面臨的“最大危險(xiǎn)”。他曾警告說，“具有超級智慧的人工智能產(chǎn)品”各方面能力遠(yuǎn)超人類，那么人類在強(qiáng)大的人工智能面前可能會淪為“家貓”。

　　馬斯克認(rèn)為，人工智能崛起產(chǎn)生的潛在危險(xiǎn)應(yīng)得到重視，他呼吁成立監(jiān)管機(jī)構(gòu)引導(dǎo)人工智能技術(shù)發(fā)展。馬斯克列舉了多項(xiàng)人工智能或?qū)⒁l(fā)的最糟后果：如人工智能技術(shù)將威脅所有人類工作，以及這項(xiàng)技術(shù)甚至可能引發(fā)戰(zhàn)爭。他說，人工智能可以比人類更快、更高效地完成任務(wù)，更加危險(xiǎn)的是，機(jī)器人能“制造假新聞、假電子郵件賬號和假信息，以及操縱信息，從而引發(fā)戰(zhàn)爭”。

　　以自動駕駛技術(shù)為例，馬斯克預(yù)測，20年后，美國道路上所有汽車都將是自動駕駛汽車，擁有一個(gè)方向盤“將如同擁有一匹馬”。當(dāng)所有汽車變成“車輪上的筆記本電腦”，網(wǎng)絡(luò)安全將成為重要關(guān)切。他說，如果黑客有能力指揮所有人的汽車前往同一地點(diǎn)，“那將成為特斯拉的末日”。為應(yīng)對這些危險(xiǎn)，駕駛員必須有能力在不受任何軟件干擾的情況下駕馭汽車。

　　馬斯克成立了一家非營利性企業(yè)OpenAI，幫助實(shí)現(xiàn)更加安全的人工智能技術(shù)。今年3月他月還宣布成立一家名為“神經(jīng)連接”（Neuralink）的公司。這家科技企業(yè)致力于連接人腦與電腦，提升人腦能力，確保人類有能力應(yīng)對人工智能帶來的威脅。

　　對人工智能未來持悲觀態(tài)度的并非馬斯克一人。美國微軟公司創(chuàng)始人之一比爾·蓋茨也曾表示，人工智能可能對人類帶來威脅。不少科技界人士之前也曾對人工智能技術(shù)的潛在危害發(fā)出過預(yù)警，尤其是對“機(jī)器人殺手”。2015年，馬斯克、英國著名科學(xué)家史蒂芬·霍金以及美國蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等科技界人士也曾聯(lián)名發(fā)布過類似信件，預(yù)警人工智能帶來的“危險(xiǎn)”，尤其是不可對“機(jī)器人殺手”掉以輕心。

　　但科技界無疑也有很多人力挺人工智能技術(shù)。扎克伯格就不贊同馬斯克的觀點(diǎn)，他對人工智能技術(shù)的發(fā)展相當(dāng)樂觀。扎克伯格表示，不能理解“那些認(rèn)為人工智能會導(dǎo)致末日的‘悲觀主義者’……從某種角度看，我認(rèn)為他們很不負(fù)責(zé)任”。

　　前百度首席科學(xué)家吳恩達(dá)近日在推特網(wǎng)站發(fā)聲，支持扎克伯克反擊恐懼人工智能的觀點(diǎn)。他表示：“作為一名熟悉人工智能的業(yè)內(nèi)人士，我曾創(chuàng)建和輸出大量人工智能產(chǎn)品，但我沒有看到人工智能會超越人類智力的明確跡象，”　吳恩達(dá)說，“我認(rèn)為，（人工智能將引發(fā)的）失業(yè)是個(gè)巨大問題，我希望人們聚焦于此，而不是被那些科幻小說式的元素分散了注意力?！?/p>

　　未來學(xué)家、美國奇點(diǎn)大學(xué)校長雷·庫茲韋爾認(rèn)為，應(yīng)當(dāng)讓機(jī)器人擁有自主意識，相信人類會利用好科技這把“雙刃劍”。德州撲克人工智能系統(tǒng)開發(fā)者、美國卡內(nèi)基－梅隆大學(xué)教授圖奧馬斯·桑德霍爾姆說，人工智能技術(shù)的風(fēng)險(xiǎn)被夸大了，而大眾傳媒對這項(xiàng)技術(shù)的好處闡述得還不夠。

　　著名人工智能專家、斯坦福大學(xué)人工智能實(shí)驗(yàn)室負(fù)責(zé)人李飛飛表示，“我相信，技術(shù)終將為人類服務(wù)。”清華控股董事長徐井宏表示，“任何一種先進(jìn)技術(shù)，都可能同時(shí)存在促進(jìn)作用和負(fù)向作用，無論人工智能在某一領(lǐng)域比人強(qiáng)多少，它依然是人的智慧產(chǎn)生的，就像計(jì)算機(jī)的病毒，無論發(fā)生多少變化，依然有可以控制的辦法。”

　　不過，人工智能技術(shù)正快速發(fā)展，隨著新情況的不斷出現(xiàn)，或許人們都必須重新思考其利與弊。不久前，就有美國媒體稱，臉譜開發(fā)的聊天機(jī)器人自創(chuàng)出人類無法理解的語言。據(jù)報(bào)道，由于聊天機(jī)器人開始用自創(chuàng)語言對話，全然無視程序員下達(dá)的指令，研究人員只得終止人工智能系統(tǒng)的全部活動。報(bào)道稱，研究人員起初對機(jī)器人用自創(chuàng)語言聊天一事感到困惑，但之后他們發(fā)現(xiàn)，機(jī)器人其實(shí)是在用一種更復(fù)雜的方式來處理手頭任務(wù)。報(bào)道稱，人工智能可自創(chuàng)語言也意味著能構(gòu)成新威脅，因?yàn)檫@將使研發(fā)人員在創(chuàng)造構(gòu)建人工神經(jīng)網(wǎng)絡(luò)時(shí)遭遇更大困難。目前，尚不清楚人工智能機(jī)器人能否推翻操作人員的指令。

　　就業(yè)沖擊來臨？

　　除了技術(shù)失控可能帶來潛在威脅外，人們對人工智能技術(shù)的另一大擔(dān)憂來自于就業(yè)領(lǐng)域所可能受到的沖擊。但不少業(yè)內(nèi)人士均認(rèn)為，人工智能的投入使用幫助節(jié)省了人力成本，將不可避免地帶來一些就業(yè)崗位的流失，但同時(shí)又在創(chuàng)造新的崗位，人們或許不必過于擔(dān)憂。

　　有媒體報(bào)道稱，人工智能或奪走英國超千萬工作崗位。英國薩頓基金會在一份報(bào)告中寫道，機(jī)器人技術(shù)和人工智能將削弱英國社會流動性，同時(shí)在英國減少多達(dá)1500萬個(gè)工作崗位。報(bào)告認(rèn)為，英國社會流動性如果達(dá)到西歐平均水平，可使年國內(nèi)生產(chǎn)總值增加2.1%，即大約390億英鎊（約合500億美元）。

　　薩頓基金會首席執(zhí)行官李·埃利奧特·梅杰說：“機(jī)器人技術(shù)的崛起正在奪走職場傳統(tǒng)的上升機(jī)遇?！薄?bào)告說，英國社會今后可能將形成兩層架構(gòu)，“一層是高技能精英群體，占據(jù)社會較高階；另一層是低技能、低收入群體，向上流動的前景渺?！?。

　　但也有不少觀點(diǎn)指出，人工智能現(xiàn)在看來很難真正取代人力。自動化能釋放出來的人力資源，可以投入到更高附加值的崗位中去，人們需要更多思考如何從事更多機(jī)器無法實(shí)現(xiàn)的工作。

　　據(jù)美國信息技術(shù)與創(chuàng)新基金會的調(diào)查數(shù)據(jù)分析，科技摧毀更多工作崗位的說法是不對的。數(shù)據(jù)顯示，美國的勞動力市場正處于前所未有的平穩(wěn)階段。該機(jī)構(gòu)的總裁羅伯特·阿特金森的研究顯示，如今科技每減少10個(gè)工作崗位，就會創(chuàng)造6個(gè)新的崗位，這一比例是1960年以來最高的。同時(shí)，科技進(jìn)步帶來的勞動生產(chǎn)率提高還令社會總產(chǎn)出和經(jīng)濟(jì)效率更高，最終帶來收入的增長，促使旅游、醫(yī)療、文娛和餐飲等難以被取代的服務(wù)業(yè)的工作崗位大幅增加。

　　積極思考如何與新技術(shù)同行或許是戰(zhàn)勝恐懼的更好方式。英國商務(wù)、能源與產(chǎn)業(yè)戰(zhàn)略部一名發(fā)言人說，政府已經(jīng)邀請一組行業(yè)專家研究數(shù)字技術(shù)和自動化帶來的挑戰(zhàn)和機(jī)遇。這些專家以德國西門子公司首席執(zhí)行官于爾根·邁爾為首。這名發(fā)言人說，政府將考慮“如何與企業(yè)合作，確保新技術(shù)的好處能夠普照經(jīng)濟(jì)各方面，在全英國創(chuàng)造新的、令人激動的、薪酬體面的就業(yè)崗位”。

　　趨勢不可逆轉(zhuǎn)

　　人工智能是新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動力之一，在全球快速發(fā)展的趨勢不可逆轉(zhuǎn)。近年來，從智能家居、智能汽車到機(jī)器人保姆、能下圍棋的阿爾法狗，人工智能的潛力越來越為公眾熟知，產(chǎn)業(yè)化進(jìn)程不斷加速。隨著電腦運(yùn)算能力提升、辨識技術(shù)突破及大數(shù)據(jù)應(yīng)用，人工智能發(fā)展正迎來新一波發(fā)展浪潮。

　　普華永道會計(jì)師事務(wù)所發(fā)布的報(bào)告預(yù)測，在人工智能技術(shù)推動下，2030年全球國內(nèi)生產(chǎn)總值將增長14%。普華永道預(yù)測說，到2030年人工智能將為全球經(jīng)濟(jì)貢獻(xiàn)15.7萬億美元。從2016至2030年人工智能將帶來的各經(jīng)濟(jì)增長數(shù)據(jù)來看，超過50%的增長將源于勞動生產(chǎn)率的提升，其他則主要來自人工智能激發(fā)的消費(fèi)需求增長。

　　這份報(bào)告認(rèn)為，中國和北美在這波人工智能浪潮中受益將最明顯——在相關(guān)技術(shù)發(fā)展帶動下能讓中國的GDP到2030年增長26%，北美GDP增長14.5%。此外，人工智能也會推動歐洲及亞洲一些發(fā)達(dá)國家出現(xiàn)顯著的經(jīng)濟(jì)增長。而在許多發(fā)展中國家，包括拉美和非洲的國家，由于人工智能技術(shù)采用率預(yù)期較低，因此人工智能帶來的經(jīng)濟(jì)提升幅度相對沒那么高。

　　最新《安永成長晴雨表》調(diào)查顯示，受訪的高級主管認(rèn)為，機(jī)器人與人工智能崛起是將來全球市場發(fā)展的不確定因素之一，同時(shí)也表示市場會因此帶來成長機(jī)會。

　　“不管你喜不喜歡，人工智能的時(shí)代已經(jīng)到來?！迸_灣主要工具機(jī)制造商、友嘉實(shí)業(yè)集團(tuán)總經(jīng)理馬仁宏說。就人工智能給產(chǎn)業(yè)界帶來的新挑戰(zhàn)，他表示，“工業(yè)4.0”和人工智能時(shí)代的核心課題是轉(zhuǎn)型，產(chǎn)業(yè)、企業(yè)都要轉(zhuǎn)型，把握住契機(jī)，提升所在產(chǎn)業(yè)的附加值。

　　臺灣“工研院”分析師黃仲宏指出，預(yù)計(jì)到2021年，全球智慧型機(jī)器人市場規(guī)模將從2011年的122億美元成長至336億美元，其中工業(yè)機(jī)器人與服務(wù)型機(jī)器人的市場規(guī)模都將持續(xù)成長，而服務(wù)型機(jī)器人會因庶務(wù)人力短缺、智慧家居和醫(yī)療照護(hù)等需求旺盛而成長更為快速。

　　安永聯(lián)合會計(jì)師事務(wù)所分析師黃昶勛認(rèn)為，人工智能會在商業(yè)、醫(yī)學(xué)等一些服務(wù)性行業(yè)首先作為人力的輔助有較大發(fā)展。

　　日前，中國也出臺了首部國家級人工智能發(fā)展規(guī)劃——《新一代人工智能發(fā)展規(guī)劃》，將新一代人工智能發(fā)展提高到了國家戰(zhàn)略層面。全球最大的咨詢機(jī)構(gòu)埃森哲公布的《人工智能：助力中國經(jīng)濟(jì)增長》報(bào)告顯示，通過轉(zhuǎn)變工作方式和開拓新的價(jià)值和增長源，人工智能有潛力將2035年的中國經(jīng)濟(jì)總增加值提升7.111萬億美元，年增長率從6.3%提速至7.9%。

　　“中國已在人工智能領(lǐng)域取得巨大進(jìn)展。”埃森哲大中華區(qū)主席莊泉娘表示，人工智能有潛力提振中國當(dāng)前放緩的經(jīng)濟(jì)增長，各利益相關(guān)方應(yīng)在智力、技術(shù)、政治、道德和社會等各方面做好準(zhǔn)備，迎接人工智能引領(lǐng)未來。

　　“人們對人工智能充滿期待，也應(yīng)保持高度警惕。”普華永道環(huán)球?qū)徲?jì)服務(wù)市場主管合伙人伍智杰認(rèn)為，應(yīng)以負(fù)責(zé)任的方式來設(shè)計(jì)和部署相關(guān)技術(shù)。“我們要優(yōu)先考慮信任和透明度，而非商業(yè)模式、投資目標(biāo)和績效提升方法，這樣才能幫助人們理解人工智能的效用，使其正確地為我們所用?！?/p>

?