1951年，計算機(jī)之父阿蘭· 圖靈(Alan Turing)提出：“如果機(jī)器能思考，那么它很可能比我們更加明智……這種新的危險……當(dāng)然讓我們焦慮?！?/p>

世界經(jīng)濟(jì)論壇創(chuàng)始人兼執(zhí)行主席克勞斯·施瓦布（Klaus Schwab）在《第四次工業(yè)革命》一書中直言，“無論是規(guī)模、廣度還是復(fù)雜程度，第四次工業(yè)革命都與人類過去經(jīng)歷的變革截然不同?！?/p>

“這些改變是深刻的，以至于人類在其發(fā)展歷史上從未迎來如此美好的前景，也從未面臨如此嚴(yán)峻的風(fēng)險。”施瓦布說，“然而我擔(dān)心的是，決策者們往往囿于傳統(tǒng)的、非顛覆性的線性思維，或者過于關(guān)注眼前的危機(jī)，而難以對影響未來的各種顛覆和創(chuàng)新力量進(jìn)行戰(zhàn)略性思考?！?/p>

2017年6月27日至29日，世界經(jīng)濟(jì)論壇第11屆新領(lǐng)軍者年會的主題為“在第四次工業(yè)革命中實現(xiàn)包容性增長”。有哪些新技術(shù)正在改變?nèi)藗兊纳?？我們面臨著怎樣的風(fēng)險和挑戰(zhàn)？

新技術(shù)成“焦點風(fēng)險”

第四次工業(yè)革命中所誕生的新技術(shù)將不可避免地從多方面改變世界。

關(guān)于新興技術(shù)的爭論往往會出現(xiàn)兩極分化：有些人刻意只關(guān)注潛在的收益，而另一些人則過分關(guān)注潛在的危險。真正的挑戰(zhàn)是在這兩個極端之間找到平衡。

世界經(jīng)濟(jì)論壇大中華區(qū)首席代表艾德維（David Aikman）告訴《中國經(jīng)濟(jì)周刊》說，一方面我們正面對著第四次工業(yè)革命帶來的科技方面數(shù)不清的機(jī)遇與風(fēng)險。另一方面我們正在尋求新的發(fā)展模式和經(jīng)濟(jì)機(jī)遇。

“我們要做的并不是阻止技術(shù)的進(jìn)步，擔(dān)憂技術(shù)進(jìn)步風(fēng)險帶來的后果，而是探尋新技術(shù)如何帶來新的就業(yè)機(jī)會，釋放創(chuàng)業(yè)潛能，為社會帶來更多福祉?！卑戮S說，“第四次工業(yè)革命的新技術(shù)可以給我們更長的壽命，更可持續(xù)發(fā)展的地球，但我們必須引導(dǎo)這些技術(shù)的發(fā)展方向，通過共同的理念創(chuàng)造更多的共同利益和包容性增長?！?/p>

在即將出版的《第四次工業(yè)革命手冊》中，全球風(fēng)險認(rèn)知調(diào)查歸納了12項新興技術(shù)作為第四次工業(yè)革命的代表，包括：3D打印，新型材料和納米材料，人工智能和機(jī)器人，生物技術(shù)，能源采集，存儲和輸送，區(qū)塊鏈和分布式分類賬，地質(zhì)工程，物聯(lián)網(wǎng)，神經(jīng)技術(shù)，新計算技術(shù)，空間技術(shù)，虛擬和增強現(xiàn)實。

多年來，世界經(jīng)濟(jì)論壇發(fā)布的《全球風(fēng)險報告》反復(fù)強調(diào)技術(shù)風(fēng)險的重要性。在2015年的報告中，新興技術(shù)成為報告的“焦點風(fēng)險”之一，凸顯了人工智能（AI）和生物技術(shù)等領(lǐng)域中存在的道德困境。

在2017年的全球風(fēng)險認(rèn)知調(diào)查中，包含一個有關(guān)12種新興技術(shù)優(yōu)勢與負(fù)面后果的調(diào)查研究。結(jié)果表明，大部分受訪者對于技術(shù)風(fēng)險和利益的平衡普遍持樂觀態(tài)度。但受訪者仍在新興技術(shù)的監(jiān)管方面明確指出所需有限關(guān)注的領(lǐng)域為人工智能和機(jī)器人與生物技術(shù)。

AI技術(shù)武器化的風(fēng)險

“第四次工業(yè)革命將為經(jīng)濟(jì)、社會和個人發(fā)展創(chuàng)造新的機(jī)遇，從而向個人和社區(qū)賦權(quán)，但同時也會導(dǎo)致某些群體的邊緣化，加劇不平等，催生新的安全風(fēng)險，以及破壞人們的社會關(guān)系?！笔┩卟颊f。

《2017年全球風(fēng)險報告》認(rèn)為，理想情況下，監(jiān)管制度應(yīng)該足夠穩(wěn)定、可預(yù)測、透明，以便在投資者、企業(yè)與科學(xué)家之間建立信心，并應(yīng)在公眾中產(chǎn)生足夠的信任和認(rèn)知，從而讓用戶意識到評估早期負(fù)面后果的重要意義。

例如，自動駕駛技術(shù)會不可避免地導(dǎo)致一些事故，而是否會引起公眾呼吁禁止該技術(shù)的發(fā)展則取決于人們是否信任已經(jīng)為監(jiān)管其發(fā)展而制定的機(jī)制。

從目前看，投資者對新興技術(shù)抱著比較樂觀的態(tài)度。

資料顯示，全球?qū)９〢I應(yīng)用的創(chuàng)業(yè)公司在2015年收到了24億美元的風(fēng)險投資基金，在2016年上半年收到了超過15億美元的風(fēng)險投資基金。政府項目和現(xiàn)有科技公司又在此基礎(chǔ)上追加了數(shù)十億美元的投資。

除了近期阿爾法狗 (AlphaGo) 再次戰(zhàn)勝人類棋手之外，機(jī)器的學(xué)習(xí)技術(shù)已經(jīng)能通過大數(shù)據(jù)分析來揭示有價值的信息，并且通過處理人類能力所無法企及的問題來為企業(yè)創(chuàng)造價值。

再比如斯坦福大學(xué)的計算病理學(xué)家分析了數(shù)百張腫瘤圖像上的數(shù)千個細(xì)胞特征，發(fā)現(xiàn)了被忽視的乳腺癌標(biāo)志物。AI應(yīng)用正在以驚人的速度和創(chuàng)造力來降低成本并改進(jìn)診斷。

但是正如許多好萊塢電影中已經(jīng)表現(xiàn)出的“不受控”的人工智能所帶來的毀滅性災(zāi)難一樣，在任何復(fù)雜混亂的系統(tǒng)中，潛在危險包括管理不善、設(shè)計漏洞、意外和不可預(yù)見事件。這一切給確保個人、政府和企業(yè)的安全和安保帶來了重大挑戰(zhàn)。這其中最為人詬病的就是AI應(yīng)用和武器戰(zhàn)爭的影響。

在日內(nèi)瓦安全政策中心的Jean marc rickli看來，對于導(dǎo)致AI手機(jī)死機(jī)或應(yīng)用程序錯誤或許可以容忍，但如果AI武器系統(tǒng)或自主導(dǎo)航系統(tǒng)的一行代碼中存在錯誤，結(jié)果就可能是致命的。

Jean marc rickli認(rèn)為，軍方是從早期階段就看到AI巨大潛力的部門之一。AI武器化將改變標(biāo)準(zhǔn)的戰(zhàn)爭方式，對國際安全與穩(wěn)定有著深遠(yuǎn)影響，對于自助式武器系統(tǒng)的大量投資始于幾年之前；2016年7月，美國五角大樓國防科學(xué)委員會發(fā)布了第一份有關(guān)武器自主性的研究，但就如何規(guī)范這些武器的發(fā)展，目前尚無共識。

國際社會在2014年的《聯(lián)合國常規(guī)武器公約》框架內(nèi)開始討論致命自主式武器系統(tǒng)的新興技術(shù)。但迄今為止，各國尚未就未來發(fā)展方向達(dá)成一致意見。那些呼吁禁止AI武器化的人擔(dān)憂人類會被排擠到操作環(huán)節(jié)之外，將使用致命武力的決策留給機(jī)器，造成我們目前尚不可知的后果。

Jean marc rickli也列舉了AI非軍事應(yīng)用方面的經(jīng)驗教訓(xùn)。以阿爾法狗為例，它已經(jīng)擊敗了全球排名前列的人類棋手。它的某些棋步讓觀察者困惑不已，因為這完全不符合人類通常的下棋模式。負(fù)責(zé)研發(fā)阿爾法狗的谷歌DeepMind CEODemisHassabis針對這種差異的解釋是，“不同于人類，阿爾法狗的程序旨在最大限度提高獲勝幾率，而不是將優(yōu)勢最大化?！比绻@種二元邏輯（僅注重獲勝，而非獲勝優(yōu)勢）納入自主式武器系統(tǒng)中，就會違反比例原則，因為系統(tǒng)算法不會認(rèn)為以殺死1個對手為代價的勝利和殺死1000個對手為代價的勝利之間有什么差異。

當(dāng)年計算機(jī)之父阿蘭·圖靈 (AlanTuring) 提出的解決方案包括，在關(guān)鍵時刻關(guān)閉電源——以此作為一種可能的辦法，但未來的超級智能機(jī)器可能已采取措施防止外力切斷電源。

在打開這樣的“潘多拉魔盒”之前，制定有效的監(jiān)管機(jī)制顯得尤為重要。

如何監(jiān)管新技術(shù)？

如何監(jiān)管新興技術(shù)是一個復(fù)雜的問題。過度地嚴(yán)格限制技術(shù)發(fā)展可能會延誤乃至妨礙潛在利益的取得。但是，長期不明確的監(jiān)管方式則會導(dǎo)致技術(shù)被不負(fù)責(zé)任地濫用。同樣投資者也不愿意支持那些他們擔(dān)心以后可能會遭到禁止或排斥的技術(shù)發(fā)展。

《2017年全球風(fēng)險報告》中指出，新興技術(shù)的監(jiān)管參差不齊，有些監(jiān)管嚴(yán)格，而另一些技術(shù)不在任何現(xiàn)有監(jiān)管機(jī)構(gòu)的職權(quán)范圍內(nèi)，因為幾乎毫無監(jiān)管可言。歷史表明，新技術(shù)的最終收益和風(fēng)險可能與最初的專家意見南轅北轍。

如前所述，在世界經(jīng)濟(jì)論壇的調(diào)查中，當(dāng)被問及12項新興技術(shù)哪項最需要監(jiān)管時，人工智能和機(jī)器人以及生物技術(shù)被最多的受訪者提及（超過40%）。

但事實上這兩項技術(shù)的監(jiān)管現(xiàn)狀有著很大的差別。

由于涉及到生物體的改造（應(yīng)用于醫(yī)藥、農(nóng)業(yè)或工業(yè)領(lǐng)域），生物技術(shù)往往受到嚴(yán)格監(jiān)管。早在1992 年聯(lián)合國出臺的《生物多樣性公約》就已將生物技術(shù)作為一項全球性的問題監(jiān)管，而現(xiàn)今已有196個國家批準(zhǔn)了這項公約。相反，在全球絕大多數(shù)國家和地區(qū)，AI和機(jī)器人的監(jiān)管力度不嚴(yán)，用經(jīng)濟(jì)史學(xué)家的話來說，AI 作為“通用技術(shù)”在許多領(lǐng)域中均有應(yīng)用，而這些領(lǐng)域各有不同的監(jiān)管制度。

世界經(jīng)濟(jì)論壇大中華區(qū)首席代表艾德維接受《中國經(jīng)濟(jì)周刊》記者采訪時認(rèn)為，第四次工業(yè)革命帶來的新技術(shù)正在改變我們工作、生活和交流的方式，沒有哪個國家、哪個行業(yè)能免受影響。

“以人工智能為例，我們并不知道對這個技術(shù)領(lǐng)域應(yīng)該有更多監(jiān)管還是更少監(jiān)管，該如何監(jiān)管？這是許多這樣的技術(shù)所面臨的挑戰(zhàn)，因為它們不僅僅是新生事物，而且還在快速地演變，這讓傳統(tǒng)監(jiān)管模式很難及時跟進(jìn)?！卑戮S說，“在人工智能方面，我們希望通過各方討論提出相關(guān)監(jiān)管原則，然后各國在這個共識基礎(chǔ)上，制定自己的細(xì)則?！?/p>

正如《2017 全球風(fēng)險報告》結(jié)論中所述，要確保人工智能不會超出人類為之設(shè)定的界線，我們必須繼續(xù)努力建立對此類系統(tǒng)的信任，因為它們將改變我們的社會、政治、商業(yè)環(huán)境，為我們制定決策，并成為我們闡釋周邊世界不可或缺的能力。

《2017年全球風(fēng)險報告》發(fā)布：

五大風(fēng)險預(yù)判 水資源危機(jī)被反復(fù)提及

施瓦布在《2017年全球風(fēng)險報告》的序言中寫道，“對于全球社會而言，2017年將是關(guān)鍵的一年?！?/p>

10余年來，世界經(jīng)濟(jì)論壇發(fā)布的《全球風(fēng)險報告》都在致力于全球風(fēng)險的演變和這些風(fēng)險之間深度內(nèi)在關(guān)聯(lián)的研究，例如，收入不平等、不斷加劇的兩極分化造成的風(fēng)險惡化可能性，又或是經(jīng)濟(jì)復(fù)蘇疲軟和技術(shù)變革速度相關(guān)的風(fēng)險。

世界經(jīng)濟(jì)五大風(fēng)險

《2017年全球風(fēng)險報告》從多個維度例舉了全球面臨的五大風(fēng)險，比如按發(fā)生概率排列的五大風(fēng)險、按影響力排列的五大全球風(fēng)險等。除此之外，《2017年全球風(fēng)險報告》還從總體上列舉了危及2017年世界經(jīng)濟(jì)的五大風(fēng)險：

第一，不斷凸顯的收入不平等。上世紀(jì)80年代以來，在英國、美國、加拿大、愛爾蘭和澳大利亞等國內(nèi)，占人口1%的富人所擁有的財富在全國的份額不斷上升。這群人并未受到金融危機(jī)后蕭條的影響。對新技術(shù)的投資使技術(shù)工人受益，而非技術(shù)工人仍然受窮。全球化使得世界上落后國家的工人受益，而西方國家的工人在其國內(nèi)依然貧困，以至于“支持不滿情緒的競選將獲勝”正在成為一個定理。

第二，氣候變化。它被認(rèn)為是今年第二個最大的風(fēng)險主要源于越發(fā)頻繁的極端氣候變化。盡管全球周期性厄爾尼諾現(xiàn)象已經(jīng)過去，2017年不太可能超過2016年成為歷史上最熱的一年，但氣候當(dāng)局仍然預(yù)測今年全球范圍內(nèi)也會是最熱的幾年之一。該報告指出，今年各國政府必須切實兌現(xiàn)他們關(guān)于《巴黎協(xié)定》的減排承諾，其實《巴黎協(xié)定》所確定的減排速度根本不足以避免危險的全球變暖。

第三，社會越趨多極化。民主面臨危機(jī)，尤其是政客、公共和私人機(jī)構(gòu)的當(dāng)權(quán)者越發(fā)與他們的選民在文化背景、收入和福利方面拉開了距離。政府的節(jié)儉政策實際上降低了弱勢群體的福利水平，多文化主義正受到民族主義的挑戰(zhàn)。

第四，網(wǎng)絡(luò)依賴性上升。越來越多的關(guān)鍵基礎(chǔ)設(shè)施依賴開放性的網(wǎng)絡(luò)空間，發(fā)達(dá)國家相當(dāng)大的一部分經(jīng)濟(jì)活動依賴開放性網(wǎng)絡(luò)，比如英國大約10%的GDP來自網(wǎng)絡(luò)經(jīng)濟(jì)。這固然給人們生活和經(jīng)濟(jì)發(fā)展帶來很多好處，卻也給某些打算對社會造成破壞的組織和個人提供機(jī)會。

第五，老齡化問題。日本有四分之一人口超過65歲，其他發(fā)達(dá)國家以及相當(dāng)一部分發(fā)展中國家也正朝著這方向發(fā)展。日本自2000年以來為維持一個護(hù)理保險福利計劃所做的開支使其債務(wù)對GDP的比重達(dá)到了240%。中國在經(jīng)濟(jì)發(fā)展過程中老齡化問題逐漸呈現(xiàn)，需要提前采取措施解決健康護(hù)理問題。

在世界經(jīng)濟(jì)論壇10年的風(fēng)險研究中，2007—2017年，按影響力排列的五大全球風(fēng)險，從2007年到2014年的首位都和金融相關(guān)，比如資產(chǎn)價格崩潰、財政危機(jī)和重大系統(tǒng)性金融崩盤，但從2012年水供應(yīng)危機(jī)成為第二大風(fēng)險后，從2013年到2017年，水資源危機(jī)都排在影響全球五大風(fēng)險的前三位，這其中的趨勢反映了什么問題？

世界經(jīng)濟(jì)論壇大中華區(qū)首席代表艾德維（David Aikman）在接受《中國經(jīng)濟(jì)周刊》記者采訪時分析，在2012年前那段時間，世界主要關(guān)注點確實在金融系統(tǒng)方面，畢竟那時候世界經(jīng)歷了過去75年間最嚴(yán)重的金融危機(jī)，在人們的印象里，這方面的危機(jī)在影響程度上被認(rèn)為是最嚴(yán)重的。但氣候變化因素一直在人們視線中，并不是忽然出現(xiàn)的，其重要性逐步上升。

“實際上，從可能性和影響程度看，氣候變化相關(guān)的風(fēng)險嚴(yán)重程度是我們近10年報告所未見的?！卑戮S說，“我們擔(dān)心的是，這些環(huán)境風(fēng)險造成的后果，可能不僅僅是經(jīng)濟(jì)上的，還可能引發(fā)沖突和嚴(yán)重的社會動亂。因此盡管這樣的影響可能會是今后遙遠(yuǎn)的事，但是各國共同加緊面對還是很重要的。世界經(jīng)濟(jì)論壇要做的，就是在我們所有的利益攸關(guān)方之間匯聚支持力量，促進(jìn)交流，加強合作，力爭形成積極的影響?！?/p>

?

相關(guān)鏈接:

?