2017夏季達(dá)沃斯論壇前瞻：直面第四次工業(yè)革命的挑戰(zhàn)

1951年，計(jì)算機(jī)之父阿蘭· 圖靈(Alan Turing)提出：“如果機(jī)器能思考，那么它很可能比我們更加明智……這種新的危險(xiǎn)……當(dāng)然讓我們焦慮?！?/p>

世界經(jīng)濟(jì)論壇創(chuàng)始人兼執(zhí)行主席克勞斯·施瓦布（Klaus Schwab）在《第四次工業(yè)革命》一書中直言，“無(wú)論是規(guī)模、廣度還是復(fù)雜程度，第四次工業(yè)革命都與人類過(guò)去經(jīng)歷的變革截然不同?！?/p>

“這些改變是深刻的，以至于人類在其發(fā)展歷史上從未迎來(lái)如此美好的前景，也從未面臨如此嚴(yán)峻的風(fēng)險(xiǎn)?！笔┩卟颊f(shuō)，“然而我擔(dān)心的是，決策者們往往囿于傳統(tǒng)的、非顛覆性的線性思維，或者過(guò)于關(guān)注眼前的危機(jī)，而難以對(duì)影響未來(lái)的各種顛覆和創(chuàng)新力量進(jìn)行戰(zhàn)略性思考?！?/p>

2017年6月27日至29日，世界經(jīng)濟(jì)論壇第11屆新領(lǐng)軍者年會(huì)的主題為“在第四次工業(yè)革命中實(shí)現(xiàn)包容性增長(zhǎng)”。有哪些新技術(shù)正在改變?nèi)藗兊纳?？我們面臨著怎樣的風(fēng)險(xiǎn)和挑戰(zhàn)？

新技術(shù)成“焦點(diǎn)風(fēng)險(xiǎn)”

第四次工業(yè)革命中所誕生的新技術(shù)將不可避免地從多方面改變世界。

關(guān)于新興技術(shù)的爭(zhēng)論往往會(huì)出現(xiàn)兩極分化：有些人刻意只關(guān)注潛在的收益，而另一些人則過(guò)分關(guān)注潛在的危險(xiǎn)。真正的挑戰(zhàn)是在這兩個(gè)極端之間找到平衡。

世界經(jīng)濟(jì)論壇大中華區(qū)首席代表艾德維（David Aikman）告訴《中國(guó)經(jīng)濟(jì)周刊》說(shuō)，一方面我們正面對(duì)著第四次工業(yè)革命帶來(lái)的科技方面數(shù)不清的機(jī)遇與風(fēng)險(xiǎn)。另一方面我們正在尋求新的發(fā)展模式和經(jīng)濟(jì)機(jī)遇。

“我們要做的并不是阻止技術(shù)的進(jìn)步，擔(dān)憂技術(shù)進(jìn)步風(fēng)險(xiǎn)帶來(lái)的后果，而是探尋新技術(shù)如何帶來(lái)新的就業(yè)機(jī)會(huì)，釋放創(chuàng)業(yè)潛能，為社會(huì)帶來(lái)更多福祉。”艾德維說(shuō)，“第四次工業(yè)革命的新技術(shù)可以給我們更長(zhǎng)的壽命，更可持續(xù)發(fā)展的地球，但我們必須引導(dǎo)這些技術(shù)的發(fā)展方向，通過(guò)共同的理念創(chuàng)造更多的共同利益和包容性增長(zhǎng)。”

在即將出版的《第四次工業(yè)革命手冊(cè)》中，全球風(fēng)險(xiǎn)認(rèn)知調(diào)查歸納了12項(xiàng)新興技術(shù)作為第四次工業(yè)革命的代表，包括：3D打印，新型材料和納米材料，人工智能和機(jī)器人，生物技術(shù)，能源采集，存儲(chǔ)和輸送，區(qū)塊鏈和分布式分類賬，地質(zhì)工程，物聯(lián)網(wǎng)，神經(jīng)技術(shù)，新計(jì)算技術(shù)，空間技術(shù)，虛擬和增強(qiáng)現(xiàn)實(shí)。

多年來(lái)，世界經(jīng)濟(jì)論壇發(fā)布的《全球風(fēng)險(xiǎn)報(bào)告》反復(fù)強(qiáng)調(diào)技術(shù)風(fēng)險(xiǎn)的重要性。在2015年的報(bào)告中，新興技術(shù)成為報(bào)告的“焦點(diǎn)風(fēng)險(xiǎn)”之一，凸顯了人工智能（AI）和生物技術(shù)等領(lǐng)域中存在的道德困境。

在2017年的全球風(fēng)險(xiǎn)認(rèn)知調(diào)查中，包含一個(gè)有關(guān)12種新興技術(shù)優(yōu)勢(shì)與負(fù)面后果的調(diào)查研究。結(jié)果表明，大部分受訪者對(duì)于技術(shù)風(fēng)險(xiǎn)和利益的平衡普遍持樂(lè)觀態(tài)度。但受訪者仍在新興技術(shù)的監(jiān)管方面明確指出所需有限關(guān)注的領(lǐng)域?yàn)槿斯ぶ悄芎蜋C(jī)器人與生物技術(shù)。

AI技術(shù)武器化的風(fēng)險(xiǎn)

“第四次工業(yè)革命將為經(jīng)濟(jì)、社會(huì)和個(gè)人發(fā)展創(chuàng)造新的機(jī)遇，從而向個(gè)人和社區(qū)賦權(quán)，但同時(shí)也會(huì)導(dǎo)致某些群體的邊緣化，加劇不平等，催生新的安全風(fēng)險(xiǎn)，以及破壞人們的社會(huì)關(guān)系?！笔┩卟颊f(shuō)。

《2017年全球風(fēng)險(xiǎn)報(bào)告》認(rèn)為，理想情況下，監(jiān)管制度應(yīng)該足夠穩(wěn)定、可預(yù)測(cè)、透明，以便在投資者、企業(yè)與科學(xué)家之間建立信心，并應(yīng)在公眾中產(chǎn)生足夠的信任和認(rèn)知，從而讓用戶意識(shí)到評(píng)估早期負(fù)面后果的重要意義。

例如，自動(dòng)駕駛技術(shù)會(huì)不可避免地導(dǎo)致一些事故，而是否會(huì)引起公眾呼吁禁止該技術(shù)的發(fā)展則取決于人們是否信任已經(jīng)為監(jiān)管其發(fā)展而制定的機(jī)制。

從目前看，投資者對(duì)新興技術(shù)抱著比較樂(lè)觀的態(tài)度。

資料顯示，全球?qū)９〢I應(yīng)用的創(chuàng)業(yè)公司在2015年收到了24億美元的風(fēng)險(xiǎn)投資基金，在2016年上半年收到了超過(guò)15億美元的風(fēng)險(xiǎn)投資基金。政府項(xiàng)目和現(xiàn)有科技公司又在此基礎(chǔ)上追加了數(shù)十億美元的投資。

除了近期阿爾法狗 (AlphaGo) 再次戰(zhàn)勝人類棋手之外，機(jī)器的學(xué)習(xí)技術(shù)已經(jīng)能通過(guò)大數(shù)據(jù)分析來(lái)揭示有價(jià)值的信息，并且通過(guò)處理人類能力所無(wú)法企及的問(wèn)題來(lái)為企業(yè)創(chuàng)造價(jià)值。

再比如斯坦福大學(xué)的計(jì)算病理學(xué)家分析了數(shù)百?gòu)埬[瘤圖像上的數(shù)千個(gè)細(xì)胞特征，發(fā)現(xiàn)了被忽視的乳腺癌標(biāo)志物。AI應(yīng)用正在以驚人的速度和創(chuàng)造力來(lái)降低成本并改進(jìn)診斷。

但是正如許多好萊塢電影中已經(jīng)表現(xiàn)出的“不受控”的人工智能所帶來(lái)的毀滅性災(zāi)難一樣，在任何復(fù)雜混亂的系統(tǒng)中，潛在危險(xiǎn)包括管理不善、設(shè)計(jì)漏洞、意外和不可預(yù)見(jiàn)事件。這一切給確保個(gè)人、政府和企業(yè)的安全和安保帶來(lái)了重大挑戰(zhàn)。這其中最為人詬病的就是AI應(yīng)用和武器戰(zhàn)爭(zhēng)的影響。

在日內(nèi)瓦安全政策中心的Jean marc rickli看來(lái)，對(duì)于導(dǎo)致AI手機(jī)死機(jī)或應(yīng)用程序錯(cuò)誤或許可以容忍，但如果AI武器系統(tǒng)或自主導(dǎo)航系統(tǒng)的一行代碼中存在錯(cuò)誤，結(jié)果就可能是致命的。

Jean marc rickli認(rèn)為，軍方是從早期階段就看到AI巨大潛力的部門之一。AI武器化將改變標(biāo)準(zhǔn)的戰(zhàn)爭(zhēng)方式，對(duì)國(guó)際安全與穩(wěn)定有著深遠(yuǎn)影響，對(duì)于自助式武器系統(tǒng)的大量投資始于幾年之前；2016年7月，美國(guó)五角大樓國(guó)防科學(xué)委員會(huì)發(fā)布了第一份有關(guān)武器自主性的研究，但就如何規(guī)范這些武器的發(fā)展，目前尚無(wú)共識(shí)。

國(guó)際社會(huì)在2014年的《聯(lián)合國(guó)常規(guī)武器公約》框架內(nèi)開(kāi)始討論致命自主式武器系統(tǒng)的新興技術(shù)。但迄今為止，各國(guó)尚未就未來(lái)發(fā)展方向達(dá)成一致意見(jiàn)。那些呼吁禁止AI武器化的人擔(dān)憂人類會(huì)被排擠到操作環(huán)節(jié)之外，將使用致命武力的決策留給機(jī)器，造成我們目前尚不可知的后果。

Jean marc rickli也列舉了AI非軍事應(yīng)用方面的經(jīng)驗(yàn)教訓(xùn)。以阿爾法狗為例，它已經(jīng)擊敗了全球排名前列的人類棋手。它的某些棋步讓觀察者困惑不已，因?yàn)檫@完全不符合人類通常的下棋模式。負(fù)責(zé)研發(fā)阿爾法狗的谷歌DeepMind CEODemisHassabis針對(duì)這種差異的解釋是，“不同于人類，阿爾法狗的程序旨在最大限度提高獲勝幾率，而不是將優(yōu)勢(shì)最大化?！比绻@種二元邏輯（僅注重獲勝，而非獲勝優(yōu)勢(shì)）納入自主式武器系統(tǒng)中，就會(huì)違反比例原則，因?yàn)橄到y(tǒng)算法不會(huì)認(rèn)為以殺死1個(gè)對(duì)手為代價(jià)的勝利和殺死1000個(gè)對(duì)手為代價(jià)的勝利之間有什么差異。

當(dāng)年計(jì)算機(jī)之父阿蘭·圖靈 (AlanTuring) 提出的解決方案包括，在關(guān)鍵時(shí)刻關(guān)閉電源——以此作為一種可能的辦法，但未來(lái)的超級(jí)智能機(jī)器可能已采取措施防止外力切斷電源。

在打開(kāi)這樣的“潘多拉魔盒”之前，制定有效的監(jiān)管機(jī)制顯得尤為重要。

如何監(jiān)管新技術(shù)？

如何監(jiān)管新興技術(shù)是一個(gè)復(fù)雜的問(wèn)題。過(guò)度地嚴(yán)格限制技術(shù)發(fā)展可能會(huì)延誤乃至妨礙潛在利益的取得。但是，長(zhǎng)期不明確的監(jiān)管方式則會(huì)導(dǎo)致技術(shù)被不負(fù)責(zé)任地濫用。同樣投資者也不愿意支持那些他們擔(dān)心以后可能會(huì)遭到禁止或排斥的技術(shù)發(fā)展。

《2017年全球風(fēng)險(xiǎn)報(bào)告》中指出，新興技術(shù)的監(jiān)管參差不齊，有些監(jiān)管嚴(yán)格，而另一些技術(shù)不在任何現(xiàn)有監(jiān)管機(jī)構(gòu)的職權(quán)范圍內(nèi)，因?yàn)閹缀鹾翢o(wú)監(jiān)管可言。歷史表明，新技術(shù)的最終收益和風(fēng)險(xiǎn)可能與最初的專家意見(jiàn)南轅北轍。

如前所述，在世界經(jīng)濟(jì)論壇的調(diào)查中，當(dāng)被問(wèn)及12項(xiàng)新興技術(shù)哪項(xiàng)最需要監(jiān)管時(shí)，人工智能和機(jī)器人以及生物技術(shù)被最多的受訪者提及（超過(guò)40%）。

但事實(shí)上這兩項(xiàng)技術(shù)的監(jiān)管現(xiàn)狀有著很大的差別。

由于涉及到生物體的改造（應(yīng)用于醫(yī)藥、農(nóng)業(yè)或工業(yè)領(lǐng)域），生物技術(shù)往往受到嚴(yán)格監(jiān)管。早在1992 年聯(lián)合國(guó)出臺(tái)的《生物多樣性公約》就已將生物技術(shù)作為一項(xiàng)全球性的問(wèn)題監(jiān)管，而現(xiàn)今已有196個(gè)國(guó)家批準(zhǔn)了這項(xiàng)公約。相反，在全球絕大多數(shù)國(guó)家和地區(qū)，AI和機(jī)器人的監(jiān)管力度不嚴(yán)，用經(jīng)濟(jì)史學(xué)家的話來(lái)說(shuō)，AI 作為“通用技術(shù)”在許多領(lǐng)域中均有應(yīng)用，而這些領(lǐng)域各有不同的監(jiān)管制度。

世界經(jīng)濟(jì)論壇大中華區(qū)首席代表艾德維接受《中國(guó)經(jīng)濟(jì)周刊》記者采訪時(shí)認(rèn)為，第四次工業(yè)革命帶來(lái)的新技術(shù)正在改變我們工作、生活和交流的方式，沒(méi)有哪個(gè)國(guó)家、哪個(gè)行業(yè)能免受影響。

“以人工智能為例，我們并不知道對(duì)這個(gè)技術(shù)領(lǐng)域應(yīng)該有更多監(jiān)管還是更少監(jiān)管，該如何監(jiān)管？這是許多這樣的技術(shù)所面臨的挑戰(zhàn)，因?yàn)樗鼈儾粌H僅是新生事物，而且還在快速地演變，這讓傳統(tǒng)監(jiān)管模式很難及時(shí)跟進(jìn)?！卑戮S說(shuō)，“在人工智能方面，我們希望通過(guò)各方討論提出相關(guān)監(jiān)管原則，然后各國(guó)在這個(gè)共識(shí)基礎(chǔ)上，制定自己的細(xì)則?！?/p>

正如《2017 全球風(fēng)險(xiǎn)報(bào)告》結(jié)論中所述，要確保人工智能不會(huì)超出人類為之設(shè)定的界線，我們必須繼續(xù)努力建立對(duì)此類系統(tǒng)的信任，因?yàn)樗鼈儗⒏淖兾覀兊纳鐣?huì)、政治、商業(yè)環(huán)境，為我們制定決策，并成為我們闡釋周邊世界不可或缺的能力。

《2017年全球風(fēng)險(xiǎn)報(bào)告》發(fā)布：

五大風(fēng)險(xiǎn)預(yù)判 水資源危機(jī)被反復(fù)提及

施瓦布在《2017年全球風(fēng)險(xiǎn)報(bào)告》的序言中寫道，“對(duì)于全球社會(huì)而言，2017年將是關(guān)鍵的一年?！?/p>

10余年來(lái)，世界經(jīng)濟(jì)論壇發(fā)布的《全球風(fēng)險(xiǎn)報(bào)告》都在致力于全球風(fēng)險(xiǎn)的演變和這些風(fēng)險(xiǎn)之間深度內(nèi)在關(guān)聯(lián)的研究，例如，收入不平等、不斷加劇的兩極分化造成的風(fēng)險(xiǎn)惡化可能性，又或是經(jīng)濟(jì)復(fù)蘇疲軟和技術(shù)變革速度相關(guān)的風(fēng)險(xiǎn)。

世界經(jīng)濟(jì)五大風(fēng)險(xiǎn)

《2017年全球風(fēng)險(xiǎn)報(bào)告》從多個(gè)維度例舉了全球面臨的五大風(fēng)險(xiǎn)，比如按發(fā)生概率排列的五大風(fēng)險(xiǎn)、按影響力排列的五大全球風(fēng)險(xiǎn)等。除此之外，《2017年全球風(fēng)險(xiǎn)報(bào)告》還從總體上列舉了危及2017年世界經(jīng)濟(jì)的五大風(fēng)險(xiǎn)：

第一，不斷凸顯的收入不平等。上世紀(jì)80年代以來(lái)，在英國(guó)、美國(guó)、加拿大、愛(ài)爾蘭和澳大利亞等國(guó)內(nèi)，占人口1%的富人所擁有的財(cái)富在全國(guó)的份額不斷上升。這群人并未受到金融危機(jī)后蕭條的影響。對(duì)新技術(shù)的投資使技術(shù)工人受益，而非技術(shù)工人仍然受窮。全球化使得世界上落后國(guó)家的工人受益，而西方國(guó)家的工人在其國(guó)內(nèi)依然貧困，以至于“支持不滿情緒的競(jìng)選將獲勝”正在成為一個(gè)定理。

第二，氣候變化。它被認(rèn)為是今年第二個(gè)最大的風(fēng)險(xiǎn)主要源于越發(fā)頻繁的極端氣候變化。盡管全球周期性厄爾尼諾現(xiàn)象已經(jīng)過(guò)去，2017年不太可能超過(guò)2016年成為歷史上最熱的一年，但氣候當(dāng)局仍然預(yù)測(cè)今年全球范圍內(nèi)也會(huì)是最熱的幾年之一。該報(bào)告指出，今年各國(guó)政府必須切實(shí)兌現(xiàn)他們關(guān)于《巴黎協(xié)定》的減排承諾，其實(shí)《巴黎協(xié)定》所確定的減排速度根本不足以避免危險(xiǎn)的全球變暖。

第三，社會(huì)越趨多極化。民主面臨危機(jī)，尤其是政客、公共和私人機(jī)構(gòu)的當(dāng)權(quán)者越發(fā)與他們的選民在文化背景、收入和福利方面拉開(kāi)了距離。政府的節(jié)儉政策實(shí)際上降低了弱勢(shì)群體的福利水平，多文化主義正受到民族主義的挑戰(zhàn)。

第四，網(wǎng)絡(luò)依賴性上升。越來(lái)越多的關(guān)鍵基礎(chǔ)設(shè)施依賴開(kāi)放性的網(wǎng)絡(luò)空間，發(fā)達(dá)國(guó)家相當(dāng)大的一部分經(jīng)濟(jì)活動(dòng)依賴開(kāi)放性網(wǎng)絡(luò)，比如英國(guó)大約10%的GDP來(lái)自網(wǎng)絡(luò)經(jīng)濟(jì)。這固然給人們生活和經(jīng)濟(jì)發(fā)展帶來(lái)很多好處，卻也給某些打算對(duì)社會(huì)造成破壞的組織和個(gè)人提供機(jī)會(huì)。

第五，老齡化問(wèn)題。日本有四分之一人口超過(guò)65歲，其他發(fā)達(dá)國(guó)家以及相當(dāng)一部分發(fā)展中國(guó)家也正朝著這方向發(fā)展。日本自2000年以來(lái)為維持一個(gè)護(hù)理保險(xiǎn)福利計(jì)劃所做的開(kāi)支使其債務(wù)對(duì)GDP的比重達(dá)到了240%。中國(guó)在經(jīng)濟(jì)發(fā)展過(guò)程中老齡化問(wèn)題逐漸呈現(xiàn)，需要提前采取措施解決健康護(hù)理問(wèn)題。

在世界經(jīng)濟(jì)論壇10年的風(fēng)險(xiǎn)研究中，2007—2017年，按影響力排列的五大全球風(fēng)險(xiǎn)，從2007年到2014年的首位都和金融相關(guān)，比如資產(chǎn)價(jià)格崩潰、財(cái)政危機(jī)和重大系統(tǒng)性金融崩盤，但從2012年水供應(yīng)危機(jī)成為第二大風(fēng)險(xiǎn)后，從2013年到2017年，水資源危機(jī)都排在影響全球五大風(fēng)險(xiǎn)的前三位，這其中的趨勢(shì)反映了什么問(wèn)題？

世界經(jīng)濟(jì)論壇大中華區(qū)首席代表艾德維（David Aikman）在接受《中國(guó)經(jīng)濟(jì)周刊》記者采訪時(shí)分析，在2012年前那段時(shí)間，世界主要關(guān)注點(diǎn)確實(shí)在金融系統(tǒng)方面，畢竟那時(shí)候世界經(jīng)歷了過(guò)去75年間最嚴(yán)重的金融危機(jī)，在人們的印象里，這方面的危機(jī)在影響程度上被認(rèn)為是最嚴(yán)重的。但氣候變化因素一直在人們視線中，并不是忽然出現(xiàn)的，其重要性逐步上升。

“實(shí)際上，從可能性和影響程度看，氣候變化相關(guān)的風(fēng)險(xiǎn)嚴(yán)重程度是我們近10年報(bào)告所未見(jiàn)的?！卑戮S說(shuō)，“我們擔(dān)心的是，這些環(huán)境風(fēng)險(xiǎn)造成的后果，可能不僅僅是經(jīng)濟(jì)上的，還可能引發(fā)沖突和嚴(yán)重的社會(huì)動(dòng)亂。因此盡管這樣的影響可能會(huì)是今后遙遠(yuǎn)的事，但是各國(guó)共同加緊面對(duì)還是很重要的。世界經(jīng)濟(jì)論壇要做的，就是在我們所有的利益攸關(guān)方之間匯聚支持力量，促進(jìn)交流，加強(qiáng)合作，力爭(zhēng)形成積極的影響?！?/p>

?

相關(guān)鏈接:

?