首頁熱門文章
傅瑩：人工智能技術(shù)或?qū)⒊蔀楦鲊献餍录~帶
發(fā)布時間：2019-09-03 分類：趨勢研究 來源：央視網(wǎng)新聞
8月29日下午，2019世界人工智能大會治理論壇在上海世博中心舉辦。外交部前副部長、清華大學(xué)國際戰(zhàn)略與安全研究中心主任傅瑩發(fā)表題為《人工智能的治理與國際合作》的講話。
以下為傅瑩講話原文：
人工智能的治理與國際合作
——傅瑩在上海世界人工智能大會治理論壇上的講話
2019年8月29日，上海世博中心
一、關(guān)于人工智能治理面臨的挑戰(zhàn)
進入21世紀的第二個十年，人工智能技術(shù)的應(yīng)用進入快速發(fā)展的階段，隨著AlphaGo為代表的深度學(xué)習(xí)算法的成熟，人工智能技術(shù)出現(xiàn)大面積應(yīng)用的趨勢。我最近訪問了一些企業(yè)，昨天在上海還看了三家企業(yè)，可以明顯地感受到我國人工智能產(chǎn)業(yè)所呈現(xiàn)出來的蓬勃發(fā)展態(tài)勢?？梢云诖?，未來人類的生產(chǎn)和生活方式將發(fā)生更大的變化，生活將變得更加舒適和便利。
今年7月，我們在清華大學(xué)的世界和平論壇期間舉辦了三場論壇，邀請70多位國內(nèi)外專家學(xué)者和企業(yè)家圍繞人工智能的風(fēng)險和治理進行研討。大家比較一致的看法是，人工智能技術(shù)是一把“雙刃劍”，一方面帶來科技革命和產(chǎn)業(yè)升級的重要機會，另一方面，也帶來新的安全風(fēng)險，在治理上人類將面臨與以往完全不同的難題。
例如，在立法上需要有新的思維。傳統(tǒng)的法律是要以社會基本共識為基礎(chǔ)的，因此往往要滯后于社會實踐。但是在人工智能技術(shù)上，我們恐怕沒有這樣奢侈的時間條件，因為這項技術(shù)的應(yīng)用影響之快、之大，遠不同于傳統(tǒng)技術(shù)，治理的需求與技術(shù)的應(yīng)用幾乎同步出現(xiàn)。
再比如，傳統(tǒng)立法者關(guān)注的是人與人之間的關(guān)系。而人工智能作為“非人行為體”，未來會越來越廣泛地參與人類活動，那么，在人機共存，甚至人機沖突的情況下，如何面對和處置人類與機器的矛盾呢？
人工智能的到來對就業(yè)模式的快速沖擊也是前所未有的。清華大學(xué)戰(zhàn)略與安全研究中心人工智能項目組的于洋老師牽頭做的《中國青年視角下的人工智能技術(shù)（AI）風(fēng)險和治理》調(diào)查項目中，超過50％青年人表達的頭等關(guān)切是失業(yè)風(fēng)險。如同以往的技術(shù)革命，人工智能將取代大量程式化的工作崗位，同時也會創(chuàng)造出新型崗位和就業(yè)機會。挑戰(zhàn)在于，如何才能讓人才結(jié)構(gòu)的調(diào)整跑贏技術(shù)的更新迭代和產(chǎn)業(yè)結(jié)構(gòu)的躍升？
不能忽視的還有在倫理規(guī)范方面的新問題。例如國際上討論比較多的人群歧視和對個人隱私的尊重和保護等問題。有外國人對我說，中國人不需要隱私保護，我認為這是偏見。我國立法高度重視對個人權(quán)利的維護。在本月全國人大常委會審議的民法典人格權(quán)編草案稿中，針對收集、處理自然人個人信息有明確規(guī)定，要求必須“征得該自然人或者其監(jiān)護人同意”等，而且把個人生物識別信息也納入保護的范圍。
二、我國在創(chuàng)新制度和手段、推進人工智能治理方面加快部署
習(xí)近平總書記明確要求，“要加強人工智能發(fā)展的潛在風(fēng)險研判和防范”，“確保人工智能安全、可靠、可控”，“要整合多學(xué)科力量，加強人工智能相關(guān)法律、倫理、社會問題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德?！?
總書記的要求是我們推進人工智能治理的重要指導(dǎo)方針。黨中央和國務(wù)院對人工智能的部署采取的是發(fā)展和治理同步推進的方針。今年2月科技部牽頭組建了中國國家新一代人工智能治理專業(yè)委員會，6月該委員會發(fā)布了新一代人工智能治理8條原則，強調(diào)發(fā)展負責(zé)任的人工智能。工信部在2017年就頒布了《促進新一代人工智能健康發(fā)展三年行動計劃（2018－2020）》，其中也對治理提出要求。現(xiàn)在的重要任務(wù)是如何讓這些規(guī)則和要求落地，形成有利于我國人工智能健康成長的良性環(huán)境。上海在人工智能的研發(fā)和應(yīng)用方面走在全國的前列，積極探索治理路徑，重視推進國際合作。在科技部和工信部的支持下，上海推動建立了國家人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)和國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)。可以期待，上海在人工智能治理的規(guī)則與制度的創(chuàng)新、開展國際合作方面也將走在全國的前列。
考慮到這個新興領(lǐng)域自身獨特的性質(zhì)，我們一方面要加快對立規(guī)和立法的研究，另一方面也要依靠科學(xué)界和企業(yè)界采取負責(zé)任的態(tài)度和行為。如果科學(xué)家在每一項新技術(shù)的研發(fā)中都能思考其負面風(fēng)險，如果制造商在每一個新技術(shù)的應(yīng)用中同步構(gòu)建風(fēng)險管理的解決辦法，那么，對這方面的挑戰(zhàn)就不難找到應(yīng)對辦法，其立法和規(guī)范也就不難走出新的路徑。
目前很多人工智能企業(yè)希望有法律責(zé)任和范圍的清晰界定，認為這樣更有利于企業(yè)的發(fā)展，他們在采取一些自律措施的同時，也期待國內(nèi)整體規(guī)則環(huán)境和基礎(chǔ)條件更快得到完善。
三、人工智能治理的全球視野和國際合作
人工智能技術(shù)的研發(fā)和應(yīng)用是在全球平臺上實現(xiàn)的，因此，其治理也不是某個國家或區(qū)域的問題，而是涉及到全人類的福祉。因此，我們需要有全球視野，拓展全球合作。在這方面，國際社會有過一些經(jīng)驗。例如核軍控和氣候變化等難題，都是先在學(xué)界、企業(yè)界和社會組織中被廣泛討論和推動，最終達成國際共識，形成有效的治理原則和制度。
目前，國際上圍繞人工智能帶來的挑戰(zhàn)正在進行廣泛和熱烈的討論，不少國家和機構(gòu)出臺了相應(yīng)的法律法規(guī)和原則主張。但各國間仍缺乏大家共同接受的人工智能治理原則和在價值觀和理念上的共識。
中國對人工智能的國際合作和治理采取的是積極參與的開放態(tài)度，也主動搭建了不少平臺，上海世界人工智能大會就吸引了國際和國內(nèi)的不少關(guān)注。天津的世界智能大會、重慶的國際智能產(chǎn)業(yè)博覽會等，也都是向世界開放的交流平臺。
中美關(guān)系的前景也關(guān)系到人工智能治理的國際合作。有人會說，美國挑起貿(mào)易戰(zhàn)，破壞全球貿(mào)易體系，是對國際秩序更大的挑戰(zhàn)。我覺得確實如此，這是一個主觀的破壞性行為，中美關(guān)系的動蕩為人工智能國際治理的探索也帶來一定阻礙。
而現(xiàn)實中，中美學(xué)者在人工智能領(lǐng)域的關(guān)系是相當(dāng)緊密的。根據(jù)科睿唯安提供的人工智能領(lǐng)域科技文獻數(shù)據(jù)，從2013年到2017年，全球參與評估的167個國家／地區(qū)在“計算機、人工智能”發(fā)文排名中，中國大陸位居第一，發(fā)文量達到59573篇，占25.02％；其次是美國，發(fā)文量是32527篇，占13.66％。中美兩國國際合作論文數(shù)量增長最快，過去五年中國大陸開展國際合作最多的對象是美國，美方開展國際合作最多的國家是中國大陸，雙方合作論文有四千多篇。
在人工智能技術(shù)的快速發(fā)展中，中美各有優(yōu)勢。數(shù)據(jù)顯示，在涉及人工智能基礎(chǔ)層的算力、數(shù)據(jù)和算法三大關(guān)鍵要素中，美國在算力和算法上有優(yōu)勢，巨頭公司基本掌握著開元算法平臺和場景豐富的算法能力，而中國正在積累越來越多的應(yīng)用和數(shù)據(jù)資源。從兩國的實踐看，如果中美無法有效合作形成共同標(biāo)準(zhǔn)的數(shù)據(jù)和算法，雙方的產(chǎn)業(yè)和未來發(fā)展都將受到很大影響。
習(xí)近平總書記在2018年致上海世界人工智能大會的賀信中指出，“新一代人工智能正在全球范圍內(nèi)蓬勃興起”，“把握好這一發(fā)展機遇，處理好人工智能在法律、安全、就業(yè)、道德倫理和政府治理等方面提出的新課題，需要各國深化合作、共同探討。中國愿在人工智能領(lǐng)域與各國共推發(fā)展、共護安全、共享成果。”
因此，我們需要從相互依存、命運與共的“共同體”意識出發(fā)，主動參與和推動國際交流與合作，同時也要認真履行自己的責(zé)任。歷史上每一次科技革命都推動了新的國際議程的設(shè)置，相信人工智能技術(shù)也能成為各國合作的新紐帶，為全球化增添新的動力。中國人應(yīng)該也能夠為此做出貢獻。
四、對人工智能的國際治理的三點建議
一是保持開放性。人工智能的技術(shù)發(fā)展與產(chǎn)業(yè)應(yīng)用是全球高度協(xié)作的成果，其未來的發(fā)展也依賴世界各國優(yōu)勢互補，合作共享。因此，在人工智能的治理上也需要保持開放性，集合各國智慧與經(jīng)驗，實現(xiàn)有效的全球治理。
二是合作性。人工智能被認為是一項綜合性的“原力技術(shù)”，其治理也需要多學(xué)科、多領(lǐng)域和多部門乃至多國的共同參與。各國在探討和構(gòu)建治理機制的過程中，應(yīng)積極開展國際合作，取長補短，才有可能實現(xiàn)有效的治理。
三是客觀性。人工智能作為革命性的新技術(shù)，難免引發(fā)很多誤解和懷疑，沒有人能準(zhǔn)確預(yù)測技術(shù)的未來結(jié)果。國際治理應(yīng)該秉承中立客觀的立場，保護科學(xué)家和企業(yè)家的創(chuàng)新積極性，尊重人的權(quán)利與尊嚴。
