熱門(mén)文章
- 1中國(guó)城市停車(chē)終迎來(lái)高光井噴時(shí)代
- 2迪蒙停車(chē):四部委聯(lián)手推動(dòng)城市智
- 3向雋:共享停車(chē)將遍布全世界每個(gè)
- 4國(guó)務(wù)院、發(fā)改委多舉措推進(jìn)城市智
- 5掌停車(chē):全國(guó)“兩會(huì)”聚焦停車(chē)難
- 6人工智能停車(chē)已成為橫琴新區(qū)一張
- 7掌停車(chē):智慧停車(chē)是移動(dòng)互聯(lián)網(wǎng)時(shí)
- 8迪蒙城市停車(chē):智慧停車(chē)萬(wàn)億金礦
- 9迪蒙城市停車(chē):深圳“科技治城”
- 10迪蒙城市停車(chē):深圳力推共享停車(chē)
相關(guān)文章
- 1深圳入選中國(guó)首批13個(gè)交通強(qiáng)國(guó)
- 2智慧城市如何改變生活?
- 3堅(jiān)持法治引領(lǐng)交通強(qiáng)國(guó)建設(shè)
- 4四大領(lǐng)域22項(xiàng)任務(wù)試點(diǎn)交通強(qiáng)國(guó)
- 5日本東京大學(xué)攜手軟銀打造人工智
- 6工信部副部長(zhǎng):開(kāi)展5G區(qū)塊鏈等
- 7工信部趙志國(guó):今年中國(guó)網(wǎng)絡(luò)安全
- 8交通部開(kāi)展第二批交通強(qiáng)國(guó)建設(shè)試
- 9治理“城市病”,如何對(duì)癥下藥?
- 10城市精細(xì)化治理不能忽視的關(guān)鍵點(diǎn)
騰訊發(fā)布人工智能倫理報(bào)告 “幸福、信任、可持續(xù)”成核心詞
發(fā)布時(shí)間:2019-07-11 分類(lèi):趨勢(shì)研究
近日,騰訊研究院和騰訊AI Lab聯(lián)合發(fā)布了人工智能倫理報(bào)告《智能時(shí)代的技術(shù)倫理觀——重塑數(shù)字社會(huì)的信任》。人工智能倫理是國(guó)際社會(huì)近幾年關(guān)注的焦點(diǎn)話題。最近,國(guó)內(nèi)外都有重大進(jìn)展,OECD成員國(guó)采納了首個(gè)由各國(guó)政府簽署的AI原則,即“負(fù)責(zé)任地管理可信AI的原則(Principles for responsible stewardship of trustworthy AI)”,這些原則之后被G20采納,成為人工智能治理方面的首個(gè)政府間國(guó)際共識(shí),確立了以人為本的發(fā)展理念和敏捷靈活的治理方式。無(wú)獨(dú)有偶,我國(guó)新一代人工智能治理原則也于近日發(fā)布,提出和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開(kāi)放協(xié)作、敏捷治理八項(xiàng)原則,以發(fā)展負(fù)責(zé)任的人工智能。
在此背景下,在騰訊研究院過(guò)去幾年對(duì)人工智能倫理進(jìn)行的持續(xù)研究的基礎(chǔ)上,騰訊研究院和騰訊AI Lab聯(lián)合研究形成了這份人工智能倫理報(bào)告《智能時(shí)代的技術(shù)倫理觀——重塑數(shù)字社會(huì)的信任》,認(rèn)為在“科技向善”理念之下,需要倡導(dǎo)面向人工智能的新的技術(shù)倫理觀,包含三個(gè)層面:技術(shù)信任,人工智能等新技術(shù)需要價(jià)值引導(dǎo),做到可用、可靠、可知、可控(“四可”);個(gè)體幸福,確保人人都有追求數(shù)字福祉、幸福工作的權(quán)利,在人機(jī)共生的智能社會(huì)實(shí)現(xiàn)個(gè)體更自由、智慧、幸福的發(fā)展;社會(huì)可持續(xù),踐行“科技向善”,發(fā)揮好人工智能等新技術(shù)的巨大“向善”潛力,善用技術(shù)塑造健康包容可持續(xù)的智慧社會(huì),持續(xù)推動(dòng)經(jīng)濟(jì)發(fā)展和社會(huì)進(jìn)步。
以下為《智能時(shí)代的技術(shù)倫理觀——重塑數(shù)字社會(huì)的信任》主要內(nèi)容:
互聯(lián)網(wǎng)的前三十年,是一個(gè)連接一切的故事,這個(gè)故事以前所未有的速度和規(guī)模改變著人類(lèi)和人類(lèi)社會(huì)。如今,以人工智能、大數(shù)據(jù)為代表的新技術(shù)集群加速發(fā)展,有望引領(lǐng)第四次工業(yè)革命,智能時(shí)代的大幕正在拉開(kāi),無(wú)處不在的數(shù)據(jù)和算法正在催生一種新型的人工智能驅(qū)動(dòng)的經(jīng)濟(jì)和社會(huì)形式,生物層、物理層、技術(shù)層可能融合為三位一體。簡(jiǎn)言之,人工智能正在改變這個(gè)世界。
因此在當(dāng)前,以人工智能為代表的這一輪新技術(shù)具有巨大的潛力和價(jià)值,無(wú)疑能夠成為一股“向善”的力量,繼續(xù)造福于人類(lèi)和人類(lèi)社會(huì)。但任何具有變革性的新技術(shù)都必然帶來(lái)法律的、倫理的以及社會(huì)的影響。例如,互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等數(shù)字技術(shù)及其應(yīng)用帶來(lái)的隱私保護(hù)、虛假信息、算法歧視、網(wǎng)絡(luò)安全、網(wǎng)絡(luò)犯罪、網(wǎng)絡(luò)過(guò)度使用等問(wèn)題已經(jīng)成為全球關(guān)注焦點(diǎn),引發(fā)全球范圍內(nèi)對(duì)數(shù)字技術(shù)及其應(yīng)用的影響的反思和討論,探索如何讓新技術(shù)帶來(lái)個(gè)人和社會(huì)福祉的最大化。
因此,人工智能倫理開(kāi)始從幕后走到前臺(tái),成為糾偏和矯正科技行業(yè)的狹隘的技術(shù)向度和利益局限的重要保障。正如華裔AI科學(xué)家李飛飛所言,要讓倫理成為人工智能研究與發(fā)展的根本組成部分。在此背景下,從政府到行業(yè)再到學(xué)術(shù)界,全球掀起了一股探索制定人工智能倫理原則的熱潮,歐盟、德國(guó)、英國(guó)、OECD、G20、IEEE、谷歌、微軟等諸多主體從各自的角度提出了相應(yīng)的人工智能倫理原則,共同促進(jìn)AI知識(shí)的共享和可信AI的構(gòu)建。要言之,各界已經(jīng)基本達(dá)成共識(shí),人工智能的發(fā)展離不開(kāi)對(duì)倫理的思考和倫理保障。
從最早的計(jì)算機(jī)到后來(lái)的信息再到如今的數(shù)據(jù)和算法,伴隨著技術(shù)倫理的關(guān)注焦點(diǎn)的轉(zhuǎn)變,技術(shù)倫理正在邁向一個(gè)新的階段。在新的發(fā)展階段,我們提出新的技術(shù)倫理(technology ethics),探索AI、個(gè)人、社會(huì)三者之間的平衡。就AI技術(shù)自身而言,AI需要價(jià)值引導(dǎo),應(yīng)做到可用、可靠、可知、可控(“四可”),從而讓人們可以信任AI,讓AI可以給個(gè)人和社會(huì)創(chuàng)造價(jià)值;就AI與個(gè)人之關(guān)系而言,幸福是人生的終極目的,需要構(gòu)建和諧共生的人機(jī)關(guān)系,保障個(gè)人的數(shù)字福祉和幸福工作權(quán)利,實(shí)現(xiàn)智能社會(huì)人機(jī)共生,讓個(gè)體更自由、智慧、幸福地生活和發(fā)展;就AI與社會(huì)之關(guān)系而言,AI所具有的巨大的“向善”潛力是歷史上任何時(shí)候都無(wú)法比擬的,可以成為一股“向善”的力量,助力經(jīng)濟(jì)社會(huì)健康包容可持續(xù)發(fā)展。
信任(trust):人工智能需要價(jià)值引導(dǎo),做到可用、可靠、可知、可控(“四可”)
就AI而言,雖然技術(shù)自身沒(méi)有道德、倫理的品質(zhì),但是開(kāi)發(fā)、使用技術(shù)的人會(huì)賦予其倫理價(jià)值,因?yàn)榛跀?shù)據(jù)做決策的軟件是人設(shè)計(jì)的,他們?cè)O(shè)計(jì)模型、選擇數(shù)據(jù)并賦予數(shù)據(jù)意義,從而影響我們的行為。所以,這些代碼并非價(jià)值中立,其中包括了太多關(guān)于我們的現(xiàn)在和未來(lái)的決定。更進(jìn)一步,現(xiàn)在人們無(wú)法完全信任人工智能,一方面是因?yàn)槿藗內(nèi)狈ψ銐蛐畔?,?duì)這些與我們的生活和生產(chǎn)息息相關(guān)的技術(shù)發(fā)展缺少足夠的了解;另一方面是因?yàn)槿藗內(nèi)狈︻A(yù)見(jiàn)能力,既無(wú)法預(yù)料企業(yè)會(huì)拿自己的數(shù)據(jù)做什么,也無(wú)法預(yù)測(cè)人工智能系統(tǒng)的行為。因此,我們需要構(gòu)建能夠讓社會(huì)公眾信任人工智能等新技術(shù)的規(guī)制體系,讓技術(shù)接受價(jià)值引導(dǎo)。
作為建立技術(shù)信任的起點(diǎn),我們認(rèn)為,人工智能等新技術(shù)的發(fā)展和應(yīng)用需要遵循倫理原則。為此,秉持“負(fù)責(zé)任研究與創(chuàng)新”(responsible research and innovation)、“科技向善”等理念,我們進(jìn)一步闡述“四可”原則,用以引導(dǎo)負(fù)責(zé)任地發(fā)展和應(yīng)用工智能技術(shù),使其可以造福于人類(lèi)和人類(lèi)社會(huì)。并將“四可”翻譯為“ARCC”(available,reliable,comprehensible,controllable,即ARCC,讀作ark)。正如傳說(shuō)中保存人類(lèi)文明火種的諾亞方舟,人工智能的健康發(fā)展需要以“倫理方舟”為保障,確保將來(lái)友好、和諧、共生的人機(jī)關(guān)系。
第一,可用(available)。發(fā)展人工智能的首要目的,是促進(jìn)人類(lèi)發(fā)展,給人類(lèi)和人類(lèi)社會(huì)帶來(lái)福祉,實(shí)現(xiàn)包容、普惠和可持續(xù)發(fā)展。為此,需要讓盡可能多的人可以獲取、使用人工智能,讓人們都能共享技術(shù)紅利,避免出現(xiàn)技術(shù)鴻溝??捎眯赃€意味著以人為本的發(fā)展理念、人機(jī)共生、包容性以及公平無(wú)歧視,要求踐行“經(jīng)由設(shè)計(jì)的倫理”(ethics by design)理念,將倫理價(jià)值融入到AI產(chǎn)品、服務(wù)的設(shè)計(jì)當(dāng)中。
第二,可靠(reliable)。人工智能應(yīng)當(dāng)是安全可靠的,能夠防范網(wǎng)絡(luò)攻擊等惡意干擾和其它意外后果,實(shí)現(xiàn)安全、穩(wěn)定與可靠。一方面人工智能系統(tǒng)應(yīng)當(dāng)經(jīng)過(guò)嚴(yán)格的測(cè)試和驗(yàn)證,確保其性能達(dá)到合理預(yù)期;另一方面人工智能應(yīng)確保數(shù)字網(wǎng)絡(luò)安全、人身財(cái)產(chǎn)安全以及社會(huì)安全。
第三,可知(comprehensible)。人工智能應(yīng)當(dāng)是透明的、可解釋的,是人可以理解的,避免技術(shù)“黑盒”影響人們對(duì)人工智能的信任。研發(fā)人員需要致力于解決人工智能“黑盒”問(wèn)題,實(shí)現(xiàn)可理解、可解釋的人工智能算法模型。此外,對(duì)于由人工智能系統(tǒng)做出的決策和行為,在適當(dāng)?shù)臅r(shí)候應(yīng)能提供說(shuō)明或者解釋?zhuān)ū澈蟮倪壿嫼蛿?shù)據(jù),這要求記錄設(shè)計(jì)選擇和相關(guān)數(shù)據(jù),而不是一味追求技術(shù)透明。換句話說(shuō),技術(shù)透明或者說(shuō)算法透明不是對(duì)算法的每一個(gè)步驟、算法的技術(shù)原理和實(shí)現(xiàn)細(xì)節(jié)進(jìn)行解釋?zhuān)?jiǎn)單公開(kāi)算法系統(tǒng)的源代碼也不能提供有效的透明度,反倒可能威脅數(shù)據(jù)隱私或影響技術(shù)安全應(yīng)用。相反,在AI系統(tǒng)的行為和決策上實(shí)現(xiàn)有效透明將更可取,也能提供顯著的效益。此外,在發(fā)展和應(yīng)用人工智能的過(guò)程中,應(yīng)為社會(huì)公眾參與創(chuàng)造機(jī)會(huì),并支持個(gè)人權(quán)利的行使。
第四,可控(controllable)。人工智能的發(fā)展應(yīng)置于人類(lèi)的有效控制之下,避免危害人類(lèi)個(gè)人或整體的利益。短期來(lái)看,發(fā)展和應(yīng)用人工智能應(yīng)確保其帶來(lái)的社會(huì)福祉顯著超過(guò)其可能給個(gè)人和社會(huì)帶來(lái)的可預(yù)期的風(fēng)險(xiǎn)和負(fù)面影響,確保這些風(fēng)險(xiǎn)和負(fù)面影響是可控的,并在風(fēng)險(xiǎn)發(fā)生之后積極采取措施緩解、消除風(fēng)險(xiǎn)及其影響。長(zhǎng)期來(lái)看,雖然人們現(xiàn)在還無(wú)法預(yù)料通用人工智能和超級(jí)人工智能能否實(shí)現(xiàn)以及如何實(shí)現(xiàn),也無(wú)法完全預(yù)料其影響,但應(yīng)遵循預(yù)警原則(precautionary principle),防范未來(lái)的風(fēng)險(xiǎn),使未來(lái)可能出現(xiàn)的通用人工智能和超級(jí)人工智能能夠服務(wù)于全人類(lèi)的利益。
當(dāng)然,信任的建立,需要一套規(guī)則體系。在這些原則之下,人們可以探索制定標(biāo)準(zhǔn)、法律、國(guó)際公約等。對(duì)于人工智能需要采取包容審慎、敏捷靈活的治理方式,應(yīng)避免嚴(yán)格、細(xì)致的法律要求,而是可以采取事后監(jiān)管或者通過(guò)出臺(tái)標(biāo)準(zhǔn)、行業(yè)公約、倫理框架、最佳實(shí)踐、技術(shù)指南等調(diào)整人工智能等新技術(shù)的發(fā)展應(yīng)用,支持行業(yè)自律。
幸福(happiness):在人機(jī)共生的智能社會(huì),確保人人都有追求數(shù)字福祉、幸福工作的權(quán)利
各種智能機(jī)器正在成為人類(lèi)社會(huì)不可或缺的一部分,和我們的生活和生產(chǎn)息息相關(guān)。這給人類(lèi)與技術(shù)之間的關(guān)系提出了新的命題,需要深入思考智能社會(huì)如何實(shí)現(xiàn)人機(jī)共生(human-computer symbiosis)。
第一,保障個(gè)人的數(shù)字福祉,人人都有追求數(shù)字福祉的權(quán)利。一方面需要消除技術(shù)鴻溝和數(shù)字鴻溝,全球還有接近一半人口沒(méi)有接入互聯(lián)網(wǎng),老年人、殘疾人等弱勢(shì)群體未能充分享受到數(shù)字技術(shù)帶來(lái)的便利。另一方面減小、防止互聯(lián)網(wǎng)技術(shù)對(duì)個(gè)人的負(fù)面影響,網(wǎng)絡(luò)過(guò)度使用、信息繭房、算法偏見(jiàn)、假新聞等現(xiàn)象暴露出了數(shù)字產(chǎn)品對(duì)個(gè)人健康、思維、認(rèn)知、生活和工作等方面的負(fù)面影響,呼吁互聯(lián)網(wǎng)經(jīng)濟(jì)從吸引乃至攫取用戶(hù)注意力向維護(hù)、促進(jìn)用戶(hù)數(shù)字福祉轉(zhuǎn)變,要求科技公司將對(duì)用戶(hù)數(shù)字福祉的促進(jìn)融入到互聯(lián)網(wǎng)服務(wù)的設(shè)計(jì)中,例如Android和iOS的屏幕使用時(shí)間功能、Facebook等社交平臺(tái)的“數(shù)字福祉”工具、騰訊視頻的護(hù)眼模式對(duì)用戶(hù)視力的保護(hù)等。
第二,保障個(gè)人的工作和自由發(fā)展,人人都有追求幸福工作的權(quán)利。目前而言,人工智能的經(jīng)濟(jì)影響依然相對(duì)有限,不可能很快造成大規(guī)模失業(yè),也不可能終結(jié)人類(lèi)工作,因?yàn)榧夹g(shù)采納和滲透往往需要數(shù)年甚至數(shù)十年,需要對(duì)生產(chǎn)流程、組織設(shè)計(jì)、商業(yè)模式、供應(yīng)鏈、法律制度、文化期待等各方面做出調(diào)整和改變。雖然短期內(nèi)人工智能可能影響部分常規(guī)性的、重復(fù)性的工作。長(zhǎng)遠(yuǎn)來(lái)看,以機(jī)器學(xué)習(xí)為代表的人工智能技術(shù)對(duì)人類(lèi)社會(huì)、經(jīng)濟(jì)和工作的影響將是深刻的,但人類(lèi)的角色和作用不會(huì)被削弱,相反會(huì)被加強(qiáng)和增強(qiáng)。未來(lái)二十年內(nèi),90%以上的工作或多或少都需要數(shù)字技能。人們現(xiàn)在需要做的,就是為當(dāng)下和未來(lái)的勞動(dòng)者提供適當(dāng)?shù)募寄芙逃?,為過(guò)渡期勞動(dòng)者提供再培訓(xùn)、再教育的公平機(jī)會(huì),支持早期教育和終身學(xué)習(xí)。
可持續(xù)(sustainability):踐行“科技向善”,善用技術(shù)塑造健康包容可持續(xù)的智慧社會(huì)
技術(shù)創(chuàng)新是推動(dòng)人類(lèi)和人類(lèi)社會(huì)發(fā)展的最主要因素。而這一輪技術(shù)革命具有巨大的“向善”潛力,將對(duì)人類(lèi)生活與社會(huì)進(jìn)步帶來(lái)突破性的提升。在二十一世紀(jì)的今天,人類(lèi)擁有的技術(shù)能力,以及這些技術(shù)所具有的“向善”潛力,是歷史上任何時(shí)候都無(wú)法比擬的。換言之,這些技術(shù)本身是“向善”的工具,可以成為一股“向善”的力量,用于解決人類(lèi)發(fā)展面臨著的各種挑戰(zhàn),助力可持續(xù)發(fā)展目標(biāo)。與此同時(shí),人類(lèi)所面臨的挑戰(zhàn)也是歷史上任何時(shí)候都無(wú)法比擬的。聯(lián)合國(guó)制定的《2030可持續(xù)發(fā)展議程》確立了17項(xiàng)可持續(xù)發(fā)展目標(biāo),實(shí)現(xiàn)這些目標(biāo)需要解決相應(yīng)的問(wèn)題和挑戰(zhàn),包括來(lái)自生態(tài)環(huán)境的,來(lái)自人類(lèi)健康的,來(lái)自社會(huì)治理的,來(lái)自經(jīng)濟(jì)發(fā)展的,等等。
將新技術(shù)應(yīng)用于這些方面,是正確的、“向善”的方向。例如,人工智能與醫(yī)療、教育、金融、政務(wù)民生、交通、城市治理、農(nóng)業(yè)、能源、環(huán)保等領(lǐng)域的結(jié)合,可以更好地改善人類(lèi)生活,塑造健康包容可持續(xù)的智慧社會(huì)。因此,企業(yè)不能只顧財(cái)務(wù)表現(xiàn),只追求經(jīng)濟(jì)利益,還必須肩負(fù)社會(huì)責(zé)任,追求社會(huì)效益,服務(wù)于好的社會(huì)目的和社會(huì)福祉,給社會(huì)帶來(lái)積極貢獻(xiàn),實(shí)現(xiàn)利益與價(jià)值的統(tǒng)一。包括有意識(shí)有目的地設(shè)計(jì)、研發(fā)、應(yīng)用技術(shù)來(lái)解決社會(huì)挑戰(zhàn)。如今,“人工智能造福人類(lèi)”(AI for Good)已經(jīng)成為全球發(fā)展趨勢(shì),呼吁與行動(dòng)并存。以騰訊為例,自2018年1月在國(guó)內(nèi)首次提出“科技向善”以來(lái),騰訊已將“科技向善”作為新的愿景與使命,并身體力行地在醫(yī)療、社會(huì)治理(如尋找失蹤人口)、FEW(糧食、能源、水源)等方面踐行“科技向善”理念。
以智能時(shí)代的技術(shù)倫理重塑數(shù)字社會(huì)的信任
互聯(lián)網(wǎng)、人工智能等數(shù)字技術(shù)發(fā)展到今天,給個(gè)人和社會(huì)帶來(lái)了諸多好處、便利和效率,未來(lái)還將持續(xù)推動(dòng)經(jīng)濟(jì)發(fā)展和社會(huì)進(jìn)步。如今,步入智能時(shí)代,為了重塑數(shù)字社會(huì)的信任,我們需要呼吁以數(shù)據(jù)和算法為面向的新的技術(shù)倫理觀,實(shí)現(xiàn)技術(shù)、人、社會(huì)之間的良性互動(dòng)和發(fā)展。最終,我們希望以新的技術(shù)倫理觀增進(jìn)人類(lèi)對(duì)于技術(shù)發(fā)展應(yīng)用的信任,讓人工智能等技術(shù)進(jìn)步持續(xù)造福人類(lèi)和人類(lèi)社會(huì)發(fā)展進(jìn)步,塑造更健康包容可持續(xù)的智慧社會(huì)。