熱門文章
人工智能不能缺少因果推斷
發(fā)布時(shí)間:2019-08-05 分類:趨勢(shì)研究
早在兩千多年前,亞里士多德等西方哲學(xué)家就已經(jīng)提出了因果的概念,并開始思考事件之間的“導(dǎo)致”關(guān)系。
可以說,因果思維是科學(xué)技術(shù)的基礎(chǔ)。圖靈獎(jiǎng)獲得者朱迪·珀?duì)栐凇稙槭裁础芬粫薪o出了很多因果推斷的應(yīng)用實(shí)例,它們來自社會(huì)各個(gè)領(lǐng)域的方方面面。既然因果論這么重要,為何它的數(shù)學(xué)形式化研究一直滯后,直到最近才初見雛形?主要原因就在于研究因果關(guān)系的必備工具之一的統(tǒng)計(jì)學(xué)在20世紀(jì)后才真正成為一門嚴(yán)謹(jǐn)?shù)膶W(xué)問。
在書中,珀?duì)柊岩蚬摲譃槿齻€(gè)層面,他稱之為“因果關(guān)系之梯”:第一層級(jí)研究“關(guān)聯(lián)”,第二層級(jí)研究“干預(yù)”,第三層級(jí)研究“反事實(shí)推理”。珀?duì)柼貏e指出,我們當(dāng)前的AI(人工智能)和機(jī)器學(xué)習(xí)只處于最低的第一層級(jí),只是被動(dòng)地接受觀測(cè)結(jié)果,考慮的是“如果我看到……會(huì)怎樣”這類問題。
理論上可以證明,人工智能即便在因果關(guān)系之梯的最低層級(jí)做到極致,也無法躍升到干預(yù)層面,更不可能進(jìn)入反事實(shí)的世界。這本書所討論的幾個(gè)悖論(伯克森悖論、辛普森悖論、伯克利大學(xué)招生悖論等)就曾長(zhǎng)期困擾著統(tǒng)計(jì)學(xué)家,因?yàn)檫@些問題離開了因果論是不可能得到徹底解決的。珀?duì)栆部闯隽诉@一問題的癥結(jié):缺少因果推斷的AI只能是“人工智障”,是永遠(yuǎn)不可能透過數(shù)據(jù)看到世界的因果本質(zhì)的。
作為處在因果關(guān)系之梯最低層級(jí)的機(jī)器學(xué)習(xí)技術(shù),大數(shù)據(jù)分析和深度學(xué)習(xí)并不神秘,說得通俗一些,大數(shù)據(jù)分析就是多變量統(tǒng)計(jì)分析,深度學(xué)習(xí)就是隱層多了一些的神經(jīng)網(wǎng)絡(luò)而已,理論上沒有太多新意。借助算力的提升,這輪AI的火爆主要表現(xiàn)在工程實(shí)踐比以往更豐富了,應(yīng)用層面的創(chuàng)新要遠(yuǎn)遠(yuǎn)超過基礎(chǔ)理論的創(chuàng)新。珀?duì)柦淌谡J(rèn)為大數(shù)據(jù)分析和深度學(xué)習(xí)(甚至多數(shù)傳統(tǒng)的機(jī)器學(xué)習(xí))都處于因果關(guān)系之梯的第一層級(jí),因?yàn)樗鼈兊难芯繉?duì)象還是相關(guān)關(guān)系而非因果關(guān)系。
眾所周知,這輪AI的爆發(fā)在很大程度上得益于算力的提升,例如,深度學(xué)習(xí)就是人工神經(jīng)網(wǎng)絡(luò)借助算力的“卷土重來”,把數(shù)據(jù)驅(qū)動(dòng)的方法推向了一個(gè)巔峰。人們甚至產(chǎn)生了一個(gè)幻覺——“所有科學(xué)問題的答案都藏于數(shù)據(jù)之中,有待巧妙的數(shù)據(jù)挖掘技巧來揭示?!辩?duì)柵辛诉@種思潮,他將因果模型置于更高的位置,把數(shù)學(xué)或統(tǒng)計(jì)建模的榮耀重新歸還給了相應(yīng)領(lǐng)域的專家。
人們喜歡從“數(shù)據(jù)”、“算法”、“算力”和“場(chǎng)景”四個(gè)角度談?wù)揂I。珀?duì)栐噲D告訴我們,數(shù)據(jù)固然重要,但它并不是推斷的唯一來源,那些承載著知識(shí)或經(jīng)驗(yàn)的“因果”模型,才是幫助機(jī)器從“人工智障”走向人工智能的關(guān)鍵所在。在珀?duì)柨磥?,大?shù)據(jù)分析和數(shù)據(jù)驅(qū)動(dòng)的方法僅僅處在因果關(guān)系之梯的第一層,強(qiáng)人工智能還需要干預(yù)和反事實(shí)推理,如此讓機(jī)器具備自由意志才可能實(shí)現(xiàn),二者分屬因果關(guān)系之梯的第二層級(jí)和第三層級(jí)。
我們不應(yīng)該把AI技術(shù)對(duì)立起來,而應(yīng)該相互取長(zhǎng)補(bǔ)短。拿強(qiáng)化學(xué)習(xí)來說,它不同于有監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí),是基于馬爾科夫決策過程發(fā)展起來的第三類機(jī)器學(xué)習(xí)方法——智能體通過與環(huán)境互動(dòng)變得越來越“聰明”。強(qiáng)化學(xué)習(xí)和因果推斷都尋求策略,其中,行動(dòng)之間是有因果關(guān)系的,但因果推斷更開放一些,它可以利用數(shù)據(jù)之外的知識(shí)來推斷策略的效果。強(qiáng)化學(xué)習(xí)允許推斷干預(yù)的結(jié)果,因此能攀上因果關(guān)系之梯的第二層級(jí)。通過模擬環(huán)境,強(qiáng)化學(xué)習(xí)無須從現(xiàn)實(shí)世界獲取觀測(cè)數(shù)據(jù)來訓(xùn)練模型,所以也有可能產(chǎn)生反事實(shí)從而登上因果關(guān)系之梯的第三層級(jí)。
學(xué)術(shù)界對(duì)“強(qiáng)AI”一直持謹(jǐn)慎態(tài)度,多數(shù)學(xué)者傾向于“弱人工智能”,即思維機(jī)器可以在一些具體應(yīng)用(如棋類游戲、人臉識(shí)別、信息檢索等)上表現(xiàn)得十分出色,但本質(zhì)上不可能達(dá)到人類的智能,譬如,像科學(xué)家一樣思考,理解人類的語言并無障礙地與人類交流,創(chuàng)造具有真正美感的藝術(shù),擁有人類的情感……大家沒敢對(duì)強(qiáng)AI抱有太多的期望,主要原因是我們對(duì)如何形式化人類自身的因果推斷能力了解甚少。
因果的形式化理論,不僅解決了困擾統(tǒng)計(jì)學(xué)家很多年的一些悖論,更重要的是,利用“干預(yù)”讓人類和機(jī)器擺脫了被動(dòng)觀察,從而轉(zhuǎn)向主動(dòng)地去探索因果關(guān)系,以便做出更好的決策;利用“反事實(shí)推理”擴(kuò)展了想象的空間,從而擺脫了現(xiàn)實(shí)世界的束縛。這兩點(diǎn)突破實(shí)現(xiàn)了因果革命,并分別構(gòu)成了因果關(guān)系之梯的第二層級(jí)和第三層級(jí)的內(nèi)容。沿著因果關(guān)系之梯,機(jī)器便有望擁有強(qiáng)人工智能。
作者:【美】朱迪·珀?duì)?