首頁(yè)熱門文章
相關(guān)文章
在當(dāng)前和長(zhǎng)期人工智能安全工作之間是否存在權(quán)衡?
發(fā)布時(shí)間：2018-09-12 分類：交通百科
在機(jī)器學(xué)習(xí)社區(qū)和媒體文章中，我經(jīng)常聽(tīng)到這樣的話：“對(duì)超級(jí)智能的擔(dān)憂分散了人們對(duì)當(dāng)今人工智能面臨的”現(xiàn)實(shí)“問(wèn)題X的注意力”(X=算法偏見(jiàn)、技術(shù)失業(yè)、可解釋性、數(shù)據(jù)隱私等)。這種爭(zhēng)強(qiáng)好勝的態(tài)度給人的印象是，當(dāng)前和長(zhǎng)期的安全關(guān)切存在沖突。但他們之間真的有權(quán)衡嗎?
我們可以更具體地提出這樣一個(gè)問(wèn)題：這兩種努力可能爭(zhēng)奪哪些資源?
媒體關(guān)注
鑒于媒體對(duì)人工智能的濃厚興趣，已經(jīng)有很多關(guān)于這些問(wèn)題的文章。有關(guān)高級(jí)人工智能安全的文章大多是危言聳聽(tīng)的終結(jié)者，忽視了問(wèn)題的復(fù)雜性?？梢岳斫獾氖?，這激怒了許多人工智能研究人員，并導(dǎo)致他們中的一些人基于媒體上的漫畫(huà)而不是真實(shí)的爭(zhēng)論，對(duì)這些風(fēng)險(xiǎn)不屑一顧。媒體關(guān)注高級(jí)人工智能風(fēng)險(xiǎn)的總體效果是非常消極的，如果媒體完全停止有關(guān)超級(jí)智能的報(bào)道，把注意力集中在當(dāng)今人工智能系統(tǒng)的安全和倫理問(wèn)題上，這會(huì)讓所有的人工智能研究人員開(kāi)心。
資金
目前，高級(jí)人工智能安全工作的大部分資金來(lái)自捐助者和對(duì)這些問(wèn)題特別感興趣的組織，如開(kāi)放慈善項(xiàng)目和埃隆·馬斯克。他們不太可能資助那些不適用于高級(jí)人工智能系統(tǒng)的安全工作，因此他們對(duì)高級(jí)人工智能安全研究的捐款并沒(méi)有從眼前的問(wèn)題中拿出資金。相反，沒(méi)有一個(gè)固定的資金，短期和長(zhǎng)期的安全競(jìng)爭(zhēng)，它更像是兩個(gè)不斷增長(zhǎng)的餡餅，不能重疊的太多。這兩個(gè)領(lǐng)域的資金都在不斷增加，希望這一趨勢(shì)能夠持續(xù)下去。
人才
近年來(lái)，先進(jìn)的人工智能安全領(lǐng)域有所發(fā)展，但規(guī)模仍然很小，研究人員從事這方面工作所造成的“人才外流”迄今微乎其微。在當(dāng)前和長(zhǎng)期問(wèn)題上工作的動(dòng)機(jī)也往往是不同的，這些問(wèn)題往往吸引不同類型的人。例如，一個(gè)主要關(guān)心社會(huì)公正的人更有可能致力于算法偏見(jiàn)，而一個(gè)主要關(guān)心長(zhǎng)期未來(lái)的人更有可能致力于超級(jí)智能風(fēng)險(xiǎn)的研究。
總的來(lái)說(shuō)，在資金或人才方面似乎沒(méi)有太多的權(quán)衡，而媒體的注意力權(quán)衡(理論上)可以通過(guò)將所有的播出時(shí)間都投入到當(dāng)前的關(guān)注中來(lái)解決。這些問(wèn)題不僅沒(méi)有沖突，而且解決這些問(wèn)題之間也有協(xié)同作用。雙方都受益于在人工智能研究社區(qū)中培養(yǎng)一種關(guān)心社會(huì)影響和積極主動(dòng)應(yīng)對(duì)風(fēng)險(xiǎn)的文化。一些安全問(wèn)題在近期和長(zhǎng)期都具有高度相關(guān)性，例如可解釋性和對(duì)抗性示例。我認(rèn)為我們需要更多的人致力于解決當(dāng)前系統(tǒng)的這些問(wèn)題，同時(shí)保持對(duì)未來(lái)更先進(jìn)系統(tǒng)的可伸縮性。
人工智能的安全問(wèn)題太重要了，討論不能因?yàn)橹T如“我的問(wèn)題比你的問(wèn)題更好”這樣的問(wèn)題而脫軌。這種錯(cuò)誤的二分法本身就是對(duì)確保人工智能對(duì)當(dāng)今和未來(lái)世界產(chǎn)生積極影響這一共同目標(biāo)的一種干擾。關(guān)心當(dāng)前和未來(lái)人工智能系統(tǒng)安全的人是天生的盟友，讓我們?cè)趯?shí)現(xiàn)這一共同目標(biāo)的道路上相互支持。
