首頁熱門文章
監(jiān)督人工智能的成長
發(fā)布時間：2018-09-27 分類：交通百科
當(dāng)蘋果在2011年發(fā)布其軟件應(yīng)用Siri時，iPhone用戶對他們的智能個人助理抱有很高的期望。然而，盡管Siri的性能令人印象深刻且不斷增長，但它經(jīng)常犯錯誤。該軟件的不完善突出了當(dāng)前人工智能的明顯局限性：當(dāng)今的機器智能無法理解人類生活中變化多樣的需求和偏好。
然而，隨著人工智能系統(tǒng)的發(fā)展，專家們相信智能機器最終并且很快將比人類更好地了解這個世界。雖然很容易理解Siri是如何以及為什么會犯錯的，但要弄清楚為什么一個超級人工智能做出了這樣的決定，將是一項更大的挑戰(zhàn)。
如果人類不能理解和評估這些機器，他們將如何控制它們?
保羅·克里斯蒂是加州大學(xué)伯克利分校計算機科學(xué)專業(yè)的博士生，他一直致力于解決這個問題。他相信，為了確保ai人工智能的安全和有益，研究人員和操作人員必須學(xué)會衡量智能機器在多大程度上做著人類想要做的事情，即使這些機器超越了人類智能。
半監(jiān)督學(xué)習(xí)
監(jiān)督人工智能系統(tǒng)發(fā)展的最明顯，最恰當(dāng)并且最艱難的方法，正如克里斯蒂亞諾解釋的那樣：“人類交流自己想要的東西的一種方式，就是花大量時間深入研究(人工智能)做出的一些小決定，并嘗試評估這個決定有多好。”
但是，盡管這在理論上是可能的，但人類研究人員永遠沒有時間或資源來評估人工智能做出的每一個決定。“如果你想做一個好的評估，你可以花幾個小時分析機器在一秒內(nèi)做出的決定，”克里斯蒂亞諾說。
對研究者來說，幸運的是，他們不需要評估人工智能做出的每一個決定，就能對它的行為充滿信心。相反，研究人員可以選擇機器上最有趣和信息最豐富的決定，在這些決定中獲得反饋將最大限度地減少我們的不確定性。
主動學(xué)習(xí)過程是人類訓(xùn)練人工智能的有效方法，但是當(dāng)人類需要評估超出人類智力的人工智能時會發(fā)生什么呢?
試想一臺掌握國際象棋的電腦，如果一個人還沒有掌握國際象棋，他怎么能給計算機適當(dāng)?shù)姆答伳?人可能會批評計算機的一個舉動，但后來才意識到機器是正確的。隨著智能手機和電腦的日益普及，類似的問題肯定會出現(xiàn)。最終，我們需要處理人工智能系統(tǒng)在幾乎所有方面都超越人類性能的情況。
使用認可機構(gòu)評估更智能的人工智能S
當(dāng)用戶撥打電話時，用戶對這一決定的反應(yīng)對于確定該電話是否會在未來的電話通話中斷用戶至關(guān)重要。但是，如果一臺更先進的機器比人類用戶更能理解中斷的后果，那么問人類‘手機是否應(yīng)該立即打斷你’可能是個壞主意。人可能會對中斷表示惱怒，但機器可能會更清楚地認識到，為了使用戶的生活平穩(wěn)地運行，這種煩惱是必要的。
在這種情況下，建議人類評價者使用其他智能機器來完成評估人工智能決策的繁重工作。實際上，能力較弱的系統(tǒng)1負責(zé)評估能力較強的系統(tǒng)2盡管系統(tǒng)2更聰明，但系統(tǒng)1可以快速處理大量信息，并且可以理解系統(tǒng)2應(yīng)該如何修改其行為。人力培訓(xùn)員仍將提供投入并監(jiān)督這一過程，但他們的作用將是有限的。
這一培訓(xùn)過程將幫助谷歌了解如何創(chuàng)建一個更安全和更智能的人工智能系統(tǒng)3，然后人類研究人員可以使用系統(tǒng)2進行培訓(xùn)。這些智能機器就像為人類執(zhí)行任務(wù)的小代理一樣，Siri已經(jīng)有了這種有限的能力來接受人類的輸入并弄清楚人類想要什么，但隨著人工智能技術(shù)的進步，機器將學(xué)會執(zhí)行人類無法完全理解的復(fù)雜任務(wù)。
我們能確保人工智能擁有人類的價值嗎?
隨著谷歌和其他科技公司在每次評估中不斷改進智能機器，人力培訓(xùn)師將發(fā)揮更小的作用。理想情況下，每次你建立一個更強大的機器，它有效地模擬了人類的價值，并做了人類想要的，但當(dāng)這些機器超越人類智慧時，它們可能會偏離人類的價值觀。用人類的話來說：一個復(fù)雜的智能機器就像一個龐大的人類組織。如果組織所做的任務(wù)太復(fù)雜，任何人都無法理解，那么它就可能追求人類不喜歡的目標(biāo)。
為了解決這些控制問題，克里斯蒂亞諾正致力于“對這種機器學(xué)習(xí)過程的端到端描述，充實似乎最相關(guān)的關(guān)鍵技術(shù)問題”。他的研究將有助于加深對人類如何使用人工智能系統(tǒng)來評估更先進的人工智能系統(tǒng)行為的理解。如果他的研究成功，這將是在建立可信賴的人工智能方面邁出的重要一步。
