首頁熱門文章
人工智能革命：從AGI到ASI的道路
發(fā)布時間：2019-05-29 分類：趨勢研究
在某種程度上，我們將獲得具有人類一般智能的AGI計算機后。只是一群人和計算機平等地生活在一起。
哦，實際上并不會。
問題是，AGI具有與人類相同的智能和計算能力水平，但仍然具有優(yōu)于人類的優(yōu)勢。如：
硬件
速度。大腦的神經(jīng)元最大頻率大約為200赫茲，而今天的微處理器（比我們達到AGI時慢得多）運行頻率為2 GHz，比我們的神經(jīng)元快1000萬倍。大腦的內(nèi)部通信速度可以達到120米/秒，但與計算機以光速進行光學(xué)通信的能力相比還是要慢得多。尺寸和存儲。大腦被我們頭骨的形狀限制住了它的大小，而且無論如何它都不會變大，或者120米/秒的內(nèi)部通信需要很長時間才能從一個大腦結(jié)構(gòu)到另一個大腦結(jié)構(gòu)。計算機可以擴展到任何物理尺寸，允許更多的硬件投入工作，更大的工作內(nèi)存（RAM）和長期內(nèi)存（硬盤存儲），它具有比我們自己更大的容量和精度?？煽啃院湍陀眯浴２粌H是計算機的記憶更精確。計算機晶體管比生物神經(jīng)元更準確，并且它們不太可能惡化（并且如果它們退化了還可以被修復(fù)或替換）。人類的大腦也很容易疲勞，而計算機可以不間斷運行，性能達到最佳狀態(tài)的情況下可以每周7天每天24小時運行。軟件
可編輯性，可升級性和更廣泛的可能性。與人腦不同，計算機軟件可以接收更新和修復(fù)，并且可以輕松地進行實驗。升級也可能擴展人類大腦薄弱的領(lǐng)域。人類視覺軟件非常先進，但其復(fù)雜的工程能力相當?shù)汀Ｓ嬎銠C可以在視覺軟件匹配人類視覺，但也可以在工程和任何其他領(lǐng)域同樣進行優(yōu)化。集體能力。人類在建立一個龐大的集體智慧時壓倒了其他所有物種。從語言的發(fā)展和大型密集社區(qū)的形成開始，通過寫作和印刷的發(fā)明，到現(xiàn)在通過互聯(lián)網(wǎng)等工具得到加強，人類的集體智慧是我們能夠遠遠超過所有其他物種的主要原因之一。計算機將比我們做的更好。運行特定程序的全球人工智能網(wǎng)絡(luò)可以定期與自身同步，以便任何一臺計算機學(xué)到的任何東西都可以立即上傳到所有其他計算機。這個群體還可以作為一個單元來實現(xiàn)一個目標，因為沒有不會像我們?nèi)祟惸菢?，存在不同的意見、動機和私利。人工智能很可能通過編程進行自我提高而達到AGI，它不會將“人類水平的智能”視為一個重要的里程碑 - 從我們的角度講，它只是一個相關(guān)標記 - 并且沒有任何理由在達到我們的智力水平后“停止”。而且鑒于AGI相對于人類的優(yōu)勢，及時是與人類智力相當?shù)腁GI也會有優(yōu)勢，很明顯它只能在短暫的時間內(nèi)攻擊人類智能，然后才能加速進入優(yōu)于人類智能的領(lǐng)域。
當它發(fā)生時，可能會嚇得我們屁滾尿流。原因在于，從我們的角度來看，A）雖然不同種類的動物的智力各不相同，但我們對任何動物的智力所了解的主要特征是它遠低于我們的智力，B）我們認為最聰明的人比最笨的人聰明的多。有點像這樣：
因此，當人工智能向我們的智能向上逼近時，我們會將其視為動物而言，它只是變得更聰明了。然后，當它達到人類最低的能力時 - 尼克博斯特羅姆使用“村里的白癡”了這一詞 - 我們會說，“哇哦，這就像一個愚蠢的人類。真可愛！“唯一的事情是，在大范圍的智能中，所有人類，從村里的白癡到愛因斯坦，都在一個非常小的范圍內(nèi) - 所以剛剛擊敗村里的白癡水平并被宣布為AGI后，它會突然比愛因斯坦更聰明，并且我們不知道是什么擊敗了我們:
那會發(fā)生什么。。。。。。之后呢？
我希望你享受正常的時間，因為這是當這個話題變得不正常和可怕的時候，它會從這里繼續(xù)前進。我想在這里暫停并提醒你，我要說的每一件事都是真實的科學(xué)，都是對未來的真實預(yù)測，這些預(yù)測來自一大批最受尊敬的思想家和科學(xué)家，請記住這一點。
無論如何，正如我上面所說，我們目前大多數(shù)的AGI的模型都是通過人工智能的自我改進來實現(xiàn)目標。一旦進入AGI時代，即使一些通過不涉及自我改進的方法形成和發(fā)展的系統(tǒng)現(xiàn)在也足夠智能，如果他們愿意，就可以開始自我改進了。
在這里我們得到了一個強烈的概念：遞歸的自我改善。它的工作原理如下 -
在一定水平上的人工智能系統(tǒng) - 比方說人類村莊的白癡 - 被編程的目標是提高自身的智能。一旦它做到了，它就會變得更聰明了 -也許在這一點上它已經(jīng)處于愛因斯坦的水平 - 所以現(xiàn)在當它用愛因斯坦級別的智力改善自身智力時，會變得更加容易，它可以實現(xiàn)更大的飛躍。這些飛躍使它比任何人類都聰明得多，并允許它實現(xiàn)更大的飛躍。隨著飛躍變得越來越高并且發(fā)生得越來越快，AGI在智能上飆升并很快達到ASI系統(tǒng)的超級智能水平。這被稱為智力爆炸，并且它是加速回歸法的最終例證。
關(guān)于人工智能將在多長時間內(nèi)達到人類一般智能的問題還存在爭議。對數(shù)百名科學(xué)家進行的一項調(diào)查顯示，他們認為我們更有可能達到AGI的時候是2040年- 那是25年后，這聽起來并不那么近，直到你認為很多在這一領(lǐng)域的思想家認為這很可能是真的，并且從AGI到ASI的進展情況非常迅速。這可能真的會發(fā)生：
第一個人工智能系統(tǒng)需要幾十年才能達到低水平的一般智能，但它最終實現(xiàn)了。計算機能夠像四歲的人類一樣開始理解周圍的世界。突然間，在達到這個里程碑的一個小時內(nèi)，該系統(tǒng)推出了統(tǒng)一廣義相對論和量子力學(xué)的宏觀物理理論，這是人類無法確定到的事情。在那之后的90分鐘，人工智能變成了ASI，比人類智能高出17萬倍。
這種規(guī)模的超級智能遠不是我們可以掌握的，不僅僅是一只大黃蜂無法理解凱恩斯主義經(jīng)濟學(xué)一樣。在我們的世界中，聰明意味著智商為130，而愚蠢意味著智商為85 - 我們沒有一個詞形容12，952的智商。
我們所知道的是，人類在這個地球上的全面統(tǒng)治表明了一個明確的規(guī)則：智慧帶來了力量。這意味著我們創(chuàng)造了一個ASI的時候，它將成為地球上生命歷史中最強大的存在，包括人類在內(nèi)的所有生物都將完全聽從他的意愿 - 這很可能會在未來幾十年內(nèi)發(fā)生。
如果我們的大腦能夠發(fā)明wifi，那么比我們聰明100倍或1000倍或10億倍的東西應(yīng)該沒有任何問題在任何時候以任何方式控制世界上任何一個原子的位置 - 我們所有的一切考慮就像魔法，我們想象的這種力量是至高無上的神，對于我們來說，翻轉(zhuǎn)燈開關(guān)對于ASI來說是一項平凡的活動。創(chuàng)造技術(shù)以扭轉(zhuǎn)人類衰老，治愈疾病和饑餓甚至死亡，重新編程天氣以保護地球上的生命的未來 - 所有這些問題都都突然變得可能實現(xiàn)。也有可能是地球上所有生命的直接結(jié)束。就我們而言，如果ASI成為現(xiàn)實，那么現(xiàn)在地球上就會有一位無所不能的上帝 - 對我們來說，最重要的問題是：
它會是一個好神么？
