首頁(yè)熱門文章
相關(guān)文章
先進(jìn)的人工智能將帶來(lái)革命性的改變
發(fā)布時(shí)間：2018-09-25 分類：交通百科
重要原則：先進(jìn)的人工智能可代表地球生命歷史上的深刻變化，應(yīng)以相應(yīng)的關(guān)懷和資源加以規(guī)劃和管理。
在人類進(jìn)步的歷史上，有幾件事特別具有革命性：有意識(shí)地使用火、發(fā)明農(nóng)業(yè)、工業(yè)革命，可能還發(fā)明了計(jì)算機(jī)和互聯(lián)網(wǎng)。但許多人預(yù)計(jì)，先進(jìn)人工智能系統(tǒng)的創(chuàng)造將超越這些成就。
有ai人工智能教授曾經(jīng)說(shuō)過(guò)人工智能是我們未來(lái)最重要的話題，或者，正如那樣，人類級(jí)人工智能的設(shè)計(jì)將是人類歷史上最具影響力的事件，我們?cè)僭趺礈?zhǔn)備也不過(guò)分。重要性原則鼓勵(lì)我們?yōu)榭赡苁恰吧鼩v史上最大的變化”做好計(jì)劃。但我們到底準(zhǔn)備做什么呢?更先進(jìn)的人工智能對(duì)社會(huì)意味著什么?
社會(huì)福利
隨著人工智能的發(fā)展，它也將幫助人類進(jìn)步，為了支持這一原則，我認(rèn)為這可以追溯到進(jìn)化。從進(jìn)化的角度來(lái)看，人類已經(jīng)達(dá)到了他們目前對(duì)世界的權(quán)力和控制水平，這是因?yàn)橹橇Φ淖饔?。人工智能是一種增強(qiáng)的智能，它是人類和人工智能的結(jié)合。這將產(chǎn)生一個(gè)比自主人工智能更有生產(chǎn)力和更現(xiàn)實(shí)的未來(lái)，后者離我們太遠(yuǎn)了。在可預(yù)見的將來(lái)，增強(qiáng)的人工智能，人工智能與人類合作，將改變地球上的生活。它將幫助我們解決與環(huán)境、健康和教育有關(guān)的重大問(wèn)題。
也許地球上并不是每個(gè)人都關(guān)心這個(gè)問(wèn)題，但科學(xué)家們應(yīng)該對(duì)這些問(wèn)題進(jìn)行討論，并制定出與價(jià)值觀一致工作的安全指南。最終，我們研究人工智能是因?yàn)槲覀兿嘈潘軐?duì)世界產(chǎn)生強(qiáng)大的積極影響。但是，技術(shù)越有能力，就越容易誤用-或者說(shuō)，誤用它的影響會(huì)變得更加嚴(yán)重。這就是為什么在我們?nèi)〉眠M(jìn)展的時(shí)候，開始更強(qiáng)烈地思考人工智能將發(fā)揮什么作用是如此重要的原因。
短期關(guān)注
盡管“重要性原則”特別提到了先進(jìn)的人工智能，但我采訪的一些研究人員指出，近期的人工智能也會(huì)對(duì)人類產(chǎn)生巨大的影響。我相信人工智能甚至在‘先進(jìn)’之前就會(huì)產(chǎn)生深刻的變化，因此我們需要規(guī)劃和管理技術(shù)的發(fā)展，作為人類，我們不擅長(zhǎng)長(zhǎng)期規(guī)劃，因?yàn)槲覀兊拿袷轮贫炔还膭?lì)長(zhǎng)期規(guī)劃，然而，在這一領(lǐng)域，我們必須發(fā)展自己的能力，以確保在人與機(jī)器之間建立負(fù)責(zé)任和有益的伙伴關(guān)系。
從經(jīng)驗(yàn)中學(xué)習(xí)
盡管先進(jìn)的人工智能可能是革命性的，但我們?nèi)匀豢梢詮囊郧暗募夹g(shù)革命中吸取經(jīng)驗(yàn)教訓(xùn)，為未來(lái)的變化做好準(zhǔn)備。通過(guò)回顧這些以前的革命性技術(shù)并了解它們的影響，也許我們可以洞察到我們?nèi)绾尾拍転橄冗M(jìn)的人工智能提前做好計(jì)劃。
隨著人工智能能力的提高，我們必須后退一步，問(wèn)問(wèn)自己：我們解決了正確的問(wèn)題嗎?是否有更好的問(wèn)題定義，更有可能給人類帶來(lái)好處?例如，我們一直將人工智能代理定義為理性的。這意味著他們最大限度地提高了預(yù)期效用。
到目前為止，假定效用是已知的。但是，如果你想一想，沒(méi)有福音指定效用。我們假設(shè)某個(gè)地方會(huì)確切地知道為他們的代理指定什么實(shí)用程序。事實(shí)證明，我們并不是這樣工作的：包括人工智能專家在內(nèi)的人們很難指定效用函數(shù)。我們盡了最大的努力，但是當(dāng)系統(tǒng)繼續(xù)進(jìn)行并優(yōu)化我們輸入的內(nèi)容時(shí)，結(jié)果有時(shí)是令人驚訝的，而且不是有利的方面。
這表明我們對(duì)人工智能代理的定義是基于一個(gè)錯(cuò)誤的假設(shè)，我們已經(jīng)開始在機(jī)器人技術(shù)中看到這一點(diǎn)-機(jī)器人應(yīng)該如何移動(dòng)的定義沒(méi)有考慮到人，機(jī)器人應(yīng)該如何從演示中學(xué)習(xí)的定義等等，我想我們會(huì)越來(lái)越多地在整個(gè)人工智能中看到這一點(diǎn)。我們必須停止對(duì)人工智能的人和最終用戶進(jìn)行含蓄的假設(shè)，并對(duì)此進(jìn)行嚴(yán)格的正面處理，將人們納入這一方程。
你怎么認(rèn)為?
人工智能的發(fā)展將對(duì)人類進(jìn)步產(chǎn)生什么樣的影響?我們?cè)鯓硬拍転檫@些潛在的巨大變化做好準(zhǔn)備呢?我們能準(zhǔn)備一下嗎?作為一個(gè)社會(huì)，我們還需要問(wèn)什么其他問(wèn)題?
