世界上沒(méi)有人，特別是我，能告訴你當(dāng)我們遇到這條線(xiàn)時(shí)會(huì)發(fā)生什么。但牛津哲大學(xué)哲學(xué)家兼首席人工智能科學(xué)家Nick Bostrom認(rèn)為，我們可以將所有的結(jié)果歸納為兩大類(lèi)。

首先，看一下歷史，我們可以看到聲明是這樣運(yùn)作的：物種突然出現(xiàn)，存在了一段時(shí)間，經(jīng)過(guò)一段時(shí)間后，它們不可避免地從存在的平衡木上掉下來(lái)并走向滅絕 -

“所有物種最終都會(huì)滅絕”和“所有人類(lèi)最終都會(huì)死”一樣，在歷史上這是一條可靠的規(guī)則。到目前為止，99。9％的物種已從平衡木上掉下來(lái)，而且很明顯，如果一個(gè)物種沿著梁向下?lián)u晃，那么對(duì)于其他一些物種，有一些大自然的風(fēng)或突然之間有小行星將其擊倒都只是時(shí)間問(wèn)題。Bostrom用一種吸引狀態(tài) - 來(lái)表示一個(gè)地方的物種都在搖搖欲墜的面臨掉入毀滅的深淵。

雖然我遇到的大多數(shù)科學(xué)家都承認(rèn)ASI有能力使人類(lèi)滅絕，但許多人也相信，ASI的能力可以用來(lái)將人類(lèi)乃至整個(gè)物種帶到第二種狀態(tài)-物種不朽。Bostrom認(rèn)為，物種不朽與物種滅絕同樣具有吸引人的狀態(tài)，即如果我們能做到這一點(diǎn)，我們將永遠(yuǎn)不受滅絕的影響 - 我們將擁有戰(zhàn)勝死亡的機(jī)會(huì)。因此，即使到目前為止所有物種都已經(jīng)從平衡木上掉下來(lái)并瀕臨滅絕，Bostrom仍然相信平衡木還有兩面，只是地球上的任何東西都沒(méi)有足夠的智能來(lái)弄清楚如何到達(dá)另一面。

如果Bostrom和其他人對(duì)的，從我所讀到的一切看來(lái)，它們似乎真的可能是對(duì)的，而我們有兩個(gè)相當(dāng)令人震驚的事實(shí)要接受：

1）ASI的出現(xiàn)將首次為物種在平衡木上的不朽的一側(cè)上著陸提供可能性。

2）ASI的出現(xiàn)將產(chǎn)生如此難以想象的巨大影響，無(wú)論朝著那個(gè)方向，都很可能會(huì)把人類(lèi)從平衡木上撞下來(lái)

很可能當(dāng)我們進(jìn)化到智力線(xiàn)的時(shí)候，它會(huì)永久地結(jié)束人類(lèi)與平衡木的關(guān)系并創(chuàng)造一個(gè)新世界，不管有沒(méi)有人類(lèi)。

似乎人類(lèi)當(dāng)前唯一應(yīng)該問(wèn)的問(wèn)題是：我們什么時(shí)候才能達(dá)到那條線(xiàn)，當(dāng)這種情況發(fā)生時(shí)，我們會(huì)落在這跟平衡木的哪一邊？

世界上沒(méi)有人知道這兩個(gè)問(wèn)題的答案，但是許多聰明的人已經(jīng)花了數(shù)十年的時(shí)間來(lái)思考這個(gè)問(wèn)題。我們將用這篇文章的其余部分來(lái)探索他們提出的內(nèi)容。

也就是第一臺(tái)機(jī)器達(dá)到超級(jí)智能需要多長(zhǎng)時(shí)間？

不出所料，意見(jiàn)分歧很大，這是科學(xué)家和思想家之間的一場(chǎng)激烈的爭(zhēng)論。但是許多人，如Vernor Vinge授，科學(xué)家Ben Goertzel，Sun Microsystems聯(lián)合創(chuàng)始人Bill Joy，或者最著名的發(fā)明家和未來(lái)學(xué)家Ray Kurzweil，都同意機(jī)器學(xué)習(xí)專(zhuān)家Jeremy Howard在TED演講中提出的這張圖表：

這些人相信，這種情況很快就會(huì)發(fā)生 - 指數(shù)增長(zhǎng)正在發(fā)揮著巨大的作用，機(jī)器學(xué)習(xí)現(xiàn)在雖然只是緩慢的向我們逼近，但在未來(lái)幾十年內(nèi)會(huì)在我們身邊呼嘯而過(guò)。

但是其他一些人，如微軟聯(lián)合創(chuàng)始人Paul Allen，研究心理學(xué)家Gary Marcus，紐約大學(xué)計(jì)算機(jī)科學(xué)家Ernest Davis和科技企業(yè)家Mitch Kapor，認(rèn)為像Kurzweil這樣的思想家大大低估了人類(lèi)面對(duì)挑戰(zhàn)的能力，并認(rèn)為我們實(shí)際上并不是那么的接近那條線(xiàn)。

Kurzweil陣營(yíng)反駁說(shuō)，唯一低估的是指數(shù)增長(zhǎng)的速度，并且他們將懷疑者與那些在1985年看到互聯(lián)網(wǎng)增長(zhǎng)緩慢的人群進(jìn)行比較，并認(rèn)為在群人在不久的將來(lái)對(duì)任何有影響力的事情都不會(huì)有影響。

懷疑者可能會(huì)反駁，他們認(rèn)為使智力進(jìn)步所需要的努力也會(huì)隨著后面的每一步的成倍增長(zhǎng)而變的更加苦難，這將抵消技術(shù)進(jìn)步的典型指數(shù)性質(zhì)，等等。

包括Nick Bostrom在內(nèi)的第三個(gè)陣營(yíng)認(rèn)為，兩派都沒(méi)有任何理由對(duì)時(shí)間線(xiàn)進(jìn)行保證，并且承認(rèn):A)這絕對(duì)可能在不久的將來(lái)發(fā)生;B)但它可能需要更長(zhǎng)的時(shí)間。

還有一些人，比如哲學(xué)家Hubert Dreyfus，認(rèn)為三個(gè)群體都天真地認(rèn)為相信會(huì)有智力線(xiàn)，他們認(rèn)為ASI可能永遠(yuǎn)無(wú)法實(shí)現(xiàn)。

那么當(dāng)你把所有的這些意見(jiàn)放在一起時(shí)，你會(huì)得到什么？

2013年，VincentC。Müller和Nick Bostrom進(jìn)行了一項(xiàng)調(diào)查，在一系列會(huì)議上向數(shù)百名AI專(zhuān)家提出以下問(wèn)題：“就這個(gè)問(wèn)題而言，假設(shè)人類(lèi)的科學(xué)活動(dòng)沒(méi)有重大的負(fù)面影響的情況下繼續(xù)發(fā)展。到了哪一年你會(huì)看到這樣的HLMI4存在的概率（10％/ 50％/ 90％的可能性）調(diào)查要求他們說(shuō)出一個(gè)樂(lè)觀的年份（10的可能性可以擁有AGI） ），一個(gè)現(xiàn)實(shí)的猜測(cè)（那一年我們獲得AGI有50%的可能性-即在那一年后我們更可能擁有AGI），以及一個(gè)安全的猜測(cè)（90%的機(jī)會(huì)可以在那一年擁有AGI）。作為一個(gè)數(shù)據(jù)集收集在一起，結(jié)果如下：

樂(lè)觀年份中位數(shù)（10％可能性）：2022年

實(shí)際年份中位數(shù)（50％可能性）：2040年

悲觀年份中位數(shù)（90％可能性）：2075年

所以參與者認(rèn)為我們25年后才會(huì)有可能擁有AGI。2075年的90％的中位答案意味著，如果你現(xiàn)在是青少年，那么中位數(shù)的受訪(fǎng)者，以及超過(guò)一半的AI專(zhuān)家，幾乎可以確定AGI將在你有生之年發(fā)生。

最近由作家James Barrat在Ben Goertzel年度AGI會(huì)議上進(jìn)行的另一項(xiàng)研究，他取消了百分比，只是簡(jiǎn)單地詢(xún)問(wèn)參與者何時(shí)認(rèn)為AGI將會(huì)實(shí)現(xiàn)。- 2030年，2050年，2100年，還是2100年之后，或者永遠(yuǎn)不會(huì)實(shí)現(xiàn)。結(jié)果是：

到2030年：42％的受訪(fǎng)者選擇了這個(gè)選項(xiàng)

到2050年：25％的受訪(fǎng)者選擇了這個(gè)選項(xiàng)

到2100年：20％的受訪(fǎng)者選擇了這個(gè)選項(xiàng)

在2100年之后：10％的受訪(fǎng)者選擇了這個(gè)選項(xiàng)

永遠(yuǎn)不會(huì)：2％的受訪(fǎng)者選擇了這個(gè)選項(xiàng)

非常類(lèi)似于Müller和Bostrom的結(jié)果。在Barrat的調(diào)查中，超過(guò)三分之二的參與者認(rèn)為AGI將在2050年出現(xiàn)，而只有不到一半的人預(yù)測(cè)AGI將在未來(lái)15年內(nèi)出現(xiàn)。同樣令人吃驚的是，只有2％的受訪(fǎng)者認(rèn)為AGI不會(huì)成為我們未來(lái)的一部分。

但是，AGI不是那條線(xiàn)的話(huà)。那么專(zhuān)家什么時(shí)候認(rèn)為我們會(huì)達(dá)到ASI？

Müller和Bostrom還向?qū)＜以?xún)問(wèn)，他們認(rèn)為我們什么擁有ASI的可能性:A)在擁有AGI的兩年內(nèi)就會(huì)擁有ASI(幾乎是馬上就進(jìn)行了智能爆炸)和B)在三十年內(nèi)擁有ASI。結(jié)果是:

根據(jù)答案的中值表名，快速的從（2年）AGI→ASI轉(zhuǎn)換的可能性?xún)H為10％，但較長(zhǎng)的轉(zhuǎn)換30年或更短的時(shí)間，可能性為75％。

我們這些數(shù)據(jù)中的參與者有50%的可能性不會(huì)知道這個(gè)轉(zhuǎn)變時(shí)間的長(zhǎng)度，但是為了達(dá)到大致的目的，基于上面的兩個(gè)答案，讓我們估計(jì)他們會(huì)說(shuō)是20年。所以中間意見(jiàn) - 人工智能專(zhuān)家領(lǐng)域?qū)τ谡J(rèn)為我們何時(shí)能夠擊中ASI的那條線(xiàn)的最現(xiàn)實(shí)的猜測(cè)中值是(對(duì)AGI的2040年預(yù)測(cè)+我們對(duì)AGI向ASI轉(zhuǎn)變的20年過(guò)渡期估計(jì)]?= 2060年。

當(dāng)然，以上所有統(tǒng)計(jì)數(shù)據(jù)都是推測(cè)性的，他們只代表人工智能專(zhuān)家社區(qū)的意見(jiàn)，但它告訴我們，對(duì)這一主題最了解的人中有很大一部分會(huì)同意對(duì)能改變時(shí)間的ASI的到來(lái)估計(jì)為2060年。距今僅45年。

好吧，現(xiàn)在上面問(wèn)題的第二部分是：當(dāng)我們達(dá)到那條線(xiàn)的時(shí)候時(shí)，會(huì)落到平衡木的哪一側(cè)？

超級(jí)智能將產(chǎn)生巨大的力量 - 對(duì)我們來(lái)說(shuō)的關(guān)鍵問(wèn)題是：

對(duì)此的答案將決定ASI會(huì)是一個(gè)令人難以置信的偉大發(fā)展，還是一個(gè)令人難以置信的糟糕發(fā)展，還是介于這兩者之間。

當(dāng)然，專(zhuān)家團(tuán)隊(duì)又討論了這個(gè)問(wèn)題的答案。Müller和博斯特倫的調(diào)查要求參與者將概率分配到AGI會(huì)對(duì)人類(lèi)的可能產(chǎn)生的影響上，發(fā)現(xiàn)反應(yīng)的結(jié)果是，有52％的反應(yīng)結(jié)果會(huì)是好或非常好，31％的反應(yīng)結(jié)果將會(huì)是壞的或非常糟糕的。對(duì)于相對(duì)中性的反應(yīng)，平均概率僅為17％。換句話(huà)說(shuō)，對(duì)此最了解的人非常肯定這將是一個(gè)巨大的事情。同樣值得注意的是，這些概率僅僅是指AGI的出現(xiàn) - 如果問(wèn)題是關(guān)于ASI，我想中性百分比可能會(huì)更低。

在我們進(jìn)一步深入研究這個(gè)問(wèn)題的好結(jié)果與壞結(jié)果部分之前，讓我們將這個(gè)問(wèn)題“它什么時(shí)候會(huì)發(fā)生？”和“它會(huì)好還是壞？”這個(gè)問(wèn)題的一部分組合成一個(gè)包含視圖的圖表，其中包括大多數(shù)相關(guān)專(zhuān)家的意見(jiàn)：

我們稍后會(huì)詳細(xì)討論主要的陣營(yíng)，但首先 - 你的觀點(diǎn)是什么？實(shí)際上我知道你的觀點(diǎn)是什么，因?yàn)樵谖议_(kāi)始研究這個(gè)話(huà)題之前，這也是我的觀點(diǎn)。大多數(shù)人沒(méi)有真正考慮這個(gè)主題的一些原因：

正如第1部分所述，電影通過(guò)呈現(xiàn)不切實(shí)際的人工智能場(chǎng)景讓我們覺(jué)得人工智能在一般情況下并不值得認(rèn)真對(duì)待，從而混淆了事情。如果疾病控制中心在我們的未來(lái)發(fā)布了一個(gè)關(guān)于吸血鬼的嚴(yán)重警告，James Barrat會(huì)將情況與我們的反應(yīng)進(jìn)行比較。

由于某種所謂的認(rèn)知偏見(jiàn)，我們很難相信某些東西是真實(shí)的，直到我們看到證據(jù)。我敢肯定，計(jì)算機(jī)科學(xué)家在1988年經(jīng)常談?wù)摶ヂ?lián)網(wǎng)可能有多大的影響，但人們可能并不會(huì)認(rèn)為它能改變生活，直到它真的改變了他們的生活。這在一定程度上是因?yàn)?988年的計(jì)算機(jī)還不能做這樣的事情，所以人們會(huì)看著他們的電腦并想：“真的嗎？這會(huì)改變我的一生么“他們的想象力僅限于他們的個(gè)人經(jīng)歷告訴他們計(jì)算機(jī)是什么，這很難生動(dòng)的描繪出計(jì)算機(jī)可能成為什么樣子。人工智能也正在發(fā)生同樣的事情。我們聽(tīng)到的是這會(huì)是一個(gè)大事，但因?yàn)檫€沒(méi)有發(fā)生的，而且由于我們當(dāng)前世界中使用的相對(duì)來(lái)說(shuō)比較無(wú)用的人工智能的經(jīng)驗(yàn)，我們也很難真正相信這將極大地改變我們的生活。這些偏見(jiàn)是專(zhuān)家們所面臨的，因?yàn)樗麄儻偪竦卦噲D通過(guò)集體的表現(xiàn)來(lái)引起我們的注意。

即使我們確實(shí)相信它 - 今天有多少次你想過(guò)你將花費(fèi)大部分的時(shí)間思考不存在的事？不是很多，對(duì)嗎？即使它比你今天所做的任何事情都要強(qiáng)烈得多嗎？這是因?yàn)槲覀兊拇竽X通常專(zhuān)注于日常生活中的小事，無(wú)論我們身處的長(zhǎng)期環(huán)境多么的瘋狂。這就是我們的思考方式。

這兩篇文章的目的之一就是讓你走出我喜歡"思考其他事物"的想法并進(jìn)入一個(gè)專(zhuān)家營(yíng)地，即使你只是站在上面廣場(chǎng)上兩條完全不確定的虛線(xiàn)的交叉點(diǎn)上。

在我的研究過(guò)程中，我遇到了幾十種不同的觀點(diǎn)，但我很快注意到大多數(shù)人的意見(jiàn)都屬于我所稱(chēng)為的主流觀點(diǎn)，特別是超過(guò)四分之三的專(zhuān)家分成了主流觀點(diǎn)中的兩個(gè)子陣營(yíng)：

我們要深入研究這兩個(gè)陣營(yíng)。我們將在系列文章的中篇和下篇中放出針對(duì)未來(lái)的兩個(gè)陣營(yíng)，歡迎大家繼續(xù)查看。