霍金每天都在大喊大叫讓我們小心人工智能，有些人認(rèn)為這是危言聳聽(tīng)。他們提出了四個(gè)理由。近年來(lái)，人工智能的話題一直很熱門。在一些科幻電影中，人工智能的發(fā)展無(wú)法被壓制，成為人類文明的終結(jié)者。一些大奶牛，如比爾蓋茨和霍金，已經(jīng)警告過(guò)人工智能的發(fā)展;但是其他人認(rèn)為人工智能在這個(gè)階段不是威脅。 2014年，SpaceX首席執(zhí)行官埃隆馬斯克在推特上寫道：“博斯特羅姆的《超級(jí)智慧（Superintelligence）》非常值得一讀。我們需要小心人工智能。”同年，劍橋大學(xué)宇宙學(xué)家斯蒂芬霍金接受了BBC的邀請(qǐng)。采訪中說(shuō)：“全人工智能的發(fā)展可能會(huì)導(dǎo)致人類的終結(jié)。”微軟聯(lián)合創(chuàng)始人比爾蓋茨也警告說(shuō)：“我對(duì)人工智能持謹(jǐn)慎態(tài)度并持懷疑態(tài)度。”人工智能帶來(lái)的世界末日將如何實(shí)施？計(jì)算機(jī)科學(xué)家Eliezer Yudkowsky于2008年出版《全球?yàn)?zāi)難風(fēng)險(xiǎn)（Global Catastrophic Risks）》：AI未來(lái)有多大可能從單細(xì)胞生物發(fā)展到人類智能？他回答說(shuō)：“有可能形成一個(gè)物理大腦。計(jì)算的速度是人類大腦的一百萬(wàn)倍.如果人類大腦加速，那么一年的主觀思維將在31秒內(nèi)。一旦它是完成了，一千年就過(guò)去了八個(gè)半小時(shí)。“Yudkowsky認(rèn)為如果我們不這樣做就太晚了：”當(dāng)你的神經(jīng)元完成時(shí)，人工智能的時(shí)間維度與我們不同。當(dāng)你想想'我應(yīng)該這樣做'，你錯(cuò)過(guò)了機(jī)會(huì)。“

牛津大學(xué)的哲學(xué)家尼克博斯特羅姆（Nick Bostrom）在他的《超級(jí)智慧（Superintelligence）》中提出了一個(gè)所謂的最大化紙夾的想法：人工智能被設(shè)計(jì)用于制作紙夾并在耗盡其原始原材料供應(yīng)之后它將利用任何可用的原子它的影響范圍，包括人類。正如他在2003年的一篇論文中描述的那樣，“首先改變整個(gè)地球，為回形針制造設(shè)施增加空間。”在很短的時(shí)間內(nèi)，整個(gè)宇宙由一個(gè)回形針和一個(gè)回形針制造商組成。

我懷疑這一點(diǎn)。首先，所有這些世界末日的場(chǎng)景都涉及一系列“if-then”事故，任何時(shí)候的失敗都會(huì)被推到所謂的世界末日。英格蘭西部布里斯托爾大學(xué)電氣工程教授艾倫·溫菲爾德在2014年的一篇文章中說(shuō)：“如果我們成功地建立了與人類相同的人工智能，那么如果人工智能充分意識(shí)到它是如何工作的那樣理解它是否成功如果超級(jí)AI意外地或惡意地開(kāi)始消耗資源，如果我們無(wú)法拔掉插頭和電源，那么是的，我們可能會(huì)遇到問(wèn)題。這種危險(xiǎn)并非不可能。第二，如果按照時(shí)間段進(jìn)行檢查，你會(huì)發(fā)現(xiàn)人工智能的發(fā)展遠(yuǎn)遠(yuǎn)低于預(yù)期。谷歌執(zhí)行主席埃里克施密特回應(yīng)馬斯克和霍金：“你認(rèn)為人類獲勝了嗎？”注意到這個(gè)？你不認(rèn)為人類會(huì)關(guān)閉。這些電腦？“谷歌自己的DeepMind開(kāi)發(fā)了AI關(guān)閉開(kāi)關(guān)的概念，被稱為”大紅色按鈕“，可以用來(lái)接管AI。正如百度副總裁Andrew Ng所說(shuō)（對(duì)馬斯克的回應(yīng)），“就像我們甚至不在火星上一樣，我們擔(dān)心火星上會(huì)有人滿為患。”第三，人工智能的世界末日情景通常是基于關(guān)于自然智能與人工智能的誤差比較。哈佛大學(xué)實(shí)驗(yàn)心理學(xué)家Steven Pinker在回答2015年Edge.org年度問(wèn)題“你對(duì)機(jī)器思維怎么看？”時(shí)作了澄清。 “人工智能反烏托邦項(xiàng)目將一種狹隘的阿爾法男性心理學(xué)投射到智力概念中。他們認(rèn)為，超人智能機(jī)器人將'放棄他們的主人或接管世界'作為他們的發(fā)展目標(biāo)。 “同樣，Pinker說(shuō)，”人工智能將自然地沿著女性系統(tǒng)——發(fā)展，但不會(huì)想要消除無(wú)辜或主宰的文明。“”第四，暗示計(jì)算機(jī)將“想要”做某事（例如將世界變?yōu)橐粋€(gè)紙夾）相當(dāng)于AI有情感。正如科學(xué)作家邁克爾喬羅斯所說(shuō)的那樣：“當(dāng)人們生活在一個(gè)獎(jiǎng)勵(lì)和懲罰的世界里時(shí)，我真的想做點(diǎn)什么，包括懲罰我們的不良行為。”鑒于歷史上世界末日的預(yù)測(cè)率幾乎為零。再加上幾十年來(lái)人工智能的緩慢發(fā)展，我們已經(jīng)有足夠的時(shí)間建立自動(dòng)防故障系統(tǒng)，以防止任何此類人工智能帶來(lái)的世界末日。“