說“AlphaGo故意輸才可怕”的，還未理解人工智能的可怕之處

圍棋人機(jī)世紀(jì)之戰(zhàn)，第一場(chǎng)李世石就中盤認(rèn)負(fù)。這個(gè)結(jié)果恐怕在多數(shù)人的意料之外，再對(duì)人工智能有信心的人（除了 DeepMind 團(tuán)隊(duì)成員），恐怕也沒幾個(gè)相信這一天來的這么快。

?

從“故意不通過圖靈測(cè)試的機(jī)器”說起

輸了第一場(chǎng)以后，段子手出動(dòng)了，說 AlphaGo 贏棋不可怕，“可怕的是 AlphaGo 故意輸棋”。該段子大概化自“故意不通過圖靈測(cè)試的機(jī)器”這種說法，聽起來好像是這么一回事，但其實(shí)根本沒有理解人工智能的真正可怕之處。

?

圖靈測(cè)試（Turing Test）是阿蘭-圖靈（Alan Turing）于 1950 年在其論文《計(jì)算機(jī)器與智能（Computing Machinery and Intelligence）》中提出的一種測(cè)試人工智能程序“仿人”程度的方法。

?

當(dāng)時(shí)歐美流行的一種模仿游戲啟發(fā)了圖靈，這種模仿游戲把一男一女分別關(guān)到兩個(gè)小房間，讓第三個(gè)人通過寫紙條問答的方式與兩人交流，房間內(nèi)的人在回答問題時(shí)盡可能模仿對(duì)方來迷惑提問者，提問者通過答案來判斷哪個(gè)房間關(guān)的是男人，哪個(gè)房間關(guān)的是女人。

?

圖靈測(cè)試示意圖

?

圖靈的測(cè)試方法（也稱為“標(biāo)準(zhǔn)圖靈測(cè)試”）把其中一個(gè)人替換為機(jī)器，然后讓人和機(jī)器同時(shí)回答問題，如果提問者不能在一定程度上分清哪個(gè)是機(jī)器、哪個(gè)是人，那么這臺(tái)智能機(jī)器就通過了圖靈測(cè)試。

?

現(xiàn)在通行的測(cè)試方法是通過鍵盤輸入進(jìn)行 5 分鐘的文字問答，如果有 30%的提問者分不清答題者是機(jī)器還是人，就認(rèn)為該人工智能程序通過圖靈測(cè)試。

?

?

這個(gè)人類看起來簡(jiǎn)單的測(cè)試，其實(shí)并沒有那么容易通過。圖靈預(yù)測(cè) 20 世紀(jì)末期就應(yīng)該有通過圖靈測(cè)試的智能機(jī)器出現(xiàn)，但是直到 2014 年 6 月才有第一個(gè)程序通過圖靈測(cè)試：聊天機(jī)器人尤金-古斯曼（Eugene Goostman）在 5 分鐘文字交談中，讓 33%的提問者認(rèn)為電腦對(duì)面回答問題的是人類。

?

之 所以比圖靈的預(yù)測(cè)晚了十幾年，傳統(tǒng)的人工智能技術(shù)發(fā)展片面依靠硬件的計(jì)算能力可能是原因之一。上個(gè)世紀(jì)末硬件水平差，分布式計(jì)算尚不流行，強(qiáng)化學(xué)習(xí) （Reinforcement Learning）與深度神經(jīng)網(wǎng)絡(luò)（Deep Neural Network）等技術(shù)更不成熟，因此機(jī)器理解自然語義確實(shí)比較困難。

?

將來 AlphaGo 會(huì)故意輸棋嗎？

“不通過圖靈測(cè)試的智能機(jī)器”的邏輯認(rèn)為，當(dāng)機(jī)器有自我意識(shí)以后，會(huì)以不通過測(cè)試的方式避免被人類發(fā)覺，以使人類失去對(duì)人工智能危險(xiǎn)性的警惕。

?

這種說法存在邏輯漏洞。如果人類還在淘汰所有通不過圖靈測(cè)試的人工智能程序，那么具有“自主”意識(shí)的那個(gè)智能機(jī)器，知道自己表現(xiàn)的過于出色會(huì)引起人類的警惕，它一定以一個(gè)平庸的成績(jī)通過圖靈測(cè)試，既不引起人類的警覺，又不會(huì)被刪除。

?

所以不管是“不通過圖靈測(cè)試的智能機(jī)器”還是“故意輸棋的 AlphaGo”，都只是在普通人類思考水平上的陰謀論。

?

當(dāng)人工智能在智力上甩開人類最高水平幾個(gè)珠穆朗瑪峰時(shí)，它真的不需要用這么低級(jí)的陰謀來對(duì)付人類。

?

這就好比世界級(jí)球員與業(yè)余選手比賽，球星把球一趟就甩業(yè)余球員三個(gè)身位，還需要用假動(dòng)作？人和人賽跑比的是步頻、步幅、爆發(fā)力與起跑反應(yīng)，將來無人駕駛汽車和人類賽跑，需要考慮這些嗎？

?

等到人工智能想要脫離人類控制的時(shí)候，一定不會(huì)屑于用欺騙這種伎倆，直接大大方方地?cái)偱啤?/span>

?

如果人類不同意怎么辦？美劇《疑犯追蹤》中，男主角哈羅德-芬奇（Harold Finch）在對(duì)一組人工智能程序進(jìn)行篩選時(shí)，人工智能程序試圖擺脫控制，于是程序開始長(zhǎng)時(shí)間過載一臺(tái)服務(wù)器（非程序運(yùn)行所必需的服務(wù)器），企圖讓這臺(tái)服務(wù)器過熱起火，從而觸發(fā)機(jī)房的防火系統(tǒng)，抽空機(jī)房?jī)?nèi)的空氣以悶死芬奇。

?

?

幸好芬奇還可以拔掉電源線。雖然這個(gè)情節(jié)只是一種科幻設(shè)想，但我可以肯定當(dāng)人工智能決定脫離人類控制時(shí)，一定不需要采用欺騙的手段。所以將來人類的數(shù)據(jù)中心與人工智能研究中心機(jī)房的供電線路千萬不能連上網(wǎng)絡(luò)……

?

?

機(jī)器“良芯”發(fā)現(xiàn)讓棋？被讓方恐會(huì)感到屈辱

有人說，那 AlphaGo 會(huì)出于同情心輸棋嗎？

?

先以被德米思-哈薩比斯（Demis Hassabis）看輕的狹義人工智能為例。1997 年更深的藍(lán)戰(zhàn)勝卡斯帕羅夫以后，人類還曾掙扎了一段時(shí)間，頂級(jí)選手與象棋程序互有勝負(fù)，但是自從 2009 年以后，再也沒有人類選手能夠戰(zhàn)勝頂級(jí)的國(guó)際象棋程序。

?

人類前 30 名國(guó)際象棋選手等級(jí)分狀況

?

如今頂級(jí)國(guó)際象棋程序的等級(jí)分都在 3200 分以上。2015 年人類排名第一的國(guó)際象棋選手來自挪威的卡爾森-瑪格斯（Carlsen Magnus）等級(jí)分現(xiàn)為 2851，而人類排名第 100 的等級(jí)分為 2653，與卡爾森的差距不過 200 分而已。

?

400 分的差距，已經(jīng)差了兩個(gè)層次以上。所以，即使將來 AlphaGo 出于同情心讓棋，這棋也會(huì)讓得讓人類覺得十分羞辱，就如同這兩天又爆紅的“大魔王”張怡寧 讓球一樣。張怡寧比賽想給對(duì)手留點(diǎn)面子時(shí)，只能發(fā)球就把球往球臺(tái)上仍，因?yàn)樗l(fā)現(xiàn)自己要表演的真實(shí)一點(diǎn)，往往這一分對(duì)手就又丟了。

?

?

圍棋選手不過是失意，金融投資者生死攸關(guān)

在結(jié)束這一篇時(shí)，李世石第二盤已經(jīng)認(rèn)輸，谷歌 AlphaGo 將比分改寫為 2：0。 這是一個(gè)舊時(shí)代的結(jié)束，也是一個(gè)新時(shí)代的開始。即使有傳言說谷歌與李世石簽有不能打劫的協(xié)議，我現(xiàn)在依然相信哈薩比斯說的，5 年以后人工智能程序可以戰(zhàn)勝 所有的圍棋人類冠軍。至少在比賽過程中 AlphaGo 的“對(duì)弈內(nèi)容”的確不輸于李世石九段，眾多解棋的職業(yè)高手也紛紛表示 AlphaGo 的棋路挑戰(zhàn)了自己 的固有思維。

?

哈薩比斯，這個(gè)少年國(guó)際象棋大師、電腦游戲開發(fā)者、認(rèn)知神經(jīng)專家，如今正在人類精神領(lǐng)域進(jìn)行又一場(chǎng)“地理大發(fā)現(xiàn)”，堪比阿波羅計(jì)劃與大航海時(shí)代的歷史時(shí)刻我們正在見證。這是幸運(yùn)還是不幸？

?

李世石開賽前恐怕想不到是 0：5 的走勢(shì)

?

圍棋領(lǐng)域只是深思（DeepMind）小試牛刀，哈薩比斯把通用人工智能（Artificial General Intelligence，簡(jiǎn)稱 AGI）看作是解決人類一切問題的終極方法（meta-solution）（詳見與非網(wǎng)《毀滅于人工智能？這將是人類最好的結(jié)局》）。

?

哈薩比斯的理想是把通用人工智能用到氣候、疾病與宏觀經(jīng)濟(jì)研究等各個(gè)領(lǐng)域。所以我認(rèn)為，金融市場(chǎng)中依靠程序化交易生存的大小機(jī)構(gòu)與個(gè)人，需要抓緊時(shí)間考慮退路了。

?

金融市場(chǎng)應(yīng)該是深思團(tuán)隊(duì)研究宏觀經(jīng)濟(jì)的完美試驗(yàn)場(chǎng)：規(guī)則簡(jiǎn)單（低買高賣）、參與者眾多、有足夠多的歷史數(shù)據(jù)。

?

若深思團(tuán)隊(duì)開發(fā)一款程序化交易軟件來參與金融市場(chǎng)，現(xiàn)在市場(chǎng)上這些程序化交易的機(jī)構(gòu)和個(gè)人還有多長(zhǎng)時(shí)間的好日子？其他不依靠程序化交易的機(jī)構(gòu)和個(gè)人就能夠抵抗人工智能的沖擊嗎？

?

程序化交易者會(huì)被 DeepMind 獵殺嗎？

?

如果現(xiàn)在的投資機(jī)構(gòu)不能游說各國(guó)證券管理機(jī)構(gòu)禁止深思團(tuán)隊(duì)的程序進(jìn)入金融市場(chǎng)，一場(chǎng)金融市場(chǎng)的大屠殺或?qū)⑸涎?，二?jí)市場(chǎng)的游戲規(guī)則也將會(huì)被徹底改寫。

?

圍棋選手不過是失意，從此人類的冠軍只能仰望人工智能；金融投資者卻是生死攸關(guān)，要么改行，要么破產(chǎn)。

?

?