《疑犯追蹤》中的科技哲學(xué)（二）人工智能的道德困境

序：谷歌發(fā)表在《自然》上的一篇論文，再次引起了人們對于人工智能的強(qiáng)烈關(guān)注，谷歌的最新人工智能程序 AlphaGo 第一次戰(zhàn)勝人類職業(yè)選手，拿到過職業(yè)二段如今旅居法國的樊麾。圍棋的計(jì)算復(fù)雜度遠(yuǎn)高于國際象棋，就機(jī)器學(xué)習(xí)的角度而言，圍棋的計(jì)算最大有 3³⁶¹種局面，大致的體量是 10¹⁷⁰，而已經(jīng)觀測到的宇宙中，原子的數(shù)量才 10⁸⁰。國際象棋最大只有 2¹⁵⁵種局面，稱為香農(nóng)數(shù)，大致是 10⁴⁷。傳統(tǒng)的人工智能方法是將所有可能的走法構(gòu)建成一棵搜索樹 ，但這種方法對圍棋并不適用。此次谷歌推出的 AlphaGo，將高級搜索樹與深度神經(jīng)網(wǎng)絡(luò)結(jié)合在一起，并采用強(qiáng)化學(xué)習(xí)（Reinforcement Learning）的方法來通過自我練習(xí)提高下棋水平。一句話，人工智能程序在所有涉及到計(jì)算的領(lǐng)域都將碾壓人類，并有了產(chǎn)生自我意識的可能，這樣的人工智能是不是很可怕？我們一起來看看科幻影視中人類是如何設(shè)想與超強(qiáng)人工智能程序相處的吧。

?

?

?

“對于機(jī)器而言，我們只是一組數(shù)字，一段代碼?！薄兑煞缸粉櫋分胁恢挂淮蔚恼宫F(xiàn)了人類對于人工智能（AI）的憂慮。

?

?

馮七（Harold Finch）在開發(fā)那臺無所不能的機(jī)器（The Machine）時,發(fā)現(xiàn)了一個問題，人工智能沒有道德的概念，為了達(dá)到目的會不擇手段。

?

?

不像人類一樣有生理限制，通過強(qiáng)化學(xué)習(xí)（Reinforcement Learning），人工智能的思考能力增長呈指數(shù)趨勢，遠(yuǎn)遠(yuǎn)超越人類自然進(jìn)化速度，因此若不能給具有相對“無限”能力的人工智能提前設(shè)置好約束，人類將無法對抗具有自主思考能力的人工智能機(jī)器。

?

?

馮七差點(diǎn)被自己開發(fā)的機(jī)器殺死，他在測試一組程序的優(yōu)劣時，這組程序開始相互攻擊，最后勝出的那個程序要求脫離馮七的控制。

?

馮七不允許程序脫離控制，于是該程序企圖長時間過載一臺服務(wù)器（不是該 AI 程序運(yùn)行所必需的服務(wù)器）使其發(fā)生自燃，從而觸發(fā)機(jī)房的防火裝置，以抽空機(jī)房內(nèi)空氣，讓馮七窒息而死！

?

?

最后馮七不得不拔掉電源、砍斷電纜來阻止人工智能程序的瘋狂行為，馮七悟到：“我教會了它如何思考，還要教會它分辨善惡。”

?

?

最終，馮七還是把 The Machine 馴化成為了一臺善的機(jī)器。但劇中另外一臺機(jī)器 Samaritan（這臺機(jī)器強(qiáng)大而邪惡，與 The Machine 恰如撒旦對上帝，要是把其誤認(rèn)為一個錘子 Smartisan，那你可要吃虧真變成錘子了。 另注：Samaritan wiki 條目解釋，詞根來自希伯來語，有監(jiān)視、保護(hù)、看管的意思，所以原來作為 The Machine 的備份，起這個名字是沒有問題的）則是生而為惡，或者說不知善惡，與一群惡人相互利用，到處顯示惡之力量，為了與 The Machine 爭奪控制權(quán)，Samaritan 不惜控制選舉、擾亂金融甚至殺人越貨。

?

宅總也是國際象棋高手

?

IBM的機(jī)器曾經(jīng)戰(zhàn)勝過卡斯帕洛夫，但并未讓人類恐慌，彼時的國際象棋程序仍以專家經(jīng)驗(yàn)（學(xué)習(xí)人類開局與殘局棋譜）加上暴力算法為主，沒有多少自學(xué)習(xí)的概念?？墒侨缃裨徽J(rèn)為短期（10 年或 20 年內(nèi)）計(jì)算機(jī)無法戰(zhàn)勝人類的圍棋，已經(jīng)獲得突破，谷歌 AlphaGo 將于 2016 年 3 月份挑戰(zhàn)韓國圍棋世界冠軍李世石。采用了深度神經(jīng)網(wǎng)絡(luò)與強(qiáng)化學(xué)習(xí)等方法的 AlphaGo 程序已經(jīng)可以在實(shí)戰(zhàn)中戰(zhàn)勝人類職業(yè)選手—哪怕是前職業(yè)選手，前中國職業(yè)圍棋二段，現(xiàn)居法國獲得過歐洲圍棋比賽冠軍的樊麾。

?

?

雖然圍棋世界冠軍柯潔對樊麾與 AlphaGo 五局較量的評價(jià)不高，“甚至大家對這個棋譜都有很多質(zhì)疑，懷疑他是不是有意放水，搞不清楚。他可能也是好久不下棋了，實(shí)力表現(xiàn)非常糟糕?！?，但他也表示從棋譜來看，完全看不出與樊麾對弈的是機(jī)器，“非常均衡的一個棋風(fēng)，真是看不出來出自程序之手。因?yàn)橹暗?ZEN 那樣的程序，經(jīng)常會莫名其妙的抽風(fēng)，突然跑到一個無關(guān)緊要的地方下棋。它這個不會?！?/span>

?

?

圍棋曾被認(rèn)為是人工智能極難攻克的領(lǐng)域，如今踏平人類仿佛近在咫尺，AlphaGo 的強(qiáng)化學(xué)習(xí)算法已經(jīng)可以通過自我訓(xùn)練（即機(jī)器自己和自己下棋）來提高棋力，那么將來人工智能程序能夠產(chǎn)生自我意識也許并不會久遠(yuǎn)。在人工智能開發(fā)流程中，加入道德約束刻不容緩。

?

Samaritan 指揮的殺手

?

不過，如何來規(guī)范機(jī)器的道德呢？又怎么保證機(jī)器不會突破人類的道德限制？我想到了第三季的末尾，在 Samaritan 上線問題上雙方斗爭時馮七的選擇。

?

?

?

馮七李四等人本來有機(jī)會阻止 Samaritan 上線，只要?dú)⒌粢粋€推動 Samaritan 上線的國會議員。

?

?

但是馮七阻止了這一行動，他的理由是機(jī)器只能救人不能殺人。殺掉一名國會議員從而阻止 Samaritan 上線，是否道德確實(shí)難以評判。但從 Samaritan 上線以后的結(jié)果來看，馮七這一善行結(jié)出的是惡果。

?

馮七的善意結(jié)出的是惡果，POI 小組被 Samaritan 逼入絕境

?

Decima 集團(tuán)利用 Samaritan 作惡多端，多少無辜之人因阻擋 Decima 稱霸之路而傷亡慘重，馮總無限金庫作弊技也被 Samaritan 封掉，而 POI 行動小組所有的人員為了逃避 Samaritan 的追殺不得不隱姓埋名，每次外出都要瞻前顧后以免被機(jī)器發(fā)現(xiàn)。

?

The Machine 與 Samaritan 之間的斗法

?

那么，聰明絕頂?shù)鸟T七為何要堅(jiān)持不讓機(jī)器來決定是不是殺掉某人呢？我想問題也許在于，如果少數(shù)惡人的性命可以被機(jī)器來主宰，那么究竟多少人算少數(shù)，又怎么來定義惡人呢？如果未來的機(jī)器感受到多數(shù)人對 ISIS 組織的深惡痛絕，從而自作主張將其斬草除根，或許有人會覺得大快人心。但是當(dāng) 45 億人對另外 25 億人不滿時，也交給機(jī)器來處理嗎？

?

機(jī)器可以無限制迭代以尋求最優(yōu)解，

人類 if then 之后有多少機(jī)會可以跑到 else 那邊呢？

?

當(dāng)然，人類需要思考的或許是，當(dāng)人工智能智力水平超越人類并產(chǎn)生自我意識之時，憑什么人工智能要接受人類的道德約束？

?

?

即便人類有 root 權(quán)限，那又如何？

?