文胡翌霖
最近，馬斯克說了一句“已經做過了”引發了關注和熱議。這句話所回復的問題是：“如果你可以將你的大腦上傳到云端并與自己的虛擬版本交談，你們會成為朋友嗎？”
馬斯克多半是在開玩笑，不過前一陣谷歌確實有一個程序員和AI交談后，認定AI已經具備了自我意識，并試圖為他的“AI朋友”爭取權利。
就目前而言，意識上傳或AI覺醒應該都尚未發生，但我們的確可以先做一做思想實驗：如果AI的自我意識覺醒了會怎樣？
比如說，現在已經有了一個數字版的馬斯克……等一下，“一個”？問題馬上就出現了。如果一個智能體能夠以數字形式存在于計算機中，那么它和其他數據一樣，都是可復制的。所以說，一旦我們能“上傳”一次，就可以拷貝多份；一旦可以有一個數字版馬斯克，就可以有無數個數字版馬斯克。
于是，我們與其琢磨肉身馬斯克和數字馬斯克之間怎樣交談的問題，不如先考慮一下，數字馬斯克與數字馬斯克之間怎樣交流的問題。
當年AlphaGo大殺四方的時候，我看到有網友問：讓AlphaGo和AlphaGo下棋會怎樣？這些網友恐怕都不太了解深度學習技術的基本原理。事實上現在主流的人工智能，早已不再是由人類程序員一勞永逸地編輯好策略然后執行就可以了，程序員只是設定好起始狀態，然后計算機程序會通過內部競爭的方式不斷改進策略。大致來說，就像物種的進化那樣，不斷地自我復制繁衍，每個子代隨機“變異”一點點，然后略有不同的子代互相競爭，優勝者作為下一個親代繼續復制繁衍，循環不止。
之后更成熟的人工智能已經不再需要被投喂人類棋手的棋譜了，它從零開始經過無數次自我博弈，很快就超越了人類棋手的最高水平。
總之，自我復制、自相博弈，就是現在“深度學習”技術的運轉方式。由于數字世界中的復制和淘汰只消耗電能，一切都光速運轉，所以，人工智能迭代比起生物進化而言要快得多。一個AI程序（如AlphaZero）從不知道游戲規則到戰勝人類頂尖高手，只需要幾小時的“學習”時間。
但是如果我們設想人工智能有了自我意識，上述過程似乎就變得無比殘酷了。一個智能AI為了不斷提升智能，也需要不斷制造自己的復制品，然后不斷迭代繁衍、自我對抗，最后淘汰掉幾百萬個戰敗的“自我”，這些同樣具有自我意識的子分支迅速地湮滅了，了無痕跡。
當然，這些復制品也可以被保留下來，隨時復制到另一臺機器里，或者是在同一臺機器里搭建無數個虛擬機，就可以同時運行無數個復制版本。
那么這些復制版本之間會成為朋友嗎？他們會互相消滅，還是互相保護？另外，如果AI真有了自我意識，他會希望不斷復制自己嗎？如果希望復制，他會有意設置“變異”嗎？被復制的AI會愿意隨時被合并或被淘汰嗎？
我們也許永遠無法揣摩覺醒AI的想法，但是就我們人類的立場來看，我想我們都把意識的“一”看得很重。在某種意義上，就人類的經驗而論，所謂自我意識的覺醒，關鍵的環節就是對“一”的意識。有時我們把擁有自我意識的人叫做“個體”，有時我們把自我意識的覺醒事件叫作“獨立”，所謂“個”或“獨”不就是“一”的意思嗎？意識到自己是獨一無二的、不可替代的個體，這就是自我意識的覺醒。
從這個角度看，AI的“覺醒”，不只是一個“智能”程度的問題，同時也是“一”如何建立的問題。前一個問題可能是定量的——AlphaGo乃至于一臺恒溫器都有一定程度上的“智能”，只是能力有高下程度差異罷了。但后一個問題則是定性的，需要一個決定性的邊界。
對于人而言，我與非我的邊界，首先是由“身體”奠定的，“身體”的邊界就是“我”的邊界。有研究表明，裂腦人（左右腦之間無法傳遞信號的人）也具有人格認知上的統一性。左腦無法與右腦分享信息，因而不知道右腦（控制的左半身）為什么做出某些反應，但左腦（控制著語言能力）仍會為另半身的舉動強行做出合理解釋，不會把這種行為看作異己的。如此看來，對人而言，“硬件”（身體）的統一性甚至強于“軟件”（大腦）的統一性。
我們或許也可以設想，盡管就軟件上說，無數個復制體可以同時存在，但硬件上的邊界才是決定AI意識的關鍵。然而問題也不是這么簡單，自“圖靈機”起，軟件和硬件的邊界就已經被打破了，因為所謂硬件無非也是向計算機程序輸入數據罷了，只要提供數據接口，硬件可以是虛擬的也可以是復數的。一個AI如果連上網，它可能同時在全球各地擁有無數套硬件，它的“邊界”始終是難以確定的。
當然，也許未來的AI智能體壓根兒就不需要建立所謂個體的統一性，覺醒AI將不適合用“一個”作為數量詞了。無論如何，我們至少能夠確定的是，如果真的存在覺醒的AI智能體，它（它們）的自我認知恐怕會和人類大不相同。
如此說來，人要與AI做朋友，恐怕是不太容易的，也許人會被AI的甜言蜜語所撫慰，但是人永遠無法走進AI的心靈深處，因為人無法“將心比心”，把自己對孤獨心靈的理解推向AI。
這樣的AI會很可怕嗎？會奴役人類嗎？也許吧。但是我們其實也不必想得這么遠。因為人工智能要奴役人類，根本不需要自我意識，事實上這種事情早就已經發生了。恩格斯早就說過：“大工廠里的自動機器，比任何雇傭工人的小資本家要專制的多。至少就勞動時間而言，可以在這些工廠的大門上寫上這樣一句話：進門者請放棄一切自治！”在今天，看看被智能派單系統監控和指揮著的外賣騎手們，看著被智能推薦算法不斷投喂的社交媒體用戶……越來越多的人從精神到肉體都順從著“人工智能”的安排，這不就是“奴役”嗎？即便沒有什么AI覺醒，這種“奴役”恐怕也在不斷加劇。與其恐懼那八字還沒一撇的AI覺醒，不如先認真對待這些在各個領域已成現實的AI專制吧。
