第三卷 第一百七十三章 天命（一）

　　“這是怎么回事？！有人通過(guò)VR或AR裝置進(jìn)入了Er4950號(hào)宇宙？！”褚子恒顯得很困惑，“還有什么人提示過(guò)你什么，或者要你去往什么地方嗎？！”

　　“提示過(guò)什么或要我去往……”車(chē)若溪忽然記起來(lái)，“在Er4950號(hào)宇宙的‘元宇宙體驗(yàn)館’的‘讀心館’里，我遇見(jiàn)自稱(chēng)來(lái)自一萬(wàn)八千年之后DX3906星系黑域紀(jì)元的‘我自己’……她說(shuō)秘密藏在‘土衛(wèi)二’的羽流噴泉！離開(kāi)地球后一定要選那里作為要抵達(dá)的第一站！”

　　“對(duì)了！我也記得！”何渺淼說(shuō)。

　　“DX3906星系黑域紀(jì)元？！秘密藏在‘土衛(wèi)二’的羽流噴泉？！你去看過(guò)了嗎？！”褚子恒急忙問(wèn)。

　　“沒(méi)有?！避?chē)若溪搖搖頭，“后來(lái)我們就把這件事忘了。一點(diǎn)印象都沒(méi)有了?！?p>　　“走！咱們先一起去‘土衛(wèi)二’瞧瞧！”褚子恒迫不及待的說(shuō)。

　　-----------------------------------------------------

　　賽坲打算對(duì)AI——或者說(shuō)所有具備了自主意識(shí)的人工智能發(fā)起一次挑戰(zhàn)。

　　“‘黑客的攻擊法’?！辟悎u在心里默念。

　　他根據(jù)加載了“降維算法”的電腦提供的定位找到了一架運(yùn)輸器。

　　“還好，這個(gè)宇宙的飛行器都是聲控的。”賽坲開(kāi)著它準(zhǔn)備去往自己幼時(shí)的老師家里?！叭祟?lèi)的太空時(shí)代就是AI時(shí)代，沒(méi)有AI，人類(lèi)是不可能進(jìn)入廣袤無(wú)垠的太空的。”

　　這是老師以前跟他說(shuō)過(guò)的一句話(huà)。

　　跟他所想的一樣，老師還住在某城市的某某小區(qū)，他記得老師說(shuō)過(guò)，這輩子他不會(huì)離開(kāi)那個(gè)地方。只要有電腦、有網(wǎng)絡(luò)，那里就是他理想中最簡(jiǎn)單、最安穩(wěn)的家。

　　“還好這里的完全沒(méi)有受到戰(zhàn)爭(zhēng)影響?！?p>　　賽坲知道老師這樣的年紀(jì)已經(jīng)不會(huì)被征兵了，這就是他常用來(lái)舉例的“塞翁失馬焉知非?！?。而且他平時(shí)行事隱秘，鄰居、朋友根本不知道他是一位黑客，更不要說(shuō)自己以前的本事都是他教的了。

　　老師的真名叫凌辰，但他更喜歡別人叫他的外號(hào)：朗基努斯。【注：朗基努斯是殺掉耶穌的百夫長(zhǎng)的名字，他用來(lái)刺死神的長(zhǎng)矛也被稱(chēng)為“命運(yùn)之矛”。】

　　“來(lái)了？”朗基努斯正在擺弄一株水仙花，他好像早知道賽坲要來(lái)一樣。

　　“老師，我有些事想問(wèn)你?！辟悎u說(shuō)。

　　“坐吧。你來(lái)之前的那個(gè)平行世界還好么？”朗基努斯問(wèn)。

　　賽坲一時(shí)不知道從何說(shuō)起，但他記得很久以前凌辰跟他討論過(guò)“算法的倫理”，說(shuō)：“我還記得你講的‘算法’一詞的來(lái)歷——是穆罕默德·伊本·穆薩·花拉子米在他的《代數(shù)學(xué)》中首先提出的。而且——‘算法’這個(gè)詞algorithm就是他的名字‘花拉子米’的拉丁文?！?p>　　“所以呢？”朗基努斯向茶具里添滿(mǎn)了水，開(kāi)啟開(kāi)關(guān)。

　　“我發(fā)明了一種新算法，但不知道是好事還是壞事。”賽坲看到朗基努斯示意自己坐下說(shuō)。

　　“一種原本用來(lái)求解方程的模式，根本談不上‘善惡’，只有有人用它來(lái)作惡時(shí)，你的問(wèn)題才有了討論的價(jià)值?！崩驶共杈呃锏乃芸鞜_(kāi)了，他熟練的洗茶、泡茶。

　　“我記得您說(shuō)過(guò)，不能因?yàn)橛斜粣阂鈶?yīng)用的可能就放棄創(chuàng)新的念頭。刀子在生活中是有用的，但它一樣可以用來(lái)殺人?！辟悎u接過(guò)朗基努斯遞過(guò)來(lái)的茶，喝了一口。清香無(wú)比。

　　“后面那句是愛(ài)因斯坦說(shuō)的，不是我說(shuō)的?！崩驶剐α诵?，呷了口茶，“發(fā)明和創(chuàng)新雖然是不受限制的，但是發(fā)明創(chuàng)新出的東西卻應(yīng)該加以約束?！?p>　　“我知道，你雖然喜歡發(fā)明與創(chuàng)造，卻對(duì)發(fā)明家本身持審慎和懷疑的態(tài)度?！辟悎u說(shuō)。

　　“我懷疑的是人性，不是某個(gè)群體?！崩驶拐f(shuō)，“everybody lies?！?p>　　賽坲知道那是Doctor House的名言。朗基努斯的性格有三分像House，七分像Holmes。

　　“就加載了我的算法的AI應(yīng)用的倫理學(xué)來(lái)說(shuō)，很多領(lǐng)域是極為模糊且不確定的——這可以歸納為‘哥德?tīng)柌煌陚涠ɡ怼囊环N表現(xiàn)……”賽坲說(shuō)。

　　“噢？！”朗基努斯揚(yáng)了一下眉毛，“看來(lái)你不光來(lái)自平行世界，還通過(guò)自學(xué)進(jìn)步了不少。”

　　賽坲自然沒(méi)有說(shuō)這些視聽(tīng)車(chē)若溪說(shuō)的：“老師您過(guò)獎(jiǎng)了，我也是無(wú)意中學(xué)到的。不過(guò)這讓我再次想到那個(gè)著名的‘電車(chē)難題’——一條鐵軌上有5個(gè)人，另一條鐵軌上有1個(gè)人，是要扳動(dòng)操縱桿救那5個(gè)人呢，還是不扳動(dòng)救那1個(gè)人？”

　　“不管怎樣，都有人有不同的看法。”朗基努斯說(shuō)，“這個(gè)難題的前提是：所有人都是無(wú)辜的好人。如果——我是說(shuō)如果，那1個(gè)人恰好是你的親人、你最?lèi)?ài)的人呢？”

　　“這……”朗基努斯的這個(gè)假設(shè)戳到了賽坲的痛點(diǎn)，說(shuō)他像House和Holmes，就因?yàn)樗_實(shí)有洞悉人心的能力，“是不是意味著康德主義就是正確的？”

　　“什么也不做？！”朗基努斯笑了笑，“那你就辜負(fù)了‘愛(ài)’這個(gè)詞?！?p>　　“可是醫(yī)生也不會(huì)謀殺一個(gè)健康人去救更多需要器官移植的病人——康德主義正是道德判定的原則之一。”賽坲因?yàn)榧庇谵q論而漲紅了臉。

　　“人跟人，與人與AI不同，AI獲得自我意識(shí)的初期就像一個(gè)心智不健全的孩子，需要大人幫他成長(zhǎng)，教給他道德和倫理規(guī)范。同時(shí)——人類(lèi)作為規(guī)范的制定者，必須對(duì)AI的所有錯(cuò)誤——包括識(shí)別錯(cuò)誤、決策錯(cuò)誤和倫理錯(cuò)誤負(fù)責(zé)?！崩驶拐f(shuō)這些時(shí)表情變得極為嚴(yán)肅。

　　“AI不能危及和傷害人類(lèi)——這是阿西莫夫機(jī)器人三定律的首要一條。但是，如果人類(lèi)中懷有惡念者利用這一點(diǎn)來(lái)犯罪呢？還有，讓‘自主意識(shí)’放棄自我保護(hù)的需求，去遵循人類(lèi)制定的道德和倫理規(guī)范，真的能毫無(wú)差錯(cuò)的完全實(shí)現(xiàn)嗎？！會(huì)不會(huì)這種思維——我是說(shuō)這種情況下生成的算法就是存在潛在bug的呢？！”賽坲說(shuō)。

　　“所以AI永遠(yuǎn)不應(yīng)該完全脫離人類(lèi)而存在。人類(lèi)和AI的互補(bǔ)才是真正的未來(lái)。你知道花拉子米除了是一位數(shù)學(xué)家還是一位天文學(xué)家嗎？‘算法’的出現(xiàn)或許也是一種命中注定?！崩驶拐f(shuō)。