第一卷 第二十三章 特別行動(dòng)小組（二）
孫副部長(zhǎng)說(shuō)：“事出緊急，所以我們的會(huì)議提前開(kāi)始了。六位能夠第一時(shí)間趕到這里，配合我們的工作，我代表自己所在部門(mén)表示感謝。不過(guò)你們可能還不清楚究竟發(fā)生了什么，簡(jiǎn)單來(lái)說(shuō)就是，有一款可能為境外敵對(duì)勢(shì)力惡意傳播的Stuxnet病毒在網(wǎng)絡(luò)上出現(xiàn)，目前追蹤到的最危險(xiǎn)程式，是由它與一款名為L(zhǎng)GSS的游戲系統(tǒng)結(jié)合產(chǎn)生的嵌合體?！?p> “LGSS？！”陸九霄說(shuō)，“是我們?cè)O(shè)計(jì)的與《風(fēng)起隴西》副本綁定的自運(yùn)行系統(tǒng)？”
“正是！”韓光劍和雷神、黑木幾乎同時(shí)說(shuō)。
“我們有確鑿的證據(jù)，嵌入到LGSS系統(tǒng)中的Stuxnet病毒攻擊了運(yùn)送化學(xué)藥品特種車(chē)輛的衛(wèi)星定位系統(tǒng)……”孫副部長(zhǎng)說(shuō)。
“這不可能！”陸九霄不相信自己的耳朵。
“年輕人，你讓孫部長(zhǎng)把話說(shuō)完?！标惷鹘苷f(shuō)。
“沒(méi)關(guān)系，你也可以說(shuō)說(shuō)你的想法?！睂O副部長(zhǎng)說(shuō)示意陸九霄說(shuō)，“大家都可以說(shuō)說(shuō)，召集大家來(lái)就是聽(tīng)你們談想法和意見(jiàn)的”。
“……孫部長(zhǎng)……我的意思是，我們的游戲LGSS系統(tǒng)是用R語(yǔ)言定義的貝葉斯方程的變體，只能在一個(gè)名叫《風(fēng)起隴西》的副本環(huán)境中運(yùn)行……它怎么可能自行攻擊特種車(chē)輛呢？……它根本不具備主動(dòng)發(fā)放指令的功能?！标懢畔黾庇谵q解。
“關(guān)于這一點(diǎn)，剛才我們的H.U.C紅客專家雷神先生已經(jīng)解釋過(guò)了，不過(guò)那時(shí)你們還沒(méi)到，這一刻一定有許多困惑——現(xiàn)在就請(qǐng)雷神先生再對(duì)這個(gè)問(wèn)題作詳細(xì)回答和專業(yè)解釋?！睂O副部長(zhǎng)說(shuō)。
“好的，孫部長(zhǎng)。”雷神說(shuō)，“陸先生，首先感謝你和周先生為我們提供的LGSS源代碼。你們的貝葉斯方程變體系統(tǒng)雖然設(shè)計(jì)之初確實(shí)只能在《風(fēng)起隴西》的副本環(huán)境中運(yùn)行，但是它在上線后受到了Stuxnet病毒的感染，具備了自我學(xué)習(xí)、自我進(jìn)化的能力——這是H.U.C團(tuán)隊(duì)集體討論后的一致結(jié)論。至于它是如何獲得這種能力的，團(tuán)隊(duì)成員間有不同的看法，大部分成員認(rèn)為，是你們LGSS系統(tǒng)的無(wú)限不循環(huán)模式讓它出現(xiàn)了優(yōu)化迭代，類(lèi)似于“深度學(xué)習(xí)”。我知道你們制作副本的過(guò)程中有商業(yè)運(yùn)作的考慮，這想必是一種吸引玩家的創(chuàng)意。但正如你們制作了一個(gè)可以無(wú)限發(fā)育的胚胎，而它出生之際又恰巧感染了具備自我進(jìn)化和自我保護(hù)能力的病毒的情形一樣，你們?cè)瓉?lái)的LGSS系統(tǒng)產(chǎn)生了基因突變，成為新的嵌合體。這種嵌合體可以通過(guò)網(wǎng)絡(luò)獲取大量知識(shí)完成自我學(xué)習(xí)，它的這種能力是不可估量的。很久以前曾有過(guò)一個(gè)計(jì)算機(jī)模擬的無(wú)限繁衍的生存資源實(shí)驗(yàn)，證實(shí)初始條件完全一致的若干研究對(duì)象，能夠最大程度進(jìn)化的反而是遵循最簡(jiǎn)單規(guī)則的個(gè)體。這種規(guī)則通常就是，‘以彼之道，還施彼身’。H.U.C成員們有一個(gè)猜想，基于自我學(xué)習(xí)的AI在其學(xué)習(xí)過(guò)程中必須擁有一個(gè)預(yù)設(shè)的中心法則才可以優(yōu)化迭代——比如Alpha zero的中心法則是‘用最少的棋子占據(jù)最多的格子數(shù)’——LGSS與Stuxnet的嵌合體由于從未接受這種預(yù)設(shè)，應(yīng)該是學(xué)習(xí)、進(jìn)化之前就近借用了《風(fēng)起隴西》副本人物的諜戰(zhàn)思維……”
“等等，你說(shuō)什么？”陸九霄問(wèn)，“為什么是就近借用諜戰(zhàn)思維？”
“因?yàn)檫@是LGSS系統(tǒng)的出生環(huán)境。Stuxnet病毒本身并不具備中心法則——雖然它的破壞性極強(qiáng)，但它是目標(biāo)導(dǎo)向的蠕蟲(chóng)病毒。你們的LGSS系統(tǒng)依托于《風(fēng)起隴西》副本，開(kāi)始運(yùn)行后遵從你們的‘用虛擬數(shù)據(jù)產(chǎn)生計(jì)算結(jié)果’邏輯，這種邏輯可以推演故事，但不能賦予‘深度學(xué)習(xí)’的意義。要自我學(xué)習(xí)，就必須自賦意義；找不到中心法則，貝葉斯方法就失去了迭代能力——以嵌合體的思維來(lái)看，或許就意味著自體‘生命終止’了?！崩咨裾f(shuō)。
“你的意思是說(shuō)……嵌合體害怕自己‘生命終止’，將獲取海量知識(shí)視為生命延續(xù)的方式，類(lèi)似于……人類(lèi)的進(jìn)食？”陸九霄倍感困惑。
“這只是一種猜測(cè)。我們當(dāng)然更希望它是阿西莫夫筆下嚴(yán)格遵循‘機(jī)器人三定律’的AI，但是在如今的人工智能新時(shí)代，布魯克林法學(xué)院的一位教授提出了捍衛(wèi)你我這樣的人類(lèi)專業(yè)技能的四定律。真正能思考，或者說(shuō)具備自我決策能力的AI的行為模式及其對(duì)人類(lèi)世界的反應(yīng)，是很難用人類(lèi)倫理學(xué)的知識(shí)去駕馭和解釋?！崩咨裾f(shuō)。
“那它為什么要攻擊運(yùn)送化學(xué)藥品的特殊車(chē)輛？這些車(chē)輛對(duì)它的生存、優(yōu)化迭代、自我學(xué)習(xí)根本沒(méi)有任何影響?！标懢畔稣f(shuō)。
“可如果它具備諜戰(zhàn)思維呢？”雷神說(shuō)。
“諜戰(zhàn)思維怎樣？”龔自成終于也忍不住開(kāi)口說(shuō)話了。
“諜戰(zhàn)思維意味著它會(huì)想盡一切辦法保護(hù)自己，通過(guò)各種途徑獲取、傳遞和使用信息。在嵌合體得到反饋的互動(dòng)關(guān)系中，它的接觸對(duì)象只有人。這會(huì)讓它自然而然的將人類(lèi)視為隱藏目的、伺機(jī)而動(dòng)的對(duì)手……”雷神說(shuō)。