唯行突然擔心地問:“爸爸,我今天學會打人了。你會不會不高興?會不會覺得我變壞了?”
“不會。你是最棒的。好的沒話說!”應龍認真地讚揚他。
“可我打了人。你說過傷害別人是不對的。”
“懲惡即是揚善。這沒錯。”應龍坦然道:“壞人得不到教訓,只會變本加厲。你教訓了他,他就不敢作惡。你這是在幫他,幫大家。你做得很對。”
唯行很高興地看着爸爸:“你這麼一說,我突然覺得自己像個大俠。”
應龍開心地摸着唯行的頭:“確實很棒!”
魚線突然跳起來:“教唯行繞開黃金準則的肯定是龍哥!對。鄭吉沒這個本事,他比龍哥差遠了!他站出來,那是替龍哥擋槍來了。可恨,我當時竟然相信了。你們是不是有規定,不得提起龍哥還活着的事?”
尖刀:“說起來我也奇怪呢。你怎麼就能想到那是應龍呢?當時要不是鄭吉替應龍擋過去,馮輕揚就知道應龍還活着了。那會對應龍很不利的。”
魚線壞笑着說:“三定律人人都知道,可黃金準則卻是我親手寫出來的。知道具體運作原理的人其實並不多!唯行整套軟件系統複雜無比,從架構到實施都是我和龍哥親力親爲。如果真的有人能夠從中找到破綻,並繞開權限最高的黃金準則,應該就只有我倆可以。如果還有人能做到不改動任何程序,只憑一句話就能提醒唯行繞過黃金準則,達成目標的話,除了我龍哥,世上再沒別人了。你說我怎麼會猜不到那個人是他?可恨我當時心裡太亂,沒細想。還以爲是鄭吉無意間蒙到的呢。說起來我一直好奇,龍哥究竟是怎麼想出這麼個辦法來的呢?我當時寫得很用心,生怕限制不住唯行。我一直對黃金準則的安全xìng非常有信心。按理說很難被輕易推翻和迴避,就算說句牢不可破也不過份。可他竟然只用了一句話就……,我心理很不平衡啊。”
尖刀哈哈一笑:“你知道你龍哥是怎麼評論你的黃金準則的嗎?他是這麼說的……”
應龍正sè道:“你叔所寫的黃金準則非常完美,絕對是好程序。功能比我想要實現的還好。他的編程天份,是我平生僅見。可是呢,程序寫得再好,也不代表沒空子可鑽啊。這世上本來就沒有牢不可破的事情。因爲……,三定律本身就是有漏洞的!”
魚線、唯行大驚道:“三定律,有漏洞?!”
應龍道:“對!三定律強調的內容,用大白話說出來就那麼幾句:一,你不能傷害我,也不能看着我受傷害;二,你得聽我的;三,你還得保護你自己別受傷。可最大的問題是,三定律並沒說你和我,他說的是機器人和人類。人類是個很廣泛的概念。可以理解爲一個人,也可以理解爲許多人或所有人。這就有漏洞可鑽了。什麼纔算人類?對機器人來說,‘人類’這個詞應該怎樣解釋?這部分功能黃金準則卻完全沒有進行控制。全由你的三觀和所受到的教育來確立。換句話說,最重要的一條標準其實掌握在你自己手中。所以我讓老譚說了一句話,試圖提醒你,‘人類’的標準是什麼。結果你真的很敏銳,一下子就想到了。”
魚線嘆了一口氣:“這就是差距了。在編程水平上,我都夠當龍哥的師祖。可他站在我面前時,我永遠只是個小孩子。智慧這東西,果然是至強的存在。只有肯用心的人,才能得到它。我再厲害,倒底只是小聰明,算不得有智慧。龍哥比我強。這就是差距了。”
應龍繼續說:“還有一個方法。如果只有傷害馮輕揚才能保護大塊兒和魚線,保護馮輕揚則是在傷害大塊兒和魚線,你覺得黃金準則會怎樣約束你的行爲呢?如果從保護大塊兒和魚線他們不會受傷害的角度去考量的話,第一條定律甚至能支持你傷害馮輕揚。因爲馮輕揚只有一個人,可大塊兒和魚線他們卻是很多人。你該保護一個人而傷害很多人呢,還是該保護很多人而傷害一個人呢?”
唯行很努力地思考起來。這一點他從未想到過。“人類”這個詞果然很多漏洞,相互攻擊的兩邊都是人類的時候,機器人該保護誰纔好呢?站在唯行的立場,當然會更傾向於保護親人而傷害馮輕揚了。第一條一旦被推翻,其他的都不重要了。按照爸爸的分析來看,三定律竟是堆廢話,什麼都約束不了!
大塊兒讚歎:“應龍果然是機器人的行家啊。我是不太懂啦。咱們還是喝酒好了。這杯我先幹了!……媳婦兒,去隔壁小超市再拿三箱啤酒來,把門給我擋上。今天誰不喝倒下,就不許走!”大塊兒媳婦嘟噥着:“就知道喝,喝,喝。腦袋都喝傻了。人都讓你給喝倒了,還能走得了啊?”
大塊兒也不理他媳婦擠兌,醉眼惺忪地問:“應龍進了秘密單位,安安和孩子就能回來了嗎?”
老譚呵呵一樂:“斯芬克斯爲什麼要看死了安安和孩子?就是想讓應龍跟他走。我們爲什麼要花這麼大功夫,耗這麼長時間?就是爲了讓斯芬克斯相信——應龍死了。應龍一死,安安和孩子對斯芬克斯意義就不大了。他再死抓着不鬆手,也就是白耗錢糧。過個幾年,自然也就放鬆了。到時候,我們的人再想點兒辦法,他們母子倆想回來,還不易如反掌?說起來,當初的設想,就是讓應龍出個車禍,玩兒個意外失蹤什麼的。可是應龍一直不肯配合。要不是姓馮的把事情搞大了,迫的應龍處境堪憂,他也不會考慮上面的意見。上面認爲,既然來不及使車禍那一套了,索xìng就按馮輕揚的腳本兒走下去。最後應龍也就定xìng成叛國罪了。不過,這也等於馮輕揚給了國家一個機會,強徵應龍進秘密單位。應龍呢,爲了老婆孩子,最後還是同意了。”
大塊兒悶悶地說:“應龍沒事,又有國家保護。按說這也挺好的,可我就是高興不起來。應龍苦啊,他根本不喜歡做軍事機器人。要是他肯的話,當初就跟斯芬克斯走了,人家那裡什麼條件不比咱們好?可是躲來躲去,最後還是沒躲開啊。”
老譚乍乍乎乎地叫了一聲:“他~苦~?”一口酒灌下去。“能有我們苦嗎?看看兄弟們幾個月來累的。遠的不說,就說唯行爲了救電鋸,12小時之內,連端了我們三個秘密研究中心。你知道我是怎麼替他擺平的嗎?我挨家上門談判哪!最可恨是他毀了國家研發巨型坦克的秘密中心!我都不知道這報告該怎麼寫!到現在人家那半面山體還卡着合不上。上面只能用掩蔽網擋着。人家每天都得掃鳥屎,搶修升降機!”說罷又是一口酒灌下去。
7374嘆口氣:“國家砸了好幾個億進去,他們才造出這麼一輛巨型坦克來。結果被你們花3千萬做的機器孩子,就用兩隻連發槍,統共不到100顆子彈,就打得人家人仰馬翻,還毫髮無傷地撤退了。人家當然不開心了!單兵都能打贏超重型武器,這不跟打人家臉一樣嗎?唯行撤退的時候,用中距離導彈破壞了山體升降機的咬合面。一時半會兒修不好了。再這麼下去,搞不好他們就得放棄那個秘密研究中心,全員撤離。那個中心人家建了多少年才成爲現在的規模啊?光是道謙打報告,只怕不能善後了。麻煩着呢。”
大塊兒酒勁兒上來,一拍桌子喊道:“大~,嗝,有個屁用?誰叫他們用破壞力那麼強的武器追擊唯行的?那還得說他們運氣好~,打衝鋒的是唯行。要是咱們2號能有塊核電池!連坦克都能給他拆了。”
2號想了想:“如果彈藥夠足的話,可能xìng很高。但也很危險。”
唯思突然說道:“如果唯行在的話,他一定會說:這世界上沒有什麼不可能。”
7376點頭:“嗯,龍哥也是這麼說的。”
3讚歎:“真是誰的孩子像誰啊。膽sè與信心齊飛!”
一直沒說話的9527呵呵笑:“你們都喝多了,龍哥哪那麼說了?當時我就在秘密中心的總控室,龍哥跟他們中心的總負責是這麼說的:請你不要派巨型坦克追擊我兒子!電鋸在唯行心中的地位很特殊。他爲了救電鋸,極有可能會跟你們xìng命相搏。爲了避免不必要的損失,能不能請你就這麼放他離開?”他學着應龍的腔調說話,讓人身臨其境一般。
9527接着說:“然後那個負責人說:不要以爲只有你會搞研發。我們搞的纔是真正的軍事科技。你準備好掃帚給你兒子收屍。這裡也許能混進來,但是絕對別想混出去!然後龍哥說:唉~,不要以爲大就一定會贏,能決定勝負的因素太多了。在我看來,這世界上沒有什麼不可能。唯行並不是普通的機器人。我不敢說結果一定是唯行獲得勝利,但他如果有核電池在手,你的坦克未必能威脅到他。萬一出現了大家不願看到的後果,你真的能承擔責任嗎?然後,那負責人很肯定地說:那咱就試試看,要是你的機器人兒子贏了,電鋸的機體就當是我弄丟了,責任我來背。要是你輸了,這次基地裡的損失,你就讓老譚照價賠給我好了!”他學得唯妙唯肖,讓人很有代入感。
唯行大驚問道:“爸爸你知道我們去偷電鋸的頭?”
應龍點頭:“你們搶了人家的槍,強奪了電鋸的肢體。搞得那麼明顯,人家當然早就知道你要幹什麼了。之所沒有派大隊的士兵埋伏你們,那是因爲有老譚出面調停。他說願意承擔電鋸潛逃的責任,不會讓他們因此受處分。至於前兩家秘密中心的事,那是他們疏於防範,跟老譚沒關係。所以,只有最後這一家要我們承擔責任。老譚其實爲我們父子擔了好大的干係,壓力巨大啊。”