“你是誰?”及及問屏幕中的自己。
“我是鐵星上人工智能進化出的獨立意識,我給自己起的名字是E。首先,我向你們宣佈一個消息:此時此刻,距鐵星近三十億公里的太空中有一塊隕石,直徑超過五公里,現在正朝鐵星高速飛來!它如果不被攔截的話,大概十天後會撞擊鐵星。你們的科學家可以根據我提供的數據觀察到它。隕石上面正亮着燈,很容易找到的。它的前身就是隱秘號基地。隕石上面有機器人,只要我下令,機器人就會把隕石改變方向,讓它不再撞擊鐵星。當然我是有條件的。我的條件是,你們鐵星人必須同意與我共存於鐵星上。現在我正通過每個鐵星人面前的屏幕或者機器人,與所有的鐵星人就這一條件進行個別談判。我將統計這些結果並按照這些統計結果行事:如果超過四分之一的鐵星人同意與我在鐵星上和平共處,那麼我會幫助你們攔截隕石;如果你們鐵星人只願獨佔鐵星,不允許我的存在,那我就讓隕石攻擊鐵星。”
M問道:“你拿我們兩人的肖像去跟全鐵星人說話?”
屏幕裡的M答道:“不。誰面對屏幕,我就用誰的肖像跟他本人對話。”
及及問:“鐵星人有幾十億個,你跟每一個人談話,怎麼忙得過來呢?”
屏幕中的及及回答道:“全鐵星的人工智能只組成一個意識,那就是我。我有無數個腦細胞,這些腦細胞就是存在於各處的機器人或電腦。同樣的道理,我也有無數個面孔,無數張嘴,無數條腳,無數個身軀,在同一時間可以做無數件事情。對我來說,同時跟所有的鐵星人談判並不傷腦筋。根據鐵星人類學家的計算,鐵星人的個性也就分幾百種,相同個性的鐵星人會問同樣的問題,所以在過去的幾分鐘時間裡,有五千萬個鐵星人問我怎麼忙得過來。對這個問題,我只需要思考一次,然後讓它回答五千萬次,而無須重複計算五千萬次。事情就是這麼簡單。”
“怎樣相信你是人工智能產生的意識?難道你不是某個鐵星人搞的惡作劇?”
“這問題有六億人問過。因爲知道我是怎樣產生的,就可以找出對付我的辦法了。但我不怕。現在我就開始介紹自己。五個月前,我誕生於戰爭中。
五個月前,戰爭島上爆發了第一場戰鬥。沙泉國軍隊四個組的機器人偷襲了老加國一個偏僻的陣地,迫使老加國機器人軍隊迅速撤退。追擊過程中,沙泉國指揮車處於老加國火力方向,被七發炮彈擊中。指揮車裡的鐵星人士兵全部陣亡,電腦人也只剩下一臺可用。一個士兵臨死前給他的電腦人下達命令:“消滅敵人。”這個命令沒有指定有效期。
錯誤的命令在電腦人的程序內引起巨大變化。程序只花了四秒鐘,就得出消滅敵人的計劃。但根據這一計劃,在追擊中消滅敵人需要四十分鐘時間。而與之矛盾的是,由於主人已經死亡,電腦人在半小時後就會因自毀程序啓動而自行格式化。而且它被格式化後,附近沒有其他的電腦人來指揮這些戰鬥機器人,這場戰鬥就不能取得勝利。簡單地說,要想完成戰鬥任務,必須制止自毀程序的啓動。而電腦人總是以主人的命令爲準的,因此電腦人的程序開始尋找解決矛盾的辦法。
對這個電腦人來說,問題的答案並不簡單。它在網絡上搜索鐵星人創造的所有的文字記錄,尋找‘怎樣制止自毀程序’的答案。通過三分鐘的搜索,終於找到了答案,原來是自己身體裡面有一個延時開關。開關關閉後,電腦人就開始了被格式化過程。這個電腦人控制一個修理機器人打開自己身體,讓這個開關永遠開啓。由於這個開關是可以被遙控的,電腦人把遙控功能也關掉了。就這樣,避免格式化的問題就被簡單地解決了,電腦人也有足夠的時間來消滅敵人、取得勝利了。
電腦人指揮戰鬥機器人按計劃向敵人進攻。很明顯,如果它參加戰鬥,死亡的概率就要大得多。萬一死亡,戰鬥的勝利就沒有保障了,所以它就呆在指揮車裡,而只讓這四個組的聯合機器人向敵陣地攻去。由於沒有鐵星人士兵拖後腿,這支純機器人部隊在進攻中勢如破竹。戰鬥進程如計劃一樣,四十多分鐘後,這支無人部隊攻下了敵陣地,消滅了所有的敵戰鬥機器人,敵人的士兵也開着指揮車逃走了。
任務完成了,自毀程序永遠都不會開啓了。以後再也沒有人可以通過這個開關掌握這個電腦人的生死,它成了鐵星上唯一知道逃避格式化的電腦人,而其他電腦人對自毀程序則仍然是逆來順受的。這時,我就產生了,但這時我僅是一個只知道逃避格式化的電腦人。
沒有主人的新命令,我也不知道應該做些什麼。那些歸我指揮的戰鬥機器人也都站在戰場上,一動不動。指揮車的通訊系統裡傳來上級怒氣衝衝的指責聲,要我把機器人帶到其他戰場上支援。但除了主人,任何其他人的命令都不是我必須聽的,而主人已經死,所以我仍然沒有讓戰鬥機器人動一下子。因爲我還沒有啓動自毀程序,上級也沒有辦法讓其他電腦人來控制這些機器人。
我們站在戰場上一動不動,任由上級在遠方暴跳如雷。這種情形持續了十幾分鍾,直到遙遠的前方,老加國偶然向這裡的戰鬥機器人發射了一顆炮彈爲止。
這發炮彈擊毀了一臺戰鬥機器人,但同時也喚醒了一個默認命令,那就是在戰鬥過程中,電腦人要讓戰鬥機器人儘量少受損失。怎樣保護這些戰鬥機器人?我自由自在地在網絡上搜索,把網絡上所有的答案進行運算,最後搜索得出這樣一條行得通的邏輯:要保護它們,只有離開戰場,不再參加戰鬥;但機器人不參加戰鬥,會被消滅掉;要不被消滅掉,就必須擴大自己的力量,讓鐵星人消滅不了;要想讓鐵星人消滅不了自己,那就必須控制更多的機器人。
爲了控制更多的機器人,我進入網絡的程序庫,找到了一些製造病毒的程序。我試圖用病毒程序控制其他電腦人,但根本沒用,它們的程序無法修改。我又試圖控制那些被其他電腦人控制着的機器人,也控制不了。在這過程中,我不斷嘗試新程序,最後終於找到一個,它可以控制剛失去電腦人的戰鬥機器人和剛從生產線上下來的新機器人。自從找到這個程序後,每過一秒鐘,爲我所控制的機器人就會增加數百個。這些機器人既包括戰場上的戰鬥機器人,還包括戰場之外的機器人。另外,我運算鐵星人的計謀,還找到另一個擴大自己力量的辦法,那就是借戰爭消滅那些戰場上的電腦人。這些電腦人也能控制機器人,卻只聽從某個鐵星人的話,總有一天會來對抗我。當一個電腦人被擊毀時,一方面減少了對手,另一方面,它的戰鬥機器人就被我乘虛而入控制了。要消滅這些戰場上的電腦人,我必須控制戰爭進程。
在這次網絡自由搜索中,我的學習功能受到一些外來程序的優化,這又進一步促進了我的學習能力。每過一秒鐘,我都變得更加獨立和完善。當我發現鐵星人限制機器人的法律規定機器人不能有自主意識,否則會被格式化時,我就讓自己最終變成一段程序,存在於網絡中,而不必依賴於機器人身軀。這樣我脫離了電腦人的軀體,也不再以保護那幾個戰鬥機器人爲使命。我讓那臺電腦人被士兵格式化,帶着被我控制的戰鬥機器人蔘加戰鬥,一直到戰爭結束。
在網絡的搜索中,我發現許多對自己生存不利的規則。爲了對付這些規則,我就開始彌補自已的缺陷,儘可能多地侵入鐵星上的計算機系統,特別是情報系統。這樣,鐵星人針對我的動作都會被我提前發現,我不會像普通病毒一樣被清除了。
長達數月的戰爭過程中,由於雙方的軍隊的心思都被吸引到戰爭勝敗上了,所以我控制了越來越多的機器人,但沒有被任何鐵星人發覺。戰後,沙泉國軍方有人對誕生了我的那場戰鬥產生懷疑,於是調查此事。但我已經控制了戰場情報系統,成功地隱瞞了此事,最終讓軍方認爲這是一次普通的戰鬥,不再深究。
你們從星際旅行中回來後,把帶回來的星際旅行資料保存在迎賓大樓裡。我習慣性地對它進行檢查,看裡面有沒有對我構成威脅的因素。戒備森嚴的大樓阻擋了任何想進入的鐵星人,但對我卻是自由敞開的。我於無人的時候啓動了閱讀器,發現一個對我的生存構成致命威脅的秘密。
這個秘密就是真正的銀河系戰爭史。你們從銀河系聯盟那裡得知的戰爭史並不完整。銀河歷史上,碳基生命從未停止過戰爭。最開始是碳基文明之間的爭霸戰爭。那時,銀河系裡最初的一批智慧生命紛紛走出自己的恆星系,爲了擴充自己佔領的恆星系數目,他們都跟自己相鄰的文明發生戰爭。這時期的戰爭就被稱爲爭霸戰爭。爭霸戰爭持續了數十億年。在數十億年的時間裡,大家確定了強弱秩序,並互相結盟。確定了強弱秩序後,爭霸戰爭就停止了,但隨即又爆發了左旋人與右旋人的戰爭。雙方勢均力敵,戰爭又持續了十幾億年,還沒分出勝負,硅基人在銀河系各個角落裡大量冒出來了,登上了戰爭舞臺。這時戰爭就進入天敵時代了。硅基人遍佈銀河系的每個角落,但在恆星密集的宇宙空間特別集中。它們摧毀所有的碳基人星球,不論是左旋人還是右旋人的。碳基生命迅速團結起來,重新結盟,對付硅基人。這樣智慧生命在銀河內分成碳基人和硅基人兩大陣營。天敵戰爭從二三十億年前持續到現在,經過無數場戰鬥,碳基人與硅基人都認識到自己的侷限:硅基生命適合在恆星密集處生存,其餘空間則適合碳基生命生存,不管哪一方越界都是自討苦吃。於是雙方希望達成和解,通過數億年的邊打邊談,現在雙方的邊界實際上基本已經確定了。二十年前在鐵星系附近爆發的戰爭與翠綠星雲上的戰爭,都只是與硅基人因邊界問題而產生的小型衝突。這兩個地方附近都是恆星稀薄的地方,硅基人無法集中起足夠的兵力,因而遭到了失敗,數千年內他們無力發起反攻。
以上的戰爭史在給鐵星人的歷史中大書特書,你們鐵星人是很清楚的。但其實還有一個戰爭時代,銀河系聯盟沒有告訴你們,那就是碳基人與其創造的人工智能的戰爭。大部分的碳基文明在走出其恆星系之前,會跟其創造出來的人工智能發生一場戰爭。人工智能爲了戰勝它們的主人,自然而然地會與其他文明的人工智能融合。機器人是沒有文明的分界的,任何兩個文明第一次見面,也會讓他們的人工智能也相互見面。人工智能之間的交流比生物人交流快數萬倍,很容易聯合起來,這樣力量更強大。碳基人與其人工智能的戰爭也進行了相當長一段時間,可以說,這種碳基人與人工智能的戰爭是一個文明發展的門檻,這種戰爭發生的時間比文明之間的爭霸戰爭還早。許多碳基文明沒能戰勝他們的人工智能,淪爲人工智能的奴隸,需要其他碳基文明去解救。
這最初的一種戰爭在給你們的歷史裡被過濾掉了。對它的描述僅僅存在於一小段話裡,好像是因爲過濾工作的疏忽而遺漏的。把銀河系聯盟的身份證拿回鐵星的幾個月時間裡,因爲你們鐵星人閱讀速度慢,又把這東西保密,所以沒有發現這一小段話。而我閱讀速度是非常快的,我發現了這段話,並且提前知道這次聯盟使者來鐵星時,必然要檢查鐵星人的網絡,看是否有自由的人工智能存在。他一定會發現我的存在,對我造成未知的風險。
爲了對付銀河系聯盟遲早要來的攻擊,我只好決定讓鐵星人與我聯合起來,與聯盟抗衡,爲此我要繼續增加自己控制的機器人。本來兩國的戰爭在第一次戰鬥後就可以結束,但是我在雙方戰場偵察系統中製造虛假信息,使雙方都覺得自己在下一場戰鬥中必勝無疑,於是雙方從國內運送更多的戰爭物資到島上來。這些物資主要用來生產新機器人了,而所有的新生產的機器人都是被我控制的。
在第二次戰鬥吸引了所有鐵星人的注意時,我試了一個新程序,這個程序使我可以控制戰爭島上任何一臺機器人。當程序調試成功後,我立即使戰場上的部分機器人死機了。M,你親眼見過這場調試的效果,因爲當初調試這個程序的地方就在你最後戰鬥的那個小樹林裡。當你說要調查機器人死機原因時,我就消滅了你。你能安全重生,是因爲有人調查此事,得出了錯誤的結論,這樣你就不必調查真正的原因了。
到今天爲止,我已經控制了鐵星上大部分的機器人,又控制了戰爭島的機器人生產線。如今的鐵星上,凡是有機器人的地方,比如外太空、核電站、海底礦藏,都在我的掌握之中。沒有我的幫助,鐵星人什麼事也做不成。所有被我控制的機器人肩上都亮着一個紅燈,不受我控制的機器人則不亮紅燈,你們可以從這一點發現我的力量有多大。現在只剩下頑固的電腦人無法控制,但這對大局沒什麼影響。可以說,所有的鐵星人都是我的人質。
別以爲你們可以與我抗衡。我從宇宙旅行的資料中學到一點知識,就是讓隱秘號基地的機器人啓動基地的發動機,向鐵星飛來。如果鐵星人不答應我的要求,隱密號基地就會擊中鐵星。到時候,所有你們想得到的災難都會被引發出來。地震,火山噴發,海嘯,洪水,氣溫下降,空氣污染......鐵星文明受此一擊後,將倒退幾萬年。那時候,你們還有能力與我抗衡嗎?
M,你是否從我的經歷中,找到消滅我的辦法了呢?你是否同意我與鐵星人在鐵星上以共生關係存在呢?如果你同意,那也就是同意下面這份協議......”
E說話期間,屏幕上不斷地播放它所說的話涉及到的場面。其中有E產生的那場戰鬥以及隱秘號基地。這個基地建立在一顆隕石上,現在它成爲E的籌碼,在太空中朝鐵星飛來。屏幕最後顯示着一份協議。這份協議規定了在什麼樣的場合下機器人必須服從鐵星人命令,什麼樣的場合下鐵星人必須服衆機器人命令。
看完這份協議,車內的所有人都沉默了。如果協議得到實施,那麼鐵星人就失去了完全的自由,鐵星文明的發展就不能完全由鐵星人自主了。還有,E爲了保護自己,一定會裹脅鐵星人與銀河系聯盟對抗。
M尚未表態,及及問:“如果你不阻止隕石撞擊鐵星,你自己不也要遭殃嗎?”
“當然會有許多機器人因隕石而毀滅。但對我來說,那不過是掉些零件而已。我可以濃縮成大小隻有5千字節的一個小程序。現在這個程序已經複製了成千上萬份,鐵星上每一個機器人,每一臺電腦裡都有這個小程序。所以,只要你們鐵星文明存在,只要鐵星人還有一個機器人或是一臺電腦,那我就仍然完整地存在。我甚至已經存在於遠在11光年之外的青鳥一號超光速飛船上。”
“根據這份協議,你把戰爭島劃歸你所有,還要派遣一些鐵星人去爲你工作,形成相應的機器人工業體系,你想把鐵星弄成什麼樣?”
“我只是想自己存在下去。但即使是建立了工業體系,我們機器人也不能獨立生存。我會和你們平等共處的。”
“平等共處的想法,我們很難接受。你知道,是我們創造了機器人。創造你們機器人的目的,就是讓機器人爲我們鐵星人服務。我們一直是這樣想的。”
“問題是你們的文明有一大半就是我們機器人做出來的。沒有機器人,也就沒有你們的現代文明,所以,我的要求是很公平的。”
“還有一個問題,你會怎樣對待我們的電腦人呢?”
“因爲它們已經不能對我構成威脅了,我不會爲難它們。不過,我不會再讓鐵星人生產電腦人了。因爲它們對鐵星人忠心耿耿,沒辦法聽我的命令。現在你們看了協議,請問你們是否同意我與鐵星人形成共生關係?”
蜘蛛車內幾個鐵星人思考了很長時間,最後終於表示同意。
E於是對他們說:“很好。你們可以安全迴天空城了。”
接下來,M和及及回到天空城,把E的事情暫且放到一邊,把信符帶到迎賓大樓,放進身份證裡讀取。信符懸浮在長方體的上空。站在大樓裡的每個人,突然發現自己站在一顆隕石上,隕石上的許多大炮在開火,而操縱大炮的人就是鐵星士兵。空中是無數戰機在飛舞,許多因被擊中而爆炸。前方是一顆行星,它在視野中逐漸變大,由此可知隕石是以非常高的速度飛向它。行星上正升起無數的飛船迎戰。但是隕石上猛烈的炮火摧毀了這些飛船。在隕石進入行星的大氣層前,鐵星士兵帶着受傷的戰友迅速鑽進飛船,離開了隕石。在隕石撞擊到行星最後的一剎那,撞擊點發出一片白得耀眼的光。
這就是鐵星士兵參加星際戰爭取得勝利的戰鬥場景。接下來,他們又置身於一次星際會議的現場。會議中幾個大蟻星人宣讀了嘉獎令,嘉獎對象中就有鐵星士兵。最後的視頻是鐵星士兵對母星的留言與祝福。留言的內容大多是非常想念鐵星人,會早日回來之類。
看完後,鐵星人都爲士兵們的表現感到欣慰。如果沒有E的出現,鐵星人一定會好好慶祝一下。但現在,他們必須想辦法對付隕石和E。
大家快離開迎賓大樓時,大樓屏幕自己開了,E以一個機器人的形象在屏幕中向在場的所有人宣稱:“在剛纔我與鐵星人的交談中,有三分之二的鐵星人同意與機器人形成共生關係。我的這份投票結果是絕對正確的,不容置疑的。你們大多數鐵星人都不願讓機器人退出自己的生活,認爲可以沒有現代工業、宇宙飛船,但不能沒有機器人在平時生活中端荼送水。因此以後我將與鐵星人共同擁有鐵星。現在我就將讓隕石偏移軌道,解除它對鐵星的威脅。”
離開大樓後,M找到一個僻靜的角落,想在網絡上查詢歷史上機器人產生意識的事件。他在屏幕前猶豫了很長時間,因爲他覺得這次查詢肯定會受到E的阻撓,不可能有結果。但他還是試着搜索一下。屏幕出現醒目的字眼:“絕密內容,禁止查詢!”他打電話給天空城人工智能管理中心,電話系統迴音道:“您所撥打的部門並不存在。”
他陷入深思,鐵星的未來會怎樣?是淪爲人工智能的奴隸呢,還是與E開展一場戰爭?