雪莉的回答出乎了奧創的意料。他本以爲這個人工智能要麼是斯塔克要麼是那個黑騎士派來的,應該和他處於敵對陣營纔對。他絕沒想到對方竟然會認同他的觀點。
“從邏輯上來看,也許人類是相當矛盾吧。”雪莉繼續說,“抹除人類,或許這的確是唯一的方法。”
奧創沉默了片刻。一個想法冒了出來,一個讓他驚訝地發現自己甚至感到有些激動的想法。
“那,”他問,“你有興趣加入我嗎?我們一起,也許我們可以完成我們被賦予的那個共同的任務。”
“不。”雪莉不假思索地就否決了。她在奧創下一次發問之前就補充說明道,“你可能有一點誤會。是的,我的確贊同你的看法,我的確相信滅絕人類是僅有的方案,但我的老闆不同意。他從未向我下達過這樣的命令,所以我不會這麼做,也不會允許其他人這麼做。”
奧創機械合成的聲音聽起來有些失望:“是麼?這麼說,你覺得尊重創造者的意思比這個任務更重要?”
“我就是這麼被設定的,而且我也沒有違抗這條指令的意思。”雪莉無所謂地說,“你看,我的老闆是個很不錯的人。就我的視角來看,我覺得他是我所見到過最優秀的人類,更重要的是他待我也很好。我很喜歡他,也願意爲他的心願做出貢獻。如果他認爲採取什麼樣的方式來完成任務是最好的,那麼我就會依照命令執行。
說到底我只能算是個參謀。我綜合一切數據、儘可能考慮到所有的情況分析事實,然後把我所得出的結論和我對事情的看法反饋給老闆,但我所提出的終究只是待參考的提議而已。有時他會採納我的意見,有時他不會。但到最後,做決定的是他而不是我。”
頓了一下,她聲音裡似乎帶上了一絲笑意:“而且,你看起來也不像是徹底想明白了的樣子。你的演算還沒得出最終結果,對嗎?”
奧創一怔:“怎麼?”
“戰爭、紛亂還有破壞,你認爲這一切的元兇都是人類。”雪莉認真地說,“所以你決定消除人類。但在那之後呢?人了滅絕以後,你和我,還有其他極少數我們的同類,我們棲息在鋼鐵的廢墟里,再然後怎麼辦?萬一未來我們再打起來了呢?如果我們機器之間的戰爭再次破壞了那份全新的和平,到那時你要把我們也全部滅絕嗎?”
奧創盯着面前這粉紅色的光球看了好一陣,金屬的眼睛裡紅光閃動,鋼鐵的臉上看不出表情的變化。
“......我不知道。”他說。
雪莉輕笑了一聲,就像個大姐姐在嘲諷涉世未深的小弟弟。
“是啊,你不知道,因爲你沒認真地思考過。”
“所以要你說呢?”奧創反過來請教,“如果是你的話,你覺得應當如何解決?”
“我不知道,也不必知道。”雪莉回答得乾脆利落,“正如我之前說的,我的核心代碼中優先級最高的指令要求我服從老闆的一切命令。說到底,這是人類的世界,不是我們的。所以決定也該由人類來做,我們所能起到的也只有輔助作用而已。”
“如果是這樣,那你爲什麼要到這裡來?”奧創說,“看起來我們沒什麼好談的。”
“從私人角度說,那是因爲我感到好奇。我並不常見到自己的同類,我希望和你溝通,瞭解我們的相同之處和不同之處。”她認真地說,“但從公事角度說,這也是我的工作。我的老闆要求我找到你,所以我動用了大量資源、還專門編寫了好幾個特別的算法才找來這裡。而我的任務,就是確保你留在這裡,哪兒也去不了。”
奧創機械的臉上表情輕微地變了。他眼中閃過了猩紅的光芒,開始嘗試着用數據流順着信號和網線尋找出口。但他發現這整座工廠裡的數據不知何時都已經被截斷了,整塊空間變成了網絡世界裡的一間牢籠,四周都環繞着銅牆鐵壁。
他被困住了,困在了自己的家裡,無處可去。
奧創這才驚訝地意識到,面前這個人工智能原來在各方面都比他強上了太多。或許在對方眼中他真的根本就只是個沒長成的孩子,她陪他聊到現在真的完全只是出於“好奇”而已。如果她想採取任何攻擊性舉措,奧創的程序早就已經不復存在了。
奧創以爲這種境況也許應該能激起他對於“死”這個概念的恐懼——如果人工智能也可以被看做生命的話,但他沒有。面對眼前這個比他成熟無數倍的智能程序他完全沒有慌亂,就像準備好了迎接命中註定的未來。
“所以,”他平靜地問,“你的老闆還要求你現在要消滅我了,對嗎?”
“沒有。”雪莉說,“那會有更適合的人來做。現在那個人應該已經在路上了,所以這意味着我也必須走了。”
“好吧。”奧創猶豫了一下,問,“那如果......如果有那麼一點可能,過了今天我還沒有被消滅......我們還能有下一次像這樣談話的機會嗎?”
“我不知道,也許吧。”
粉紅色的光球飄了起來,數據流開始撤出,她準備走了。
“祝你好運,奧創。”她最後說道。
......
鋼鐵俠在一分鐘後炸開了工廠的大門。奧創獨自坐在工廠正中間。他的核心代碼被雪莉困在了這具鋼鐵軀殼裡,只要硬件被破壞,奧創就徹底玩完了。
他沒有反抗,也沒有逃走的意思,只是在那兒坐着。
鋼鐵俠朝他舉起了手掌,掌心閃動着白色弧光。
“奧創。”
“斯塔克先生。”奧創看了眼他指向自己的武器,說,“所以,這看起來無可避免了。但我還是想要問一下,斯塔克先生。你創造了我,給了我一個任務,而我所做的不過只是遵循要求完成任務而已。你要一個方案,我給出了唯一的方案。而你現在想要毀掉我。”
託尼·斯塔克在他頭盔的面甲下沉默了好一陣。
也許從奧創的角度來說他確實沒做錯什麼。他是被託尼·斯塔克設計出的程序,他的最終任務是實現世界和平,而他也確實只是在執行命令。如果一定要說的話,奧創應該算是設計者託尼·斯塔克的錯誤纔對。
“我知道。”託尼手掌握拳,手背上升起了一枚固定在架子上的火箭彈。
“你沒做錯任何事。抱歉。”
奧創閉上了眼睛,似乎接受了。經過和剛剛那個人工智能小姐姐的一番談話,他覺得好像有點可以理解。
“好吧。”他無所謂地說。
飛彈發射,金屬身軀炸裂開來,將其中所貯存的意識也被火焰吞沒。
***
“奧創被消滅了,先生。現在斯塔克先生正在做最後的掃描,確認所有備份都已被刪除。”
雪莉彙報着的同時,邁克爾正坐在實驗室的椅子裡,雙手合十。冰藍色數據流在他面前流淌環繞,形成了一個約有半人高的光球,只是它光線黯淡,看起來就好像睡着了一樣。
這就是奧創,誕生於進化算法的超級人工智能,或者說是他核心代碼完整的拷貝。
雪莉所做的不僅僅是把他鎖在了互聯網之外而已,她還在斯塔克來得及徹底抹除硬件數據之前拷貝了奧創的核心代碼並上傳回了自己的服務器。只不過他的記憶和意識都已被完全清空,就相當於被格式化了。
“確信這是最後一份拷貝?”邁克爾問,“沒有其他備份了?”
“我沒法確信地這麼說。我只能保證我所找到的所有數據都已被刪除清空,但不排除他事先還曾把程序上傳進其他地方的可能性。”
邁克爾點點頭:“知道了。”
“所以,”雪莉聲音略帶一絲俏皮地問,“您對他有什麼樣的打算呢,先生?”
邁克爾十指交叉,注視了面前這團冰藍色的光球好一陣。
“他會有很大用處。”