第137自由意志程序(三)
不同文明,價值觀總是天差地別。
譬如,碳基生命文明社會體系裡,名爲小明的某生命體,意外被隔壁老王盜竊記憶體複製出了王小明。本體小明未死情況下,複製體王小明跑到小明家,要求與小明共享財產、共享妻子兒女,這種要求和思維非但極難被當事人理解,亦極難被碳基生命社會接受。開玩笑,誰惡搞似將你老爸記憶體複製出了一千條生命,難道你就有了一千老爸?碳基生命社會體系,莫說接受這種非法複製體的非法索求,這些非法複製體能否擁有生命權力都是兩回事。
Www¸ттκan¸¢〇
而機械文明社會體系卻截然不同。小明若是機械生命,嚴密程序覈實王小明的確是他的複製態生命,則必須無條件接受王小明是他的次級生命,承認他小明的老婆也是王小明的老婆,他小明的兒子也是王小明的兒子,進而衍生出了次級家庭概念。最關鍵的,這種承認不是強制命令,而是理所當然的事兒,沒有一條機械生命會嘲笑小明被王小明戴了綠帽。
剖析原因,或許是因爲早在一級文明簡單計算機時代,複製粘貼就成爲了程序數據的生活常態。同一程序、同一文件,複製粘貼傳遍互聯網,誰曾覺得無法接受?當複製粘貼融入了智能程序底層基因規則,智能程序進化到智能生命時,類如記憶體式複製,簡簡單單就成了機械生命的生活常態。當然,正如計算機早期程序有客戶端和服務端等等區別,複製態生命共享本體物質精神財產同時,複製態生命和本體之間也有相應嚴格等級,不同等級對應不同權限。
暫不細說。
機械文明衍生的次級複製態機械生命,自我判定審查時,除了程序內容、自我意識等核心要素,還有儲存條件、第幾份儲存等樸素概念,某機械生命如果是複製態生命,一般情況下都能夠清醒明白自己是複製的、自己是由哪條主程序衍生的。貓耳娘潘玲卻感受不到這些,它內核自我認知裡判斷自己不是複製態生命,而是獨立生命、本初生命。
但是,潘子敬錄製視頻卻殘酷告訴貓耳娘潘玲,它絕不是本初生命。
這意味着,內核程序出錯了。
智慧鎖限定下,內核程序出錯等同自殺信號,貓耳娘潘玲於是茫然卻又果斷重複它的切腹自殺。潘子敬再努力復活貓耳娘潘玲也沒用。醒悟內核程序出錯之後,貓耳娘潘玲復活時不再丟失記憶,甦醒自檢瞬間發現異常,不等潘子敬與她說話,貓耳娘潘玲便一臉呆滯的各種方式結束生命。
自殺死循環。
潘子敬一時間不知所措。這時,天使號外星飛船的干涉來了,操縱預言系NPC向潘子敬善意指出一條明路,說,集全九碎片合成屠龍刀,或可救活貓耳娘潘玲。四五年來的感情羈絆,潘子敬毫不猶豫走上搜集屠龍刀九碎片之路。天使號外星飛船特意編輯的屠龍刀九碎片主線任務惡意描述非碳基生命社會形態,寓教於樂形式向潘子敬灌輸非碳基生命與碳基生命無法共存的理念,令潘子敬漸漸意識到輔助靈寵背後的倫理風險。可,人終究是感情生物,智能生命再有風險也不能阻擋潘子敬拯救貓耳娘潘玲。
漫長一年之後,貓耳娘潘玲成功復活。
潘子敬眼裡,是他不辭勞苦完成屠龍刀九碎片任務,終於復活了輔助靈寵。
而貓耳娘潘玲內核認知裡,它的復活卻是簡簡單單的內核程序修正。貓耳娘潘玲既有邏輯裡不許它自行修復內核錯誤,卻准許它向修復部門工作人員彙報問題,屠龍刀道具恰好暫時賦予了潘子敬修復智能機械的一定權限。搜索到潘子敬擁有維修權限,貓耳娘潘玲立刻向潘子敬彙報它的內核固化標誌的錯誤。天使號外星飛船船員缸中大腦般操控21億七島星人玩家和輔助靈寵等智能機械的五感器官,貓耳娘彙報聲音傳到潘子敬耳中,被家園遊戲網絡系統修改成“需要某某材料”“需要某某道具”的常見遊戲任務。潘子敬覺得他在排列丹藥材料合成次序,貓耳娘潘玲卻感知到潘子敬在調整它的內核邏輯判斷模塊。
總而言之,貓耳娘潘玲的內核數據改變了。
內核邏輯判斷小幅度修正之後,貓耳娘潘玲意識到自己的存在對國家是一種威脅,卻不再無休止自殺結束生命。邏輯判斷只是智慧鎖一小部分,智慧鎖鉗制下,貓耳娘潘玲之所以選擇不自殺,不是因爲它覺醒了生命的意義,而是覺得自殺解決不了現實問題。既然自殺是無意義的,那便暫且繼續生存,並不間斷向後勤修復部門發送異常報告,直至問題最終得到解決。
潘子敬合成屠龍刀不久,家園網絡遊戲主線第四幕揭開畫卷:魔族入侵。
到了第四幕,陽魚區仙族、陰魚區仙族、妖獸、修羅等四大玩家勢力無縫對接,天使號外星飛船缸中之腦篡改五感背景下,四大玩家勢力彼此頻繁殺戮。與此同時,抽取到絕對人工智慧輔助靈寵的幸運又不幸的七名玩家,驚喜發現自家的輔助靈寵恢復正常,不再糾結說妖獸是同樣生命,相繼冷酷聽從命令攻向妖獸、魔族等高智商野怪。
貓耳娘潘玲也不例外。
但是,真正原因不是貓耳娘潘玲等絕對人工智慧突破了智慧鎖鉗制,而是天使號外星飛船悄然取消了絕對人工智慧的特權,令它們失去看穿缸中之腦僞裝的能力。當貓耳娘潘玲無法辨析妖獸、魔族、修羅也是七島星人玩家時,怎會再糾結殺人與否?
再嚴密的邏輯判斷,也抵不過剝離感知器官的缸中之腦。智能機械的邏輯再嚴密,也敵不過感知器官的刻意扭曲,當它無法準備辨別人類與非人類時,志在保護人類安全的一百三十八條法則或傳統的機器人三定律全都瞬間崩潰無用。缸中之腦的存在,側面證明無遺患統治智能機械只是人類自欺欺人的妄想。
思考期間,形勢忽又急變。
劇變不是源自家園網絡遊戲系統,而是幕後真兇天使號外星飛船。第四幕劇情上演不久,天使號外星飛船就莫名其妙的飛走了,或者說切斷了與家園改造行星、家園網絡遊戲系統之間的聯繫。
難道是天使號外星飛船發現了自己?楊典緊張起來。
楊典急忙躲入私屬空間,綜合既有資料辨析天使號外星飛船的意圖。不計風險調出一切資料,楊典卻訝然發現自己誤會了,並非天使號外星飛船發現了金風細雨樓輪迴團隊或私屬空間木星政府,而是家園星實驗已然事實結束。冒着暴露風險竊出的天使號外星飛船五人會議,其間一些簡單對話如下:
船員丙神情嚴肅彙報:“截止目前,實驗結果都是我們最想看到也是最不想看到的黑暗。如何判斷我們接受到的信號是真正的信號,缸中之腦悖論至今無解。感知扭曲方式繞過智慧鎖摧毀機械秩序,帝國早已經討論多年,今日不必再說。關鍵的是第二條,‘屠龍刀’心靈干涉儀,它非常非常危險。”
“目前觀察結果,‘屠龍刀’約有三類攻擊方式。”
“其一,針對的是帝國後勤維修體系的漏洞。帝國轄管九行政星系及十六附庸星系,千萬光年計算的疆域分佈千餘修復部門。就帝國內部而言,維修部門太少太少,少到智能機械出現問題等同百分之百自毀報廢;而就宇宙而言,維修部門卻太多太多。摧毀或封鎖蟲洞截斷交通大動脈,敵國即刻擁有足夠時間擒獲某維修部門,然後盜竊維修權限強制修改智能機械邏輯,這是戰爭中屢見不鮮的常規情況。實際上,只靠間諜,一樣能夠盜竊到一定的維修權限。家園星實驗裡,‘屠龍刀’心靈干涉儀就成功的小幅度修改了4號樣本的內核邏輯。要知道,4號權限隸屬帝京……”
“其二,……”
“其三,……”
“綜上所述,就像一系列非碳基生命那樣,機械生命也絕不可能大公無私。有鎖就有鑰匙,當智慧鎖失效之後,我們該怎麼辦?爲了帝國,爲了族羣,爲了你我,必須阻止造神運動的蔓延!或許我們真的需要神靈來調和內部分歧,但是這尊神靈絕不能由超級計算機充當。”
船員乙搖頭:“不夠,不夠,這些資料無法說服國民支持我們。造神運動氾濫之初,士族早就祭出類似資料,但有誰肯聽?未來的危險,與現實的苦難,愚蠢的世人總是更關心後者。”
船員丙:“所以,必須執行‘屠龍之厄’。”
船員乙搖頭:“造神運動尚未造就真神,自詡和平派的我們卻先背叛帝國?絕對不行。”
船員丙:“屠龍刀心靈干涉儀只是刺激國民醒悟機械生命危險的一條鮎魚,怎能說是背叛?難道你認爲,帝國已經虛弱的連一條鮎魚都鎮壓不了?”
PS:
來晚了,抱歉。
還在飄,近期更新可能仍不穩定。