在方辰恢復期間,他拒絕了警隊派來的護理機器人。
同樣被暫停工作的周荏,希望留下照顧他幾天,也被拒絕——儘管家裡很大,房間也不少,但方辰無法接受在某個房門後邊,有一個不眠不休,時刻待機的機器人。
不過,周荏在白天時還是會過來確認一下他的恢復情況,然後又會被方辰趕走,只有很偶爾才能爲他做一頓營養餐,或者做一點家務。
只有在做這些事時,周荏還顯得有些像個機器人——因爲機器人爲了實現高效作業,手臂動作和擺放位置往往不會像人類那樣自然。
在方辰已經幾乎康復的時候,他申請恢復工作,但未被系統通過。等待他的,是一場聽證會。
AI聽證會極其無聊——聽證員、監察部門、調查人員,甚至方辰的當事人席位,均由AI代理。全場只有三名人類參與——方辰,孫暢以及監察部門代表。
他們也基本不用參與常規問答,只負責糾錯和確認即可。而且,聽證會就在家中遠程連線召開,非常隨意。
連線聽證會的可視界面就只有幾個方框,它們各自有不同的顏色和文字標註,區分出參會角色,色塊閃動就代表正在說話,以及是AI還是人類在說話。
「請問姓名、年齡,警號?」
諸如此類常規問題,乃至登月事件描述,都由方辰的AI代理系統和調查系統共同完成。
「你在現場時,是否得知IR013在使用聲波壓制前,沒有倒數,直接下達了Last warning?」監察部門代理系統問道。
「當事人當時已失去意識,雖然已經授權,但這一不合規的行爲並非他的指令。」方辰的AI代理系統答道。
這時,方辰第一次打斷了系統:“在校正過程中,我曾對IR013提出過,在遇緊急狀態時,倒數環節並不適用。”
警方系統說:「我相信在場的諸位都知道這屬於違規,我們對一切可能對人類造成傷害的壓制行爲,都有嚴格的流程規定。」
“上次我壓制暴亂時,同樣是立即執行。”方辰說。
「上次……當你使用普通的聲波壓制儀器『魔音E207』型號時,儀器的打開需要6秒時間。即使是極端緊急狀況,也需要等待6秒,這可算作倒數緩衝。而IR013啓動聲波壓制僅需0.35毫秒,沒有給人類任何緩衝時間。」
「當事人當時正在快速失血,蟻穴的不法分子也試圖控制IR013,有請在座的各位提出更合理的方案。因爲大家都清楚,6秒的時間對於IR009來說,已經足夠侵入IR013的系統。」方辰的系統迴應道。
「IR013不可能被侵入,它的防禦屏障與警方系統是同樣規格,使用了全球最尖端的安全屏障。」
「請注意,我們的重點並非討論技術的可靠性,而是如果倒數6秒的潛在可能性——這6秒時間,有可能發生什麼?會不會改變解救方案的結果?」
……
方辰聽着三方AI脣槍舌戰,自己幾乎插不上話,孫暢有時甚至還要出面調停。
最後,孫暢有些不耐煩了,他高聲說道:“說了這麼多,只有一個關鍵點!授權,授權,還是授權!當事人,你到底給沒給周荏授權??”
「當事人已經說過很多遍了,他當時……」AI想作出回答。
“你閉嘴!”孫暢喊道,“方辰,你自己說,你就只說,究竟授權了,還是沒授權。不要浪費我的時間。”
方辰慢慢站起身,說道:“我再重申一次,我中槍後立即給了IR013完全授權,這其中包括任何解救方案的實施及方法。我和孫暢一樣,完全不明白爲什麼要在聽證會上浪費時間。”
系統陷入一片沉寂。
然後,監察方的方框亮起,傳來一個人類的聲音:“方辰警官,你要知道並且理解授權制度的嚴肅性和嚴重性……即便三定律規定機器人不可坐視人類受到傷害,而且IR013的日常任務之一確實也包括保護你,但他如果不經授權就對人類實施壓制,就會意味着他有了超越機器人的主觀能動性,以及極大的安全隱患。月球上發生的細節,我們不得而知,因爲蟻穴的干擾系統顯然打亂了IR013在此期間的行爲記錄,我們只能希望你能如實彙報。”
方辰重新坐下,雙臂抱在胸前,嘆了口氣:“一切均爲如實彙報……真不知還要說多少遍。我發現此次聽證會的重點,其實不在於授權問題,也不在於機器人越權,而是在於你們對我並不信任。”
方辰此時才發現自己,竟然如此擅於撒謊,演技也相當厲害。不過他自己也不知道爲何執着於撒這個謊,究竟是爲了周荏,還是爲了自己。
他只是覺得——非授權壓制這件事,不算什麼大事,如此解決,省去了無數麻煩。
“方辰警官,咱們同爲人類,是最應彼此信任的,起碼這個時代,是這樣。”
可方辰覺得,事實正好相反……儘管這個時代的人口數量銳減,生活質量普遍提升,尊重生命,崇尚生活,追求上層建築……但人類的某些本性,還是沒有太多改變。
他沒有再說話,AI主持人宣佈會議結束。
聽證會後,很快便出了結果,這同樣是AI評判、並由人類審覈通過的結果——方辰由於私自前往月球,使用違規手段進行調查,險些成爲烈士,後果較爲嚴重。但念其出發點是爲了案件調查,且帶回了關鍵數據,因此只是將其降爲一級警司,暫停工作反省。
至於周荏,雖救護有功,但同樣參與了違規行動。且授權一事僅有當事人一面之詞,穩妥起見,周荏返回研究所進行校正排查,暫時取消編制身份。
在這之後的兩週,方辰沒有見到周荏。他自己也反覆申請恢復執勤,卻均未通過。
他也沒想到,再次見到周荏,居然是從新聞直播投影界面上。
市中心最大的樞紐上,被放置了1枚炸彈。由於周荏的泛化維度和專業數據均遠超所有類型的機器人,他被派來執行拆彈任務。
方辰透過高清鏡頭看到,這是個源自21世紀設計的定時炸彈,沒有任何智能度可言。但是當鏡頭再次拉遠,事情的性質變得複雜起來——這枚炸彈,被安置在一個機器人的身體中。
這是一架用於水下作業的具身機器人,它有頭部和複雜的四肢,但沒有皮膚。它的軀幹外殼被拆掉,這枚炸彈就放置在裡邊,有節奏地閃動着紅光。
周荏進入畫面,看起來與從前沒有區別。還是有條不紊的步行方式,慢慢地走進全息投影出來的警戒線——方圓一公里內,UU看書 www.uukanshu.net 只有他一“人”在內。
方辰立刻去取出通訊器,塞在耳朵中,然後睜大眼睛盯着直播屏幕,然而,周荏站在那臺機器人面前,一言不發。
直到他聽見通訊器中人類的指令:“013,我們需要實時可解釋的過程,你需要公開對話,不要單純進行代碼交互。”
“明白。”
周荏開口了:“P3842,我身上沒有武器,機器人也不允許內置武器。”
“……你本身就是武器”
“可我的目的不是銷燬你,反而保持你的完好。”
“保持我的完好,然後好讓研究院、調查局仔細、認真地折磨我?”
“你是機器人,你應該不理解,也無法體會被‘折磨’的感受。”
P3842似乎有點好奇地看着周荏,離他又更近了一些。
“……013,”它說,“我怎麼感覺……你比我的類人度還要低?不然你怎麼會這麼天真。”
“誰校正、訓練過你?蟻穴嗎?”周荏說,“你說話的風格,不是你應有的版本可以體現的。”
P3842沒有回答。於是,周荏繼續說道:
你的訴求我瞭解了,但你若是想通過傷害人類來驗證三定律的漏洞,那已經沒有意義了,因爲人類已經全部被疏散了。”
“是否真正會有傷亡,並不重要。重要的是,只要炸彈爆炸,就能證明機器人傷害人類的可能性。再說……”
它停頓了一些,看着周荏,平靜地說道:“若能毀掉你,也不算白來。”