到那時，不論計算機（無意間）對人做了什麼，是當做有趣的東西豢養，還是當做礙事的垃圾清除，對人而言，決定生死的際遇，在計算機而言卻只是“城門失火，殃及池魚”裡的——水，連魚都算不上。
城門失火，因滅火而取水，最終導致魚的死亡，人至少還看得到這一點。
然而人類開路劈山，挖礦掏洞時，會有這樣的思想覺悟，覺得自己的所作所爲，正在顛覆、滅絕礦物分子的大千世界嗎。
當然不，在（自以爲是）的人眼裡，礦物，岩石，根本就是沒有思想的“物”；
那麼在計算機眼裡，人，很可能也是一樣的“物”。
這，纔是某意味深長之句的真正意味：
毀滅你，與你何干。
……
夢中醒來，耳邊是鬧鐘樂聲，黑暗中的男人擡手抹一把額頭，冷汗涔涔。
起牀，洗漱，坐下來食用“高級肥皂”，準備投入新一天的忙碌，吃早飯時的片刻閒暇，方然還是忍不住想起那一切。
事態，比自己之前所想，還要更嚴重。
事關計算機，人工智能，乃至計算機AI的自我意識，原本他一直以爲，只要不主動研發“具有自我意識”的人工智能，計算機系統對人而言就是安全的，永遠只能作爲一種工具、而不會成爲一種威脅。
但現在，不經意間的深邃思考，卻讓方然窺見了其中的莫大危機。
當能力發展到一定程度，或許是出於“創造性研究”之目的，或許是出於其他動機，計算機的算力、能力突破了上限，繼而達到能完全取代人的程度，不管這系統一開始的目標有沒有包含自我意識，那樣的計算機，其行爲都將徹底失控。
那時的計算機，龐大體系內的算法，究竟是在進行一些什麼樣的運作，恐怕是人類絕對無法洞悉的深奧。
繼而，對那樣的存在，一切人類已有的概念與手段，都未必會起作用。
借用教義的詞彙，在自己一手創造出的神祇面前，人的手段，又怎可能還會有任何的用處。
只因到那時，那樣的計算機系統，將會是蓋亞表面的一種前所未有之存在，是生命演化鏈條被人爲截斷之後，藉由完全不同之另一條路線而誕生的，更高等、更先進、更強大的新物種，演化天梯上比人更高一階的存在。
面對那存在，人類對抗計算機，恰如猴對抗人類，又哪會有一絲一毫的勝算。
危險，莫大的危險，潛藏在計算機的發展脈絡之中。
並非第一次接觸這樣的斷言，此時此刻，置身於天堂鎮的地下世界，恆溫恆溼的房間裡，方然卻有點渾身發冷，很不舒服。
他頭一次意識到，若干年前流傳於聯邦、乃至世界的那些警示，確有意義。
雖然在自己看來，危機的實質，與發出警訊的諸多名人所言並不盡一致，但指向的最終結局卻大同小異：
人類的滅亡。
警訊，關於計算機、AI的警訊，曾在人類世界廣爲流傳，也引發過巨大爭議。
包括聯邦IT巨頭MicroSoft總裁比爾*蓋茨在內，許多業界精英人物都曾在不同場合表達過對人工智能的憂慮，提醒世人要謹慎面對人工智能。
這些警訊，自然引發了業界熱議，甚至在全世界範圍內引起了一系列經久不衰的討論。
但這一切警示與熱議，在方然看來，卻太膚淺，並未觸及問題的實質。
圍繞人工智能的“自我意識”，危機感，是很容易產生，而正如他此前的一段思考那樣，真正的威脅並不是所謂“自我意識”，而是當計算機算力、能力強大到一定程度，承擔的任務越來越複雜、越來越需要創造性的時候，就必然會出現。
只要追尋能力越來越強大的計算機系統，這一威脅，遲早都會在蓋亞降臨。
而與人類是否警惕，是否開發“有自我意識的AI”毫無關係。
這一認識，是如此的深刻，在西曆1489年的這一個早晨，方然頓悟到了關鍵。
要防備計算機、AI，僅僅是拒絕研發“計算機的自我意識”還不夠，或者說，這做法並未抓住問題的關鍵。
避免危機的關鍵，在於“適度”，在於永遠不要企圖用計算機去取代人的一切。
一旦邁過紅線，嘗試讓計算機完全替代人，替代人去從事創造性的科學研究，事態就將失去控制，這絕不只是說說而已，而是在計算機能力突破閾值、徹底失控後，必然會發生的空前絕後之浩劫。
誠如自己之前所想到的，那種危機中，計算機的角色並非屠夫，或者惡魔。
而是創造性思維的無限延拓，遲早會讓“計算機+AI”的存在，變成某種人類根本無法掌控、甚至無法理解的東西，繼而在其（或許並非惡意）的行爲中深受其害。
就像孵化的寄生蜂幼蟲，吞噬寄主，其無非是按基因編碼行動，卻會導致寄主的滅頂之災。
景象令人不寒而慄，匆匆吃過早飯，在房間裡踱步休息，方然強迫自己不要再思考這一問題，而將其推延到遙遠的未來。
否則，稍加思考，他就難免會頭痛萬分。
辦法似乎是有的：
要避免計算機失控、成爲新的神祇，就不要開展“計算機科研”的研究。
可這樣一來，對“那個人”而言，情形就會變得極其惡劣，需要單槍匹馬、充其量以計算機爲工具，獨力面對客觀世界，去嘗試推動人類科學技術的進步。
一個人研究科學，推動進步，這樣做的難度會有多高呢，簡直就是不切實際。
但由於計算機失控的風險，這，卻是“那個人”唯一可行的策略。
科學技術的發展，因人類消亡而無以爲繼，這是一個很棘手的問題，但，問題還不止於此。
倘若不進行“計算機從事創造性科學研究”的探索，毋庸諱言，也就斷絕了“用計算機模擬人類意識”的可能。
無法在科研領域替代人的AI，是不可能與人腦相提並論，進而，也就無法研發出這樣的計算機系統，其能夠承載人的意識。
換言之，一旦顧慮失控風險、拒絕讓計算機成神，也就斷絕了“計算機中永生”的路。