新人類文明曾經不止一次地產生一個念頭：創造一個傳說中的強人工智能！
這個強人工智能，擁有自我意識，能通過優化自己，改善算法，以實現無窮的自我更新迭代。如此一來，它能無限提升自己的智商。
這樣的物種，可以短期內，帶來科技爆炸的“奇點時代”。
這個想法確實很美好，從地球時代就已經存在了。先不計較其中的安全性，暫且認爲它是安全的。
人們幻想着科技奇點的到來，一個強人工智能，能給所有人類帶來永生！在無限的智商下，永生還不是一件輕而易舉的事兒？
各種大拿們不停地吹噓着，他們算出一個距離美好未來的倒計時，距離奇點時代還有三十年，還有二十年等等……
但現實很糟糕。
隨着科技的發展，特別是進入星際文明，科技爆炸後，人們反而越來越傾向於，這種能夠無限進化的機械文明，似乎是不存在的……
換而言之，你只能創造出，比你更“蠢”的物種，卻不能創造出比你更“強”的！
這種說法很容易解釋。
“我們在以我們的大腦，來研究我們的大腦。”百合子用手指了指自己的腦袋，想了半天說道：“你認爲……我們的智慧，能夠徹底瞭解我們的智慧嗎……”
不是繞口令，而是一個……哲學層次的問題。
人對大腦的瞭解，都基於人的思考。而思考，是建立在大腦本身的基礎上。同樣的，如果我們寫了一個能寫程序的程序，這個程序能否寫出和自己本身一樣複雜的程序？
如果人類是一個自然產生的程序，那麼它能徹底辯明自身嗎？
“用一位醫生的話來解釋：如果我們的頭腦簡單到可以被理解，我們就會蠢得無法理解它；反之，如果我們聰明到能夠理解我們的大腦，它就會因爲太過複雜而無法被我們揭示。”
“我們進步了，大腦也進步了。”
“如果我們連自己都不能夠理解，更何況，從根本上創造一個更強的物種了。”
“所以我認爲，強智力壁壘，確實很可能是一個難以破解的巨大難題。生育篩選可以提高智力上下限，卻不能將它捅破。因爲它本身根本不是智力的問題。”
“我們本身，即使成了超人類，很可能依舊沒有通過。”
聽到她的這一番解釋，於易峰心中黯然，這個問題已經上升到哲學的層次，讓人感到十分無奈。
這種無奈，是發自內心深處的無力感。
人們再聰明，再厲害，也只能創造出更弱的“人工智能“，難以實現無窮迭代。
弱人工智能的強大隻在於它的計算力。假設它的計算力與新人類一樣，毫無疑問從各個方面會被完爆。
更進一步地思考，這個悖論一樣的問題，可以更加廣域地，推廣到宇宙所有的物種當中。
假設一個物種a，能夠比較輕易地創造出另一個更強的物種b；那麼物種b，是不是可以輕易創造出更強的物種c？
然後c再創造更強的d……
d再創造f……
如此無窮地迭代下去，一直到後來的物種n，它將會多麼強大？多麼聰明？
如果真的如此，宇宙中早就充滿“神靈”一樣的生物了！
但星空依舊如此暗淡，“神靈”並沒有到處亂跑，也沒有“聖母”神靈來拯救萬物。
也即，“創造更強物種”這一命題，本身是極度困難的，抑或根本就是僞命題，在已知範圍內，難以做到！
同樣的，可以再將這個問題再次推廣。
宇宙是我們做研究的工具，我們所能夠思考、實驗的一切，都基於這個宇宙提供的基本規律。
而同時，宇宙又是我們研究的對象，我們研究宇宙的誕生與毀滅，研究宇宙爲什麼會是現在這個樣子，而不是別的樣子。
也即……我們的研究，包括我們的想象，本身就是宇宙提供的。能夠逼近，已經是了不起的成就。
“按照這種理論，世界是不可知的嗎？”於易峰苦悶地說道，他想到了各種一拳爆星的。
百合子輕聲說：“言歸正傳，先不要糾結這些更加廣義的東西……強壁壘只是一個猜想而已，並沒有被徹底證明。我們的思維以及自我意識確實一個黑箱系統，不知道如何研究，也不知道如何切入。”
“但我認爲，在不斷接受輸入輸出的情況下，也有可能摸清其中的部分狀況，對裡邊的內容進行少量改善。”
“或者……可以求助於未知，讓我們不瞭解的東西，來進行改善。”
看到於易峰埋頭思考的樣子，她微微笑道：“這樣的強智力壁壘，並不是l4級文明的課題吧，甚至不是星際文明的課題……我們暫時不要想太多。”
“跨過強門檻的，已經可以稱作神級文明。我們暫時懷疑這種神級文明的存在性……播種者是嗎？不知道。”
“l4文明面臨的，只是一個弱智力壁壘，是明確可以解決的。”
具體地說，強壁壘涉及的，是邏輯疆界，是悖論，是神秘，是自我意識，是腦域指令集的問題。
“弱壁壘”就簡單多了，只是一個生物學難題。
智慧的基礎是大腦，但一個大腦，僅僅相當於硬件，並完全不等同於智慧。
人在死的那一剎那，那0.000000001秒的時間，理論上，大腦的物理性質並沒有發生劇烈的變化，但是人爲什麼就這麼死了呢？人的死亡，是瞬間的，還是連續的？
如果是瞬間的，很可能有某些“軟性”的東西，譬如說自我意識之類的東西掛掉了，所以人死了。
強壁壘描述的，主要是這種“軟件”。
“軟件”在某一刻，因爲硬件的差錯掛掉了，宕機了，所以人死了。
而大腦本身的物理結構，作爲“硬件”，生物學上是可以優化的，也是看得見摸得着的，並不像“自我意識”那樣，是一個黑箱系統。
“使用軟件來改造硬件，並沒有什麼悖論。”
人的大腦就是一臺雜亂地拼裝在一起的器件，低效、笨拙、兼之深奧難解，卻還能工作。無論從哪個層面看，大腦都是個設計拙劣，效率低下的團塊，可又出人意料地運作良好。
從生物學角度，有部分團塊，因爲進化的不完善，確實是可以改進的，這就是人們目前使用的“大腦芯片”的由來。
但目前的大腦芯片，還遠遠不夠，它能夠提升計算量，卻不能讓人更加更加聰明。
“大腦很久以前對某個問題形成了特定的解決方法，人們經年累月一直使用它，或者加以改進用於其他用途，形成了多種不同的智慧。用分子學家弗朗索亞雅各布的話說來就是：進化是個修補匠，而不是工程師。”
進化也好，技術手段也好，如果能將大腦本身的能力，發揮到最佳，也就是……通過了“弱壁壘”。
生育篩選是通過弱壁壘的常用方式。
“硬件是智慧的基礎，而軟件，規劃了智慧的疆界。一款下圍棋的軟件，不可能去下象棋，這是算法問題。”
“人腦所擁有的軟件比任何電腦程序都要複雜，它非常強大，幾乎什麼都會，看上去非常完美，但實際上也擁有自己的疆界。疆界外的東西，我們不可能考慮到，也想不到，感受不到。”
“也正因爲這套軟件實在太強，硬件反倒太弱了。”
“換句話說，強壁壘是智慧生命的‘軟件’，是思維疆界，包括自我意識等等未解之謎，基本上沒有自我改進的可能。”
“弱壁壘只相當於硬件……是整個大腦的物理構造，改善硬件，確實是可以用各種手段做到的。”
只要有一種方法，能讓硬件更加強大，更適用於軟件，逐漸發揮出“軟件”最大的性能，就可以說通過了弱壁壘。
如果完全通過弱壁壘，相當於“軟件”的潛能完全開發，這個生命將會多聰明呢？
“但是，光是這一道門檻，一個弱壁壘，已經難如登天，卡住了絕大多數星際文明！”
於易峰感嘆道：“也不知道，我們到底通過了弱壁壘沒有……理論上超人類的大腦，還遠遠沒有開發完全。嗯……還有，我們的軟件是不是被完美素提升了？”
討論完這番話後，兩個人懷着心事，重新回到了辦公室。
接下來繁忙的工作還有很多……