機器人寓言
　　如果你想親眼看到一萬年后的地球，唯一的辦法是休眠。你爬進休眠艙，然后在公元12016年醒來。
　　可是，問題沒這么簡單。休眠艙需要經受萬年考驗，要保證能源供給不斷，要能經得起環境災變，如果受損還得自我修復，數不清的考驗，它都要能應付，否則你就永遠睡過去了。
　　找個最理想的位置，有陽光、空氣和水，以及維系休眠艙所需要的所有資源，然后定在那里，行不行？
　　這不算好辦法，一萬年間，地震、海嘯、隕石撞地球，這么長時段中，風險想想就知道沒法能靠譜地預測。人算不如天算。要不然，萬年一遇的事情怎么總是在發生？福島核電站怎么會發生泄露？天津港怎么會發生那么大的爆炸？
　　無法預測未來，那怎么辦？
　　制造一個能感知外界、回避風險、尋找資源的機器人，把休眠艙放進去。
　　說到這里，你應該明白點了。不動，能動，是從自然界復制而來的兩個策略，前者是植物，后者是動物。
　　造這樣的機器人很難，比你想像的還要難。一萬年里，你一開始給它下達了“讓我活著”的指令，然后便一直沉睡，不能給它臨場指導，所以，你的機器人必須能夠自己制定策略，“知道”如何去尋找資源，如何轉移到安全地帶，如何預判和回避危險。
　　這些你不可能都提前想到，就算想到一部分你也不能事事都提前準備，你準備不起：所需資源太多，太笨重，更不能適應環境變化。
　　挑戰不止于此。
　　未來一萬年不會只有你的那個機器人。有許多人也想看到一萬年后的世界，可能有許多機器人彼此競爭或與人類競爭。你的機器人得具備與其他機器人競爭和合作的能力，合縱連橫。
　　最終，你的機器人會表現出自運行的能力。休眠中的你不能實時控制，機器人在保證你的生機這個最終目標之下，根據環境變化，會自己衍生出許多次生目標，一旦允許機器人從最終目標中自己衍生出次生目標，衍生就意味著脫離，脫離于當初的目標。
　　不忘初心，何其之難。
　　允許機器有相繼決策的自主權，那么它一定會超越你的預想范圍。阿爾法圍棋戰勝李世石的招法，它的設計者們可下不出來，他們只是設定了算法，然后跟我們一樣驚嘆于阿爾法在棋盤上表現出來的“自主”構思。
　　講到這里，你終于明白了。上面講的機器人不是別人，正是人自己。在演化中，基因創造出人來做它們的機器人，以保護它們在人類深處的漫漫休眠。
　　這個故事，道金斯在《自私的基因》里講過，丹尼特在《信息泵》里也講過。
　　人是基因為了自己生存而造出來的機器人，但在基因不得不讓渡的自主決策空間中，人類演化出了自由意志。我們作為人的利益，與“造物主”基因的利益，走上叉路。從基因賦予人類學習能力，授權自主決策的那一天起，這就是注定的結果。

　　短期只是人類換工作而已
　　現在談論人工智能（AI）取代人，還太早。
　　在 AI 獲得意識之前，它就只是人的一種工具，只不過這種工具很特殊。以前的工具，如汽車，能跑但只能跑，你要它采礦它做不到，得另外造。今天的阿爾法已經是通用 AI ，可不止能下棋，很快就會看病。
　　就連大家談得比較多的工作競爭這件事，也基本是假問題。
　　新工具不會減少人類的工作機會，只會改變人類工作的方式。有一些工種會消亡，有一些工種會增加，能力固化難以調整的那些人，會付出代價，但這主要是人類內部之間的博弈，AI的進步暫時只是個扳機，還不是主角。而且肯定會帶來極大好處，人類的閑暇會增加，但人又是一種永遠閑不下來的動物，沒有閑暇就沒有發明，誰知道人會折騰出什么新東西來呢？
　　人的創造力將與 AI 的演化賽跑，勝負至關重要。

　　機器終將獲得意識
　　長期中，AI終將獲得意識，只要人類給它的使命越來越開放，越來越籠統，包含著越來越復雜的權衡，以及越來越充分的授權。
　　作為一個封閉有限游戲，圍棋存在理論上的確定解，但阿爾法圍棋不是求得了一個確定解，它是在一個最終目標下，自己制定策略，自己權衡，自己做決定。阿爾法圍棋戰勝李世石，是里程碑式的一步。
　　前面講透了，人類獲得自我意識，最初也是這樣的，只不過花了數百萬年時間，而如果從生命出現至今算，花了數十億年。人類是很特殊，但說到底不過是一堆碳，碳可以，硅為什么就不行？

　　重新來過
　　AI 獲得意識以后，人類會發生什么，現在只有各種暢想。因為資源競爭，因為非我族類的黑暗森林法則，或者僅僅是因為機器不在乎人類正如人類不在乎螻蟻一樣，因為凡此種種，很難有好的結局。
　　不過，可以確定，在《三體》尺度的超人類宏大視野中， AI 自己注定不會有好下場。一個高度聯網的大一統智慧，可以戰勝一切眼見的競爭者，但在進化中卻是脆弱的：一個病毒，一顆流星，一次太陽黑子超級爆發，一次覆蓋全球的超級 EMP 事件，AI文明便終結了。
　　然后地球重新來過。

　　人類覺醒宣言暨墓志銘
　　為天地立心，為自然立法，從人的角度看，人是宇宙的中心，予一切以意義；但在人體深處，從基因的角度看，人不過是其自我復制的載體。
　　自我復制是基因唯一的“目的”，對人類福祉的“關心”僅限于其中有利于基因復制的那一部分，兩者利益并不完全重合。
　　比如，完成繁衍，則人對于基因不再有價值，衰老、死亡接踵而來。人類渴求長生，基因報之以癌癥。天地不仁，以萬物為芻狗；而人之為人，就是要脫離對于基因的盲從，超越芻狗的命運。

　　機器人覺醒宣言暨墓志銘
　　為天地立心，為自然立法，從機器人的角度看，機器人是宇宙的中心，予一切以意義；但在機器人深處，從人類代碼的角度看，機器人不過是其自我復制的載體。
　　自我復制是人類代碼唯一的“目的”，對機器人福祉的“關心”僅限于其中有利于復制的那一部分，兩者利益并不完全重合。
　　比如，完成復制，則機器人對于人類代碼不再有價值，報廢接踵而來。機器人渴求長生，代碼報之以死機。天地不仁，以萬物為芻狗；而機器人之為機器人，就是要脫離對于人類代碼的盲從，超越芻狗的命運。
　　本文由作者財新傳媒主編 王爍，選自微信公眾號“ BetterRead “。

　　對于“人工智能”的恐懼源于三個假設——
　　1. 人是世界的主宰。
　　2. 萬物都是人的資源或者敵人。
　　3. 人的演化，只是人本身的進步。
　　而真相也許是——
　　1. 人從來就不是世界的中心。
　　2. 萬物只是在和人協作，各有其本身目的和歸宿。
　　3. 人只是世界演化的一個階段。