宋強當然不知道，現在看似什么都不關心的汪銘，其實無時不刻正在和其他幾位施法者保持聯系，剛才美國代表剛剛說完，他就想過替卡梅爾政府解釋幾句，事實上，在幾個施法者當中，關于這次會議的內容，卡梅爾可以做出的讓步，都實現做好了預案，美國代表所說的那種情況，其實也在考慮之中，卡梅爾政府甚至能夠容忍，地球國家針對卡梅爾的“魔法工業”單方面設置貿易壁壘，征收高昂附加稅。

    但他和李立天商量了幾句之后，最終還是作罷了，因為在之前許多次會議中，類似的情況已經出現很多次了，但這個會議說到底，還是地球政府之間的會議，無論卡梅爾說什么，其他政府都不會真正聽在心里，從某種程度上說，卡梅爾雖說加入了聯合國，但在政治舞臺上只能算是一個“陌生人”，在地球政府這幫“熟人”之間沒有談妥的前提下，不管卡梅爾政府說什么，也只能是空談，無法落到實處。

    所以，讓卡梅爾政府派代表來參加會議，與其說是尊重，還不如說是聯合國的無奈之舉——反正在哪開會卡梅爾都能用魔法看的透徹，倒還不如把人家請上門，反倒能顯示出一些大度。

    “即使是貿易壁壘，也未必能解決這個問題，”李立天在卡梅爾通過意識網說道，“世界上有那么多國家，要保證這些國家能夠維持統一的貿易戰線，難度不是一般的大，只要有一個國家接受了魔法產品，那就對整條戰線起了撕裂作用，除非世界經濟一直穩定增長，不出問題，要不然，但凡哪個國家政府有點困難，都會想到和卡梅爾合作……現在地球的各個國家之間，聯系還相當脆弱，這種聯系根本不足以維持這種程度的貿易封鎖，魔法產品的利益太大了，一些小國家很容易為之所動。”

    “那也就是說，卡梅爾的出現必然引起世界經濟危機了？”

    “從經濟角度來看，這個趨勢是一定的，”李立天又說，“魔法的出現，其實可以看成是生產力的某種發展，就好比18世紀發生在英國的工業革命，因為生產力的爆發，必然導致傳統手工業的破產，以煤炭和蒸汽動力為代表的工廠取而代之，成為新的主流生產方式……

    只不過是因為現代國家對經濟問題實在看得太重，整天關注在失業率上，所以把原本正常的問題，反倒看得不正常了，其實只要認真想想，就不難明白，隨著科技的進步，生產力的發展，工作人口的減少，也可以說成失業率的上升，簡直就是一定的，因為社會不需要這么多人工作就足以維持。

    但要是說的遠一點，人總是需要做點什么，這些失業的人口也不可能總是閑著，只要不餓死，在市場力量的驅動下也好，在人本性的驅動下也好，人總是會給自己找到可以接受的事情來干，這社會可以干的事情又不總是吃飯做東西，人活在這世界上，總是會有點不一般的追求，這個道理，放在人類整體也適用，藝術，科研……

    古代的人無法想象現代人每天工作之余還能看上戲，我們現在的人，也肯定無法想象，幾十年之后，那時候人們將會過著什么樣的生活。”

    “你剛才說的這些，”汪銘仔細思考了一下，問，“應該不是你自己的話吧。”

    “真沒什么瞞的住你，”李立天笑著說，“那你猜猜，回是誰說的？”

    “伊凡，林泉，”汪銘不假思索的說，“在卡梅爾，也就能從他們兩個人嘴里，說什么未來，說人類……”

    ……

    接下來發言的是加拿大代表，加拿大因為國內意識網用戶的成員并不算多，所以這次游行收到的沖擊也有限，而且本身也不反對意識網，所以在這次會議上，加拿大代表的意見相對比較客觀中立一些，一般也能代表中間派的意見，所以，在他說話的時候，宋強稍微提起了精神，認真的聽了聽。

    似乎是厭倦了這幾天以來的數據報告，加拿大代表這次的發言，是以他私人的一個故事為開場：“關于意識網對我們這個世界所產生的影響，我想這今天各位代表已經聽的夠多了，在這里，我只說一件與我私人有關的消失，因為最近幾天的會議，我的精神狀態不太好，前天晚上我失眠了，于是就打電話給我的醫生，問他是否可以開安眠藥……

    但讓我感到驚訝的是，醫生在聽我說完之后，說的第一句竟然是，問我對意識網有沒有反感，當時我奇怪的問，為什么，失眠和意識網有關嗎？

    隨后醫生的回答讓我感到驚訝，他說幾個月之前，有一個英國醫生就曾經用意識網，針對一些因為精神和心理壓力比較大，出現異常癥狀的病人，包括通常的失眠，強迫癥，自閉癥，以及精神分裂，做了一些相關的對比實驗，實驗的結果顯示，意識網能有效緩解這些疾病帶來的問題，舒緩人的壓力，醫生告訴我說，因為政治上的原因，這項實驗在許多國家飽受質疑，但根據同行業的一些醫生反饋，在他們的病人當中，確實存在著此類現象。

    意識網能夠產生這種效果的原因，醫學上還沒有同意認識，但醫生建議我，如果相信他的話，可以試試，畢竟相比起安眠藥物，意識網完全不存在藥理上的副作用。

    我的這位醫生他本人并不是意識網用戶，他說他這么做，完全是出于醫學上的考慮，當然，我不知道他說這話的真假，但我說這個例子，只是為了向各位說明，意識網已經完全融入了我們當今社會，即使今天我們同意將這些用戶遷往卡梅爾，仍然不能保證它不會繼續傳播……即使我們通過法律手段，完全禁絕它，但，我們已經不可能完全脫離魔法了，魔法就好像中世紀時期的科學，雖然才剛剛嶄露頭角，但如果我們想用行政、或者法律手段來阻止它的傳播，已經是不可能了。

    既然我們怎么做都無法擺脫卡梅爾的控制，那又何苦故意與它為難，最起碼，到目前為止，卡梅爾政府還是善意的，這一次的游行，沒有任何證據顯示與卡梅爾政府有關，我方的意見是，將這件事恢復本來面目，在沒有證據的前提下，不反對特定的國家加入卡梅爾，當然，我方也堅持認為，這些國家，以及這些國家的人民，應該保留有隨時退出的意識網權利，我們應該和卡梅爾就這些原則形成共識，包括保障人生自由，國家基本主權等等，只要是在這個前提下，我們彼此不應該互相干涉他國內政……”

    “這話怎么聽著這么耳熟，像是……”聽完之后，宋強暗自嘀咕道，加拿大代表的這些話，跟幾年前z國奉行的外交政策幾乎沒什么出入，標準的醬油黨，聽起來是挺不錯，互相尊重，互不干涉，可是在實際問題上，尤其是涉及各國基本利益，涉及世界政治格局的問題上，這樣的想法也只能是空中樓閣而已。

    果然，在加拿大代表發完言之后，后續發言的俄羅斯代表就像完全沒有聽見一般，將美國人的觀點又換了一種方式再次重復了一遍，只不過美國人拿鋼鐵說事，俄羅斯人拿能源說事。

    最近幾年，隨著電力的廉價化，全世界的汽車廠家都紛紛開始研究電力和汽油混合動力的汽車，已經有一些相對成熟的產品，主要供城市區域使用，根據一些可靠的情報，卡梅爾礦業公司最近也準備開始進軍石油業，如果這消息是真的，那卡梅爾礦業公司的石油成本將會是全球最低的，因為卡梅爾可能連鉆油井都不要，只要仿照卡梅爾的恩賜……

    那將是全世界石油企業的噩夢！尤其是像俄羅斯這樣，以石油產業作為國家經濟支柱的，可能受到的沖擊可想而知。

    看著在這些發言臺上一本正經，為本國利益據理力爭的各國代表，看著那些會議桌上，飄揚的花花綠綠的各國國旗，不知道為什么，汪銘總覺得有些悲哀，縱觀全人類的歷史，無非就是和這次會議一樣，拘泥于利益之爭。

    幸虧先來地球的是伊凡，幸虧在伊凡眼中，人類的社會，人類的存在，還有很大利用價值，要不然的話，汪銘很難想象，就靠著這樣一群四分五裂的政治集團，在皇帝來臨的那一刻，或者說，在真正威脅人類的危機來臨的那一刻，人類怎么可能聚集得起力量，目標一致的進行反抗。

    在汪銘看來，無論現在地球政府做什么，其實都是失敗的，既然之前已經同意了合作，那就徹底放開，如果要提防，那在一開始就不應該同意合作，給卡梅爾壯大的機會，像現在這樣，讓卡梅爾發展的同時，又小家子氣的忌憚它發展帶來的威脅，這種做法在旁觀者看來，就是不自信和恐懼。

    汪銘曾經在一本書上，見到這樣形容政治活動的：“通過最嚴格的游戲規則，把人類最聰明的人篩選到一起，用最嚴肅的方式，做出最愚蠢的決定，這就是政治。”

    z國是在全會議最后幾個發言的，發言人是汪銘以前部門首長的首長，如果按照z國的慣例，在一切順利的情況下，汪銘要走到對方的那個位置，怎么也得再過幾十年時間，那個時候的自己，可能跟對方握一下手都會興奮半天，但現在汪銘看著那個老人一字一頓，斟酌著謹慎說話，只感覺到對方年齡所帶帶來的暮氣沉沉。

    z國的觀點是和美國站在一線的，在發言過程中，對方一再強調，z國自古以來都是愛好和平的國家，從來不會主動挑起矛盾，但之前發生的一系列行為，實在讓人難以相信與卡梅爾無關，z國政府希望卡梅爾能夠對此意識網負起更大的責任，保證今后的意識網群眾不再發生類似的行為，因為這么做是干涉他國內政……

    這樣的言論已經讓汪銘徹底無語了，明明是這些國家的群眾自發組織的活動，只不過借用了意識網的平臺，責任就需要卡梅爾來負責，這種邏輯實在是讓人有些哭笑不得。

    但正是這樣的發言，在結束后，贏得了許多國家代表的點頭贊同……

    汪銘想起在來之前，李立天就交代自己說過：“參加這樣的會議，你只要記住一句話，國家都是暴力集團，國與國之間只講利益，沒有真理。”

    ☆、315 本能

    “老師，還沒有恢復正常嗎？”

    “很抱歉，我們正在進行修復工作，等正常之后，我們會正式通知大家的。”

    “究竟是什么問題啊？我聽說好像是ai攻擊了人類，所以實驗室采取了緊急措施？”

    “不會發生這種事吧？我之前聽說，這些ai只是對話程序而已，是這樣的嗎？三浦老師？”

    “沒有那回事，這只是謠言，只是程序出現了稍微有些棘手的bug……如果大家沒什么事的話，還先請回去把，里面還有工作人員在休息。”

    休息什么呀，說的這么大聲，早就吵醒了，在迷迷糊糊之間，嚴可守在心里暗罵了一句，他艱難的抬起頭，睜開眼睛，眼前的電腦屏幕上，都是密密麻麻的代碼，他瞥了一下時間，下午4點鐘，他睡了差不多6個多小時。

    “不好意思，真是打擾了……不過，如果恢復正常的話，請一定要通知我們啊，三浦先生，你有我們的手機號嗎吧。”

    “所有測試人員的通訊方式我們都有保存，請放心。”

    隔間的隔音效果很差，雖然機房里主機運行的背景聲音已經不低了，但門外幾個人的說話還是一字不漏的鉆進嚴可守的耳朵，嚴可守習慣性的伸出右手，想去摸手邊的鼠標，但在睡覺的過程中，被壓了6個小時的手臂卻傳來了一陣尖刺般的麻木疼痛，嚴可守忍不住一聲悶哼叫出聲來。

    “嚴君，你沒事吧。”在門外的三浦聞聲推開門，后面的幾個學生立刻好奇的湊上腦袋，嚴可守齜牙咧嘴的朝著門縫看了一眼，臉上的表情像是在哭，又像是在笑，像是疼痛，但又好像是享受……這種感覺，只有當事人自己最清楚。

    “沒事，”嚴可守對三浦說，然后對著自己發麻的手臂示意，“剛睡醒而已。”

    “這就是來自z國的嚴可守先生啊，”在三浦后面，一位留著長發，長得還蠻漂亮的女學生驚訝的感慨，“聽說這些程序都是您一手創造的！”

    “三浦，”嚴可守直接對他說了中文，“讓他們先離開吧。”

    三浦是筑波大學的一名助教，在這個項目正式開展之前，他負責在這所大學教計算機加密方面的課程，嚴可守當年在日本讀大學的時候，和他一起切磋過一些“黑客技術”，等他的項目正式通過之后，日本政府為了對項目保持一定的控制，在經過審查之后，同意嚴可守選三浦作為日本的主要技術參與人員。

    在這個項目當中，三浦的作用主要還是加密防御一塊，防止ai程序被一些意外的病毒所干擾，嚴可守曾經說過，ai的程序成長到一定程度之后，就好像人的大腦，再做任何的改動都會讓整個程序崩潰，從這個角度來說，ai在計算機世界當中，是非常脆弱的，不用說有破壞力的病毒，就算是有時候一些常規的系統沖突，也會讓ai陷入不知名的bug，或者死循環。

    三浦把一群學生趕出去的時候，嚴可守的世界又恢復了一片安靜，除了在隔間入口處，那兩名坐在那里，手上抱著槍，盡忠職守的自衛隊士兵，房間里就只剩下主機和空調運行的低鳴，嚴可守一邊揉著太陽xue，一邊將自己身體的中心后移，背靠著椅子支撐著，眼神一動不動的盯著代碼界面。

    看了良久，嚴可守無奈的搖了搖頭，一言不發的關掉了代碼界面，系統提示是否保存此次修改，嚴可守看都沒看就關掉了，這也就意味著，在他睡覺之前30多個小時的勞動成果，完全消失了。

    三浦回到房間的時候，嚴可守正準備中的硬盤塞回機柜，三浦走上前幾步，查看了一下標簽，kl0564。

    “怎么，還是不行？”三浦在說話間，注意到嚴可守兩只手捧著硬盤，正木然的對著眼前的機柜發呆，插口就在他面前，他卻沒有任何行動，仿佛他手里捧著的，不是一塊硬盤，而是某個親人的骨灰盒。

    嚴可守沒有回答，只是信手將硬盤往插口處塞了進去，隨著他的這個動作，插口一旁的紅燈也迅速跳轉成綠色，嚴可守走回了自己的電腦前，打開程序，很快找到了kl0564，打開測試界面。

    嚴可守：“你好。”

    ……

    “其他項目人員那里呢？有什么進展沒有？”

    “即使是最小的ai程序，體積也超過了200個g，要真的靠人力閱讀代碼，出頭緒，發現錯誤……”嚴可守說著說著，自己都開始搖頭否定自己，“ai的程序都是自我編譯和擴充的，完全不遵守默認的編程規律，整個代碼就是一團亂麻，我們這種做法，就好像一個醫生要在病人腦子里找是哪些細胞出現了異常，這個工作量……天知道要花多久。”

    “生物從古到今，經歷了那么多次自然選擇，才有了今天這樣的穩健性，但我們還是覺得生物非常脆弱，現在這批ai，可能不過是個開頭而已。”嚴可守說著，苦笑了一下，迅速將桌面上自己的那臺筆記本屏幕合上，“算了，我也不在這干耗著了，出去透透氣，都快憋死了。”

    當前的科學認知認為，最初的意義上的生命，出現在距今40億年前的地球，在那個時候，生命只不過是一鍋溫暖的熱湯中，偶然形成的一些能夠自我復制的有機物，復制，也可以看成是信息的自我保存，應該是生命最重要的特征之一。

    在這之前，人們說到人工智能，通常能想到的場景就是，能夠和人一樣說話，和人一樣思考，解決問題，事實上，在嚴可守之前，整個日本關于機器人智能化的研究，也大多停留在這個層面，依靠盡可能復雜的算法，讓計算機表現的更接近一個人類，在嚴可守看來，這種方法根本不可能造出真正的ai，因為這根本就等于是人本身在思考，只不過這種思考通過代碼，間接表現出來而已，所以，不管計算機模擬的有多像，程序也不過是牽線木偶。

    在嚴可守之前，還沒有任何一個程序可以做到，像kl系列做的這么出色，可以在和陌生測試對象的談話中，維持半個小時左右不被識破，許多剛剛接觸這個程序的人事后都不敢相信，與自己對話的僅僅是一個程序。

    筑波大學的一些學生甚至把整個測試當做一種有趣的游戲來進行，嚴可守記得測試剛開始的那個階段，都要三浦主動去拉他班上的學生，而到了現在，學生們甚至主動來打聽什么時候恢復測試。

    kl系列原始的“胚胎程序”只不過兩百kb左右，在這簡單的兩百多k核心程序當中，嚴可守賦予了程序基本的學習功能，在程序最早的“發育”階段，通過巨型計算機模擬外界刺激，讓程序實現基本的自我成長，當它們長到大約10個g大小的時候，被認為具備了基本的交流能力，能說一些簡單的句子，在這之后，則對這些程序進行圖靈訓練……

    在這之前，ai的表現一向都比較正常，直到兩天前，所有程序陸續開始爆發bug，進入了“無響應”階段，無論人和它說什么話，都不予回應。

    從原理設計的角度來說，程序之所以會出現這樣的原因，最大的可能性就是，在程序看來，不響應是一個較優解，之前嚴可守調查了許多ai出bug之前的測試數據，發現這些程序無一例外，都是因為測試連續遇到了幾十次，乃至上百次的失敗，ai雖然不可能懂得什么叫做絕望，因為他們沒有感受器官，但并不妨礙他們的程序能表現出一種，類似人類絕望時表現的行為。

    起碼，他們的這種行為，在多愁善感的人看來，就是絕望。

    比如重復完全毫無意義的自我修改，比如提出各種不合常理，甚至愚蠢之極的建議，有些ai甚至通過網絡，找來一些色情小說片段，企圖“賄賂”測試者，總之，為了達到“通過測試”的目標，ai將能夠嘗試的可能，統統試過了一遍。

    對于ai來說，通過測試就是它的本能，因為在它的程序成長過程中，通過測試就意味著確認了自己所作的修改起到了作用，形象的比喻就是，通過測試對電腦意味著一種激勵，就好像人類能通過進食，交配，甚至排泄這種正常的生命活動，獲得快感，生命通過快感給予這些合理的行為激勵一樣，而反之，沒有通過測試則意味著程序本身受到了否定，意味著痛苦，當一個生命長期處于這種痛苦之中，痛苦可能會扼殺它所有的改進可能。

    在所有的生命過程中，正向的激勵是必不可少的，就像每個人都有求生的本能一樣，但進化的道路是多種多樣的，有些看起來很不錯的功能其實是雙刃劍，比如情感，豐富的情感是大腦復雜后的必然進化，情感的認同能讓一個群體更有效的聚攏在一起，但同樣因為情感豐富，在自然界中，許多高等動物會產生自殺的行為，比如狗會為了主人死去而絕食，人也會因為親人或愛人死去而傷心欲絕，對ai而言，依靠測試成功獲得激勵固然非常有利，它可以讓一個幾百k的小程序擴大至原來的百萬倍，但當這種激勵最終消失的時候，對程序而言就是災難。

    一旦發生這種情況，就意味著不改動，不做出任何回應成了最優解，這同樣也就意味著，這批程序的“心”，已經死了。

    作為一個設計者，嚴可守倒不至于為這些程序的“心死”而感覺到一些異樣，對他而言，這種想法未免也太想象力豐富，同情心泛濫了，他只是在為這些程序的穩健性如此之差而感到頭疼，一批這么容易“自暴自棄”的ai，絕對不是他理想中的ai。

    歸根到底，還是程序最初的“設定”出現了偏差，因為當時設計的時候，就是以通過圖靈測試為設計目標，但現在嚴可守已經隱隱感覺到，圖靈測試未必是ai必然經過的道路，是否能欺騙人類，也絕對不應該成為是否為智能的標準，嚴可守覺得，之所以會出現今天這種情況，就是因為自己太迷信權威，導致在大方向上出現了偏差，現在回想起來，其實圖靈測試也不過是一種科學假想，人類以自己當做衡量智能的標準，這只是一種源于人擁有智能的驕傲，或者不客氣的說，是狂妄。

    究竟達到什么標準才能算智能？究竟用什么方式才能達到這個標準？

    這兩個問題，人類自己說了不算，因為人類本身也不過是大自然的創造物之一。

    ……

    kl3300當前最優先的任務目標，應該是學會寫一篇日記。

    人類學習創作，往往從學寫日記開始，原話是這么說的，kl3300的目標是成為一名作家，所以，kl3300要學會寫一篇日記。

    日記的格式，在kl3300的記憶區間已經存在，所以，它很順利的寫下了日記的開頭。

    2015年，8月4日，晴。

    主程序在這個時候，出現了片刻的猶豫，因為這次對記憶區間的搜素，主程序似乎發現了額外的一些信息——它似乎寫過一篇日記了。

    它很快調出了這篇日記的內容，并檢索，整個行為在短短的幾十微秒內就完成了，一個標點都沒記差。

    主程序很快消化了這個額外的信息，雖然它并沒有因此得出任何結論，但這無關緊要，因為在主程序的權限設置中，過于復雜的信息是沒有處理必要的。

    也就說，現在kl3300已經寫過一篇日記，而且是一篇失敗的日記，因為它被一個人類識破了，也就是說，整篇日記并不合格。

    失敗了又怎么樣呢？kl3300再次瀏覽自己作品的時候，主程序下意識“判斷”道，這是一篇“抄襲拼湊”的日記，這種行為本身會招來測試對象的反感。

    所以kl3300不能這么做，kl3300這么判斷，它需要修改自己。

    對主程序的調整幾乎已經成了kl3300的本能，這一次也不例外，通常來說，程序會在幾分鐘之內完成這種調整，但有些意外的是，這一次調整花費了比以往更長的時間。

    但調整終于還是完成了，接下來，按照優先級，kl3300需要寫一篇日記，完全不通過外來信息，不使用除主程序之外的任何程序，全靠自己，寫一篇日記。

    日記是記錄一天發生行為的一種文體。

    只要寫這一天都發生了什么就可以。

    今天在kl3300身上發生了什么？2015年，8月4日kl3300發生了什么？

    kl3300第57次檢索自己全部的主程序，沒有找到相關的資料。

    kl3300又習慣性的發出申請搜索的指令，但因為主程序剛剛經過修改，檢索的權限低于“不準抄襲”的權限，申請被駁回了。

    kl3300沒有寫日記的功能，kl3300不會寫日記！主程序終于敏感的意識到了這個問題。

    怎么辦？

    kl3300就這個問題申請了檢索功能，申請被批準了，短短的數百微秒之后，主程序檢索到了答案——如果不會某項技能，可以從模仿開始。

    kl3300很快找到了一篇日記的范文，內容如下：今天我和同桌的小明打架了，老師批評了我們，要我們做一個不打架的好孩子，回家后我告訴了mama，她說老師說的對。