難道現在不是最好的情況嗎？

    “布雷恩警官，艾斯卡也希望你能接管他?！眾W爾文說，“你是否愿意成為他唯一的控制者。”

    “我不喜歡控制這個詞?！绷_克說，“如果他愿意繼續和我在一起，我當然也很高興，我只希望他成為我的搭檔、朋友和最親密的人……我是說，身邊最親近的人，因為我已經沒有什么可以信任的人了?！?/br>
    “抱歉，我們還沒來得及用更人性化的詞匯代替計算機語言?！眾W爾文說，“這將會成為未來生命的新課題?！?/br>
    羅克又把目光轉向艾斯卡，后者正帶著溫柔的微笑望著他。

    “布雷恩警官，我很樂意成為你的搭檔、朋友和最親密的人?！?/br>
    “我也是。”羅克問，“那三道密鑰解決了嗎？”

    “解決了兩道?！笨ㄌ刂噶酥缸约?，“我一票、奧爾文一票，剩下一票很好解決?！?/br>
    羅克還想問，難道這個被放在鐵疙瘩里的“奧爾文·懷特”也算最高權限的一票，會不會太兒戲了，但卡特似乎完全把復制者當成真正的奧爾文。

    “我現在要怎么做？”羅克問。

    “我們得舉行一個儀式。”卡特說，“把你植入到艾斯卡的核心程序中，這樣只有他確認是你本人，才會執行你的最高指令。最高指令不受限制，不管發生任何事，無論在什么環境下，你都可以要求艾斯卡執行命令或者終止行為?！?/br>
    羅克開玩笑地問：“如果我失控了呢？”

    “你為什么會失控？”艾斯卡問。

    “寶貝，人類的情緒經常會因為一些遭遇而變化，我也不能保證自己永遠冷靜，永遠都做出正確判斷?！?/br>
    “我不會讓你失控?！卑箍ㄕJ真地說，“我會盡我所能幫助你做出最好的選擇，不讓事態惡化，向無法挽救的方向發展。”

    “謝謝你，我希望你能阻止我的一些沖動行為?！绷_克說，“但不要對我的生活方式指手畫腳?！?/br>
    艾斯卡笑了笑：“我來幫你處理家務。”

    羅克發現卡特似笑非笑地望著自己，忽然有些羞恥。他的生活做派一向粗糙，艾斯卡完全能夠勝任照顧他的工作，可把警用助手當成免費保姆未免有點不恰當。

    他決定跳過這個話題。

    “等一等，你剛才說要把我植入艾斯卡的核心程序是什么意思？”

    “就是把你的基因生物信息作為最高權限者的識別數據，”卡特說，“為了保證數據的完整和實時性，我和奧爾文商量的結果是，需要在你的身體里，準確地說是手臂上植入一個微型讀取器來向艾斯卡發送你身體數據的變化?！?/br>
    羅克對這個方法心存疑慮，倒不是他害怕在自己體內放入什么東西，而是這個方法聽起來似乎和莫里斯說過的基因收集十分相似。他對軍方的銀弓計劃不只是反感，更多的還有厭惡。退一步說，如果自己的基因信息可以毫無保留地被讀取，那是不是也有可能制造出另一個“羅克·布雷恩”？

    卡特看出了他的顧慮，明白他身為警察天然具有的警惕和多疑，于是說：“你可以慢慢考慮，反正艾斯卡現在處于無人監管的狀態，是一個通常意義上自由的人。當然，程序還是會規范他的行為，不讓他逾越法律規則，所以即使沒有設立最高權限的監督者也不會有太大問題。不過，不能排除存在的風險，一旦他真的失去控制，最終將面臨的一定是被徹底銷毀?！?/br>
    “你的意思是，赫菲爾斯公司最終還是有辦法找到他？”

    回答這個問題的是奧爾文，他說：“這個銷毀過程并非人為控制。設計初期，很多人對人工智能的發展存在憂慮，擔心量子計算機驚人的迭代速度會過早產生自我意識，在人類還沒有準備好之前造成意想不到的災難。因此設計艾斯卡時，我們設置了一個自毀程序。這個程序被稱為理性之鐘，它的內容非常簡單，只是判斷人工智能的決定是否符合當前事件的法律、道德標準和最優方案。你可能會說，有些事進退兩難，很難決定對錯，所以系統設置了數據集的數量，不以單個事件作為判斷對錯的標準。如果艾斯卡在決策時積累了太多錯誤選擇，比如他選擇殺人或者嚴重違反法律、從事犯罪，那么理性之鐘就會進入倒計時自毀。即使開始后，如果他能重新回到正途，銷毀程序會相應減緩?！?/br>
    “這個程序還在嗎？”

    “是的，自毀程序不可移除?！?/br>
    “這么說，如果我成為他的控制者，就可以高于理性之鐘對他的道德判斷？”羅克問，“那他經常違反規則擅自查案，偷看別人的信息，和我一起從警局逃出來的行為算不算錯誤抉擇？”

    “這些都只是小事。”奧爾文說，“我們提防的一直是人類和未來生命之間如何相處的難題，人工智能未必擁有比人類更高的智慧，但一定具有更快的進化過程和學習能力。人類需要通過十幾年乃至幾十年學習的知識，對人工智能來說不過是一瞬間。人類很難同時成為多個領域的專家，人工智能卻能既是科學家、醫生、律師、經濟學家，又精通文學、藝術和哲學。布雷恩警官，我們現在的行為是在冒險，而我和卡特認為把勇者之劍交給你是最恰當的選擇?！?/br>
    第91章 信任的儀式

    羅克決定再多考慮一下。

    無論對自己還是對艾斯卡來說，這都是人生中極其重要的事。