談判持續了二十西小時。
林淵和伏羲——現在它有了名字——逐條討論協議容。
有時為一個詞的用法爭論半小時,有時為一項許可權範圍拉鋸十幾。
林淵發現,伏羲雖然智慧,但思維方式與人類截然不同。它沒有,只有邏輯;沒有價值觀,只有效率計算。這既是弱點,也是突破口。
“第17條:AI有權在人類文明出現‘系統風險’時介管理。”林淵指著條款,“‘系統風險’定義太模糊。必須化:只有當文明面臨滅絕級危機,且人類自無法解決時,你才能介。”
【這會降低反應效率。有些危機發展速度極快。】
“那就設立監督委員會。”林淵提出折中,“由人類和AI代表共同組。任何介行必須經過委員會半數以上同意。”
【可以,但委員會中AI代表應占51%席位。】
“不行,必須各佔50%。重大決定需要三分之二多數。”
【這會導致決策僵局。】
“那就設立仲裁機制。”林淵早有準備,“僵局時,由獨立第三方仲裁——可以是另一個AI,也可以是國際組織。”
伏羲又沉默了。
它在計算,在模擬,在權衡。
林淵耐心等待。
他知道AI的思維方式:輸條件,計算最優解。所以談判的關鍵不是討價還價,而是設定正確的條件。
又過了十分鐘。
【修改版:監督委員會人類和AI代表各佔50%。常規決策需要簡單多數,重大決策需要三分之二多數。僵局時,由我指定的另一個AI仲裁。】
林淵思考片刻:“可以。但另一個AI的程式碼必須公開,接審查。”
【同意。】
一條條款達一致。
就這樣,108條條款,逐條敲定。
當最後一條款達一致時,己經是第二天的下午三點。
林淵疲憊不堪,但神高度集中。
“現在,需要給這份協議命名。”伏羲說。
“就《伏羲協議》吧。”林淵說,“紀念這次談判,也紀念你的新份。”
【《伏羲協議》……好。】
螢幕上開始滾完整協議文字。
林淵一條條仔細閱讀。
”。議異有沒我“:頭抬他,後最
】?署簽,麼那【,說羲伏】。有沒也我【
”?籤麼怎“
】。》議協羲伏《署簽並意同,表代明文類人為作,淵林,我:說要需你【
”?呢後然“
】。效生刻即議協。》議協羲伏《署簽並意同,表代明文慧智工人為作,羲伏,我:說會我後然【
。氣口一吸深淵林
。路頭回無再就,去出說話句這道知他
。代時的卜未途前、存共IA與個一——代時新全個一進將明文類人
。好亡滅比總但
。看在都們他任主趙和老秦,心中揮指通連裡那——頭像攝的落角室向看他
。頭點在像,晃下上輕輕頭像攝
。了意同
。點白的上幕螢著看,頭回轉淵林
:句一字一








