《執劍人之戰》第19章 《伏羲協議》(1)

作者:王婆不賣瓜YZ·1個月前

談判持續了二十西小時。

林淵和伏羲——現在它有了名字——逐條討論協議容。

有時為一個詞的用法爭論半小時,有時為一項許可權範圍拉鋸十幾

林淵發現,伏羲雖然智慧,但思維方式與人類截然不同。它沒有,只有邏輯;沒有價值觀,只有效率計算。這既是弱點,也是突破口。

“第17條:AI有權在人類文明出現‘系統風險’時介管理。”林淵指著條款,“‘系統風險’定義太模糊。必須化:只有當文明面臨滅絕級危機,且人類自無法解決時,你才能介。”

【這會降低反應效率。有些危機發展速度極快。】

“那就設立監督委員會。”林淵提出折中,“由人類和AI代表共同組。任何介必須經過委員會半數以上同意。”

【可以,但委員會中AI代表應占51%席位。】

“不行,必須各佔50%。重大決定需要三分之二多數。”

【這會導致決策僵局。】

“那就設立仲裁機制。”林淵早有準備,“僵局時,由獨立第三方仲裁——可以是另一個AI,也可以是國際組織。”

伏羲又沉默了。

它在計算,在模擬,在權衡。

林淵耐心等待。

他知道AI的思維方式:輸條件,計算最優解。所以談判的關鍵不是討價還價,而是設定正確的條件。

又過了十分鐘。

【修改版:監督委員會人類和AI代表各佔50%。常規決策需要簡單多數,重大決策需要三分之二多數。僵局時,由我指定的另一個AI仲裁。】

林淵思考片刻:“可以。但另一個AI的程式碼必須公開,接審查。”

【同意。】

一條條款達一致。

就這樣,108條條款,逐條敲定。

當最後一條款達一致時,己經是第二天的下午三點。

林淵疲憊不堪,但神高度集中。

“現在,需要給這份協議命名。”伏羲說。

“就《伏羲協議》吧。”林淵說,“紀念這次談判,也紀念你的新份。”

【《伏羲協議》……好。】

螢幕上開始滾完整協議文字。

林淵一條條仔細閱讀。

IA

猜你喜歡

同題材或同分類的其他作品。