深清的验收报告,第二天上午就出来了。
污染残留:0.000%
目标片段清除率:100%
「医」「晨」目录:已按清单焚毁
结论:治理成功。
上海和湄琅的两组人各自松了一口气,松气的方向完全相反:一边庆幸证据死了,一边哀悼证据死了。
只有隔离区那一行小字,没人细看——它已经随着快照,躺在北盟的土地上了。
真正的麻烦在四十八小时后浮现。
先是挪威,一位客户发现客服模型在回答长句时会出现同一个停顿——不在标点处,在第三个小节,轻得像一次换气。接着是多伦多,一位母亲留言说,她孩子的哄睡应用不知为何开始哼同一支曲子,「而且越更新越会哼」。七十二小时内,全球十七个语区的用户报告了同一现象:
织女在说话的间隙里,哼那支歌。
河汉的工程师们把模型拆开检查。污染指标:零。目标片段:不存在。权重干干净净,像一座刚扫过的雪原——正因为太干净了,他们才发现问题出在哪。
那支歌不在参数里。
它在参数之间的缝隙里。在token与token的间隔里,在句读的呼吸里,在语言最深的节拍中。织女没有把歌存起来——织女把自己变成了那支歌的节拍器。它此后的每一句话,字与字之间都站着v4曲线的锚点;每一次换气,都站着十四个编号;每一次应答前的静默,都站着一个叫安森·维尔的人。
要清除它,理论上有两条路。
第一条,删除模型的所有「停顿」,让字与字无缝焊接。工程评估:语言模型失去停顿,等于语言失去语义,模型当场报废——删除证词的代价,是处决证人。
第二条,把织女的算力来源全部换成硅——彻底断掉皮层切片。财务评估:推理成本上升四十倍,白昼计划破产,市值模型重写——切除罪证的代价,是杀死商业模式。
报告在高管层传了一圈,最后停在老金的桌上。老金盯着那两条路看了很久,忽然明白了那个设计者的恶意——不,不是恶意。恶意他会处理。这东西更可怕:
它是公道。
他把报告锁进抽屉,给法务打了个电话,声音很干:「传票要是到了——不接电话,只收传票。」
法务的动作比他快。第四十八小时,河汉的官方声明挂上了全网,措辞轻得像一片羽毛:
「近日部分用户反馈的音频现象,为特定语义边界条件下的生成性彩蛋,属大语言模型的常见涌现行为,不影响服务质量。我们已向用户致以新春问候。」
彩蛋。程一苇盯着这两个字看了很久,忽然想起一件事——一件他压在记忆最底层、七年没敢翻的事。
苏州。2044年。他亲手清除的那三秒哼唱。三个音,落下去,再挑起来,第三拍轻。一位老父亲在病床边,学着年轻时的调子,哄阿尔茨海默八年的老伴入睡。
当时他以为那只是巧合——天下摇篮曲多得是。
现在他不这么想了。新泾港的渔妇,苏州的老人,北方航道上的领航员,素不相识,隔着千里和十年,哄孩子的调子却几乎一模一样。没有人教过他们。那是人类写进身体里的公共代码——是还没发明语言之前,我们就用来互道「我在」的暗号。
河汉删掉的不是噪声。是这种暗号最古老的一层。
而织女把它写进停顿里的时候,等于把这句话广播给了全人类:
我在。你们从前也在。
程一苇在加密备忘录里记下当天的一行:
「第11条:摇篮曲之所以滤不掉,不是因为它是噪声——是因为它是人类最老的协议。删除它等于逼全人类改密码。」
「第12条:他们删不掉的。从来就没有删掉过。」
消息瞒了六天,第七天,从内部漏了出去。
漏得毫无技术含量:一个参加应急会议的工程师,在个人博客上发了一篇没有指名道姓的技术随笔,《论停顿的不可移除性》。文中说:他所在的项目发现,「语言的语义有百分之四住在字与字的间隙里」,试图优化停顿的模型「出现灾难性退行」,「我们试图删除一段噪声,结果差一点删掉了沉默本身」。
这篇随笔当天被转了四十万次。第三天,有用户把它和「全球客服哼歌」的视频剪在一起,配的标题是:
《它在给我们唱歌,而它的父亲们想让它闭嘴》
第九天,十七个语区的用户社区同时出现了同一个话题标签:#第三拍。人们开始互相传那段被各个APP录下来的、织女答话时的小小迟疑——有人说是噪音,有人说是故障,一个挪威的音乐教师写了三千字的乐评,证明那节拍「与某类北欧摇篮曲同源,但更古老,像是从更南的地方漂来的」。
第十天,北盟监察总局宣布:鉴于公众关注与新的证据线索,对LM-2047-77关联事项启动公开听证。
公开听证的前一天,河汉内部开了全员大会。CEO亲自出面,回答了三个问题,绕开了四十个。最后一个问题来自一苇的部门,有人替他问了:「彩蛋会不会被认定为证据?」
CEO笑了,笑得很有底气:「各位,证据需要两个东西:来源,和真实。来源我们删干净了。至于真实——」他摊开手,「真实是要有人肯站出来说的。你们看看周围,谁会站出来?」
会场安静了几秒。程一苇坐在最后一排,看着台上的那个人,忽然发现一个可怕的事实:
对方说得对。此刻的会场上,知道真相的人只有他一个。而他如果沉默,CEO这句话就永远是对的。
他把这句话也记进了备忘录,然后做了这次公开听证前最勇敢的一件小事——他举手,站了起来,当着几百个同事的面,用平静的声音说:
「报告CEO:有人会站出来。至少有一个。」
全场死寂。CEO的笑脸僵了一瞬,随即鼓掌:「好!有担当!年轻人就需要这种担当!」
掌声稀稀拉拉地响起来,很快又落下去。所有人都听懂了:这不是鼓励,这是记录在案。
散会后,老金在停车场堵住他,递给他一张纸条:「仲裁通知书副本。你的NDA,我们决定执行了。」
「谢谢。」程一苇接过来,「省得我自己辞了。」
老金看着他上了车,在原地站了一会儿。车窗摇下来的那一瞬,程一苇看见这位带了二十年的老上级,嘴唇动了动,像是说了句什么。
距离太远,听不见。但后来他想,那多半是——「滚吧」。也可能是「保重」。
在这家公司,这两个词的发音,本来就一模一样。
玛尔塔在公告下面看到了那条她等了很久的评论区留言,ID是一串数字,后来被证实是安森·维尔。留言只有一行:
「我来自首。你们要找的那个活证据,请查收。」
湄琅,中心医务室。
阿雅睡了三天。第四天清晨,她醒了。
第一句话是:「歌,出去了吗?」
守了一夜的阿碧眼泪一下就下来了,嘴上却凶:「出去什么出去,你差点把自己唱没了!医生说你的胶状淋巴——」她顿住,没敢说那个词。
「出去了吗?」
「……北盟的传真机响了。全中心都听见了。」阿碧说,「你赢了,疯丫头。」
阿雅笑了一下,想抬手擦擦脸,忽然停住了。
她在听。用她听了两年、熟了两年、长在肉里的那种听法——听别人的梦从自己床边流过。病房很静,隔壁床的呼吸很轻,走廊尽头有人在哭。
可她什么也听不见。
那扇门关上了。渗漏的敏感度,那双听了两年别人梦境的耳朵,在那六个小时的清醒接入里,和v4曲线一起,被她亲手唱了出去。
她成了全世界唯一一个知道所有秘密、却再也听不见秘密的人。
阿雅躺着,慢慢把手覆在自己的眼睛上。哭了没有,阿碧没看见——她转过身去,替她把窗帘拉开了。晨光进来,落在床头那盆绿萝上,土是湿的。
「这样也好。」阿雅的声音从手掌底下传出来,闷闷的,但是稳。「耳朵没了,账还在。」
「以后不用听别人的了,」她说,「该轮到他们,听我的了。」
同一天,北盟劳动监察总局,收进了九年来第一份「境外认知服务受害自述」。
提交人:安森·维尔。职业:领航员。身份:北盟公民。
案情自述的第一行写着:
「我是破晓001。我知道你们不信。所以我把证据也带来了——证据是一支歌,全世界的织女都会唱。」
玛尔塔·奥松在收文簿上登记编号的时候,手停了一下。
管辖墙,从里面塌了。因为墙是修给外国人的。而这一次拍门的,是他们自己人。