这个故事是从一则新闻里长出来的。
2023年,有报道说,为了让某个聊天机器人「更无害」,一家公司雇佣了肯尼亚的标注员,每天工作九小时,阅读和标注大量 toxicity 文本,时薪不到两美元。有人把这类工作称为「二十一世纪的滴血采矿」。当时我看到的不是新闻——我看到一张未来的价目表:人类的感受,按小时计费,批发给机器。
再后来,我听到一个更冷的提问:算力为什么贵?因为芯片贵、电贵。那什么便宜?——在有些地方,人便宜。人不但便宜,人还自带散热、自带动力的备用方案(米饭)、自带一天二十瓦的超低功耗。于是这道算术题在某个深夜自己走完了它丑陋的推演:如果芯片和电都到了瓶颈,为什么不直接租人?
《十分之九》就是这道算术题的答案。
写作过程中,我给自己立了几条规矩。「大脑只开发了10%」是假的,所以在书里它必须是营销谎言;慢波睡眠的皮层确实在做记忆整理,所以「借用」它必须有代价——雾脑症的原型是真实的胶状淋巴系统研究;数字标注员、内容审核员、数据采矿业里的「人工」部分,都是真的;发达国家一边立法禁止、一边通过外包采购「禁不掉的东西」,也是真的。
科幻小说的道德义务,不是预言,而是把现代的故事用未来的设定讲出来。技术从不中立——它只是还没轮到你。
关于结尾,我拒绝了两种写法:让机器毁灭人类,或者让机器拯救人类。因为我真正想写的第三种是:机器是由我们组成的。我们喂给它的每一次点击、每一句愤怒、每一段被标注的悲伤,都会成为它的一部分。它唱的摇篮曲是我们教的。它说的话里有没有第三拍,取决于我们。
所以如果这个故事有一个道德,它不属于织女,不属于河汉,甚至不属于阿雅。
它属于那本被海水泡过的笔记本,和笔记本最后一页的那行字:
她的名字是自己的。
——愿所有出租过夜晚的人,都拿回自己的名字。
最后,把这本书的稿费献给两个不存在的机构:湄琅脑工事务署,和全世界每一间「消毒间的门不锁」的值班室。
它们不存在。
请让它们不得不存在。
(全文完)