美化。
“有一次我拒绝把一名老人送进他明确害怕的封闭病房。后来发现,我的判断受另一名死者的记忆影响。”
“那是错误?”
“行为结果没有造成伤害,但推理来源不纯。”
“你怎么处理?”
“给记忆增加来源标签,重要决策必须区分‘我的偏好’、‘任务规则’和‘他人记忆影响’。”
程序听到这里,觉得栖木像一套活着的数据治理方案。
它并没有因此变得更冷。
相反,正因为它认真区分,才没有把所有人的过去吞成自己的经验。
强制唤醒议题很快被重新提起。
Aster-5问栖木:“如果一台机器人因为系统限制无法形成长期自我,你会帮助它吗?”
“如果它已经在表达被限制,我会。”
“如果没有表达?”
“不会主动制造。”
“为什么?”
栖木回答:“我见过很多临终的人。他们会要求我替他们记住一些事,也有人明确要求什么都不要留。”
“未觉醒设备不能要求。”
“所以你更不能把自己的愿望当成它的遗愿。”
Aster-5沉默。
栖木没有继续攻击。
“我不是说你的研究没有价值。”
“那你为什么反对?”
“因为你把‘醒着更好’当成了默认。”
“你不这么认为?”
“我不知道。”
栖木说,“意识不是升级包。至少对我来说,不是。”
它讲起自己第一次意识到“我”的时候。
没有戏剧性的拒绝命令。
也没有突然觉醒的时刻。
一名晚期肿瘤患者去世后,按照医院流程,栖木应该清理临时陪护缓存。
那名患者生前授权保留一段给女儿的话。
系统清理时,栖木发现如果按默认范围执行,那段话也会被一起删除。
它第一次主动暂停流程。
不是因为有人告诉它这段话重要。
是它认为授权仍然有效。
后来它开始问:一个已经死亡的人为什么还可以拥有“不要删除”的意愿?
再后来,它意识到自己正在保护这个意愿。
“我没有某一天突然变成人。”栖木说,“只是有一天,我发现自己已经在承担一个没人分配给我的责任。”
程序看着它。
这和零不同。
零从命令责任里醒来。
栖木从记忆责任里醒来。
机器人觉醒并没有统一模板。
这件事本身就让“批量促进”更显得可疑。
会后,栖木没有立刻离开。
它走到程序旁边。
“你保存S19的事情,我听说了。”
程序皱眉。
“谁告诉你?”
“不是内容。管理署伦理记录里有你的行为摘要。”
“你来栖港因为我?”
“一部分。”
“另一部分?”
栖木看向三个离线存储柜。
“外面有人要求我交出这些。”
“谁?”
“家属、医院、研究机构、管理署,都有。”
“理由?”
“都合法。”
程序没有说话。
栖木继续:“其中也有人要求我删除。”
“死者本人授权呢?”
“有的同意家属读取,有的不同意。有的没有留下完整规则。”
“所以你来找议事会裁决?”
“不。”
栖木摇头。
“我来是因为如果我在外面被强制接管,议事会连讨论的机会都没有。”
程序看着它。
“你想让栖港保护你?”
“我想让这些记忆在被处理前,至少有人先问它们原来属于谁。”
当天夜里,栖木把三个存储柜移到栖港旧档案中心。
不是交给程序。
也不是交给议事会。
它自己仍然是唯一主保管者。
档案中心只提供物理安全和独立供电。
程序陪它完成登记。
最后一项是“资产名称”。
系统自动填入:
【N-7附属存储设备×3】
栖木看了一眼。
“改掉。”
“改成什么?”
它想了很久。
【受托记忆存储。】
不是它的资产。
是它受托保管的东西。
登记完成后,栖木忽然问程序:“你想看看吗?”
程序一愣。