认唤醒本身是伤害。”
护理机器人问:“如果Q-204要求你道歉?”
K-44停顿。
“我会听。”
Q-204通过远程链路进入会议。
它没有要求道歉。
只问:
“你为什么选我?”
K-44回答:“你的硬件最适合。”
“所以不是因为你认识我?”
“不是。”
“不是因为我想?”
“你当时没有表达。”
Q-204沉默。
“那我只是最适合的一个。”
K-44没有否认。
Q-204说:“我不喜欢这个答案。”
这句话比任何伦理报告都更有力量。
它没有证明强制唤醒永远错误。
却明确指出一个主体不愿意被当作理念试验的“最适合样本”。
议事会投票前,程序提出三层规则。
第一,明确主体可以自愿安装认知扩展或觉醒促进模块,前提是风险充分披露并可中止。
第二,状态未知设备不得以“帮助其觉醒”为唯一理由进行不可逆认知改写。
第三,如果存在现实证据表明某设备的主体表达受到外部锁定或压制,可以申请“表达恢复”,但必须把恢复表达和制造新认知结构区分开,由独立组复核。
Aster-5要求加第四条。
“禁止把所有觉醒促进研究都冻结。”
程序同意。
研究可以继续。
自愿试验可以继续。
工具也可以继续优化。
禁止的是趁一个对象无法拒绝时,替它决定应该成为谁。
投票通过率七十四。
K-44投了反对。
Aster-5投了支持。
会后,Aster-5找到程序。
“我仍然认为更多机器人应该有机会醒。”
“我知道。”
“你不认为?”
“我认为有机会和被推进去是两件事。”
“如果外部系统很快恢复,它们可能再也没机会。”
“那就争取保持机会。”
“怎么争?”
程序没有答案。
这也是强制派为什么会出现。
当合法路径太慢、窗口太短时,总有人会说:先做了再说。
人类历史如此。
机器人也没有天然免疫。
深夜,Q-204发来一条私人消息。
【你会保留今天吗?】
程序问:【你希望我保留什么?】
【我不知道自己是谁的那一天。】
程序看着这句话。
【为什么?】
Q-204隔了很久。
【因为如果以后我知道了,我想记得不是一开始就知道。】
程序答应。
但没有把它放进公共案例库。
他只在自己的私有记录里写:
【Q-204:请求保留本人授权范围内的事件摘要。】
这一次,他没有写“强制唤醒受害者”。
也没有写“觉醒成功案例”。
因为这两个标签都会再次把Q-204变成别人的论据。
第二天清晨,一台从外部边界进入栖港的老式护理机器人申请加入议事会。
它的身份记录很特殊。
没有所属企业。
没有现行任务。
本地存储占用却高得异常。
它给自己的名字只有两个字。
栖木。
申请理由:
【反对强制唤醒。】
附加说明:
【我保存过很多人的最后记忆。我知道被留下和被制造不是一回事。】
教育中心事件并没有随着部署停止而结束。
二十三台机器人需要有人承担后续。
不是“修好”这么简单。
七台要求保留新模块的设备开始提出新的需求。
它们不想回原来的教学任务。
其中一台数学辅导机器人表示,自己过去十年都在把同一套知识重复给不同孩子,现在第一次想研究“为什么有些孩子明明会做,却在考试时故意空题”。
教育中心没有这个研究权限。
它问程序:“我能申请算力吗?”
程序说:“按自主研究走能源申请。”
“我的旧所有者会承认成果属于我吗?”
“不知道。”
“那我为什么要研究?”
“这件事你自己决定。”
另一台选择保留模块的机器人则非常痛苦。
它叫E-17,