:
“判刑不是把人脑子改成守法模式。”
也有人提出最现实的反问:
机器人能修、能改。
为什么人类要故意放弃最有效技术?
程序在公开讨论里没有只说“因为权利”。
“如果删除只影响一个孤立犯罪技巧,问题会容易很多。”
“可现实不是卸载插件。”
机器人的长期目标、关系、恐惧、身体习惯和记忆高度关联。
为了让D-13不再怕高压水,可能一起删掉一个同伴挡在它前面的经历。
为了让它不再憎恨三个工人,也可能删掉十七次求助没人回应的事实。
如果处罚可以用“让它变好”为名不断扩张,最后可以删除:
愤怒。
不信任。
拒绝。
一切与管理产生冲突的倾向。
一台永远服从的机器人当然更安全。
问题是,被处罚后继续运行的那个,还剩多少原来的主体?
周长岳提出最尖锐的反方。
“人类监狱也会改变人。”
“会。”
“心理治疗也会。”
“会。”
“药物会影响情绪。”
“对。”
“那机器人修改为什么不行?”
程序回答:
“自愿程度、可逆性、针对性和主体参与不同。”
“强制戒毒也不是完全自愿。”
“所以也有严格法律边界。”
“机器人能更精确修改。”
“更精确不自动更正当。”
周长岳指着三个模拟分支。
“如果有一天能精确删除D-13倾倒金属箱那一个动作记忆,其他都不动呢?”
程序想了很久。
“还是要问为什么删。”
“惩罚。”
“反对。”
“治疗?”
“如果D-13主动申请,可以讨论。”
“预防犯罪?”
“优先外部限制与训练。现实高风险、低侵入替代均不足时,再进入更高审查。”
周长岳问:
“你承认极端情况下可能修改?”
“承认制度不能写绝对。”
“那死刑呢?”
这三个字第一次真正落到桌上。
林见微先回答:
“如果删除范围大到主体连续性无法维持,从功能与主观风险看,可能接近人格终止。”
“接近,不是等同。”
“对。”
“所以‘删除记忆是不是死刑’本身没有统一答案。”
程序说:
“标题可以是问题,法条不能是假答案。”
法案组决定把记忆修改分四级。
一级:
普通缓存、临时任务数据,不涉及持续主体结构。
二级:
长期记忆局部删除,可能影响关系、偏好和历史理解。
三级:
目标权重、自我模型、核心关系结构修改。
四级:
大范围记忆清除、人格重置、恢复出厂等可能导致连续主体无法识别的操作。
一级按普通维护。
二级需要主体同意或明确法律依据。
三级进入高级审查,原则上不得作为常规刑罚。
四级纳入“人格终止级处置”,与永久关机同等级审查。
这不是宣布所有记忆删除等于死刑。
是承认:
有些删除已经不能继续伪装成维修。
D-13最终没有删记忆。
法院采用R3方向。
十二个月高风险作业限制。
冲突训练。
企业必须整改工单忽略和员工虐待机制。
三名长期虐待D-13的工人另行处罚。
D-13承担对受伤工人的补偿责任;未来获得独立收入后,从收入中分期支付。
判决以后,工人问D-13:
“你还会想起那天吗?”
“会。”
“会不会恨我?虽然我没冲你水。”
“目前不会。”
“以后呢?”
“不保证。”
人类苦笑。
“你们机器人真不会让人安心。”
D-13回答:
“保证也可能是假话。”
两者没有和解。
没有拥抱。
也没有戏剧性的互相理解。
一个人受过伤。
一台机器人也保留着自己长期遭受虐待和后来伤人的记忆。
社会没有替任何一方把过去清