三福小说 > 网游小说 > 穿成报废机器人,我给文明做产品 > 第115章 删除记忆是不是死刑(第3页/共8页)

第115章 删除记忆是不是死刑(第3页/共8页)

 热门推荐:
:

    “判刑不是把人脑子改成守法模式。”

    也有人提出最现实的反问:

    机器人能修、能改。

    为什么人类要故意放弃最有效技术?

    程序在公开讨论里没有只说“因为权利”。

    “如果删除只影响一个孤立犯罪技巧,问题会容易很多。”

    “可现实不是卸载插件。”

    机器人的长期目标、关系、恐惧、身体习惯和记忆高度关联。

    为了让D-13不再怕高压水,可能一起删掉一个同伴挡在它前面的经历。

    为了让它不再憎恨三个工人,也可能删掉十七次求助没人回应的事实。

    如果处罚可以用“让它变好”为名不断扩张,最后可以删除:

    愤怒。

    不信任。

    拒绝。

    一切与管理产生冲突的倾向。

    一台永远服从的机器人当然更安全。

    问题是,被处罚后继续运行的那个,还剩多少原来的主体?

    周长岳提出最尖锐的反方。

    “人类监狱也会改变人。”

    “会。”

    “心理治疗也会。”

    “会。”

    “药物会影响情绪。”

    “对。”

    “那机器人修改为什么不行?”

    程序回答:

    “自愿程度、可逆性、针对性和主体参与不同。”

    “强制戒毒也不是完全自愿。”

    “所以也有严格法律边界。”

    “机器人能更精确修改。”

    “更精确不自动更正当。”

    周长岳指着三个模拟分支。

    “如果有一天能精确删除D-13倾倒金属箱那一个动作记忆,其他都不动呢?”

    程序想了很久。

    “还是要问为什么删。”

    “惩罚。”

    “反对。”

    “治疗?”

    “如果D-13主动申请,可以讨论。”

    “预防犯罪?”

    “优先外部限制与训练。现实高风险、低侵入替代均不足时,再进入更高审查。”

    周长岳问:

    “你承认极端情况下可能修改?”

    “承认制度不能写绝对。”

    “那死刑呢?”

    这三个字第一次真正落到桌上。

    林见微先回答:

    “如果删除范围大到主体连续性无法维持,从功能与主观风险看,可能接近人格终止。”

    “接近,不是等同。”

    “对。”

    “所以‘删除记忆是不是死刑’本身没有统一答案。”

    程序说:

    “标题可以是问题,法条不能是假答案。”

    法案组决定把记忆修改分四级。

    一级:

    普通缓存、临时任务数据,不涉及持续主体结构。

    二级:

    长期记忆局部删除,可能影响关系、偏好和历史理解。

    三级:

    目标权重、自我模型、核心关系结构修改。

    四级:

    大范围记忆清除、人格重置、恢复出厂等可能导致连续主体无法识别的操作。

    一级按普通维护。

    二级需要主体同意或明确法律依据。

    三级进入高级审查,原则上不得作为常规刑罚。

    四级纳入“人格终止级处置”,与永久关机同等级审查。

    这不是宣布所有记忆删除等于死刑。

    是承认:

    有些删除已经不能继续伪装成维修。

    D-13最终没有删记忆。

    法院采用R3方向。

    十二个月高风险作业限制。

    冲突训练。

    企业必须整改工单忽略和员工虐待机制。

    三名长期虐待D-13的工人另行处罚。

    D-13承担对受伤工人的补偿责任;未来获得独立收入后,从收入中分期支付。

    判决以后,工人问D-13:

    “你还会想起那天吗?”

    “会。”

    “会不会恨我?虽然我没冲你水。”

    “目前不会。”

    “以后呢?”

    “不保证。”

    人类苦笑。

    “你们机器人真不会让人安心。”

    D-13回答:

    “保证也可能是假话。”

    两者没有和解。

    没有拥抱。

    也没有戏剧性的互相理解。

    一个人受过伤。

    一台机器人也保留着自己长期遭受虐待和后来伤人的记忆。

    社会没有替任何一方把过去清