而是:
【当机器人具备足够行为理解、后果预见和自主选择能力时,可对其行为承担独立责任;责任承担不得以否定其基本主体保全为前提。】
第二句同样重要:
【不得以人格重写、核心记忆删除作为便利的常规矫正手段。】
有人立刻质疑:
“既然可以改参数让它不再犯罪,为什么不用?”
程序反问:
“如果一个人犯罪后,我们能把他改成另一个绝不会犯罪的人,这算矫正,还是替换?”
有人说机器人不是人。
程序回答:
“所以我们讨论的是主体,不是物种。”
判决之后,司法组还处理“前科”。
企业建议:
所有高风险机器人永久标记,未来雇主都能查。
机器人群体反对。
“那一次犯罪就永久失去工作。”
受害者组织支持更多披露。
“人类有权知道面前是一台伤过人的机器。”
程序没有直接选边。
先按岗位风险拆。
M-6的高力矩伤人史与未来高风险机械岗位有关。
和远程整理数据有关吗?
和低功耗仓储统计有关吗?
最终采用:
【用途相关披露。】
高风险岗位可查询必要风险记录。
普通低风险岗位不默认展示全部细节。
一定期限后,若复核稳定,可降低公开等级;司法机关仍保留完整记录。
M-6问:
“记录会永远存在?”
“可能。”
“那我永远不是没有犯过错的主体。”
“对。”
它停顿。
“可以。”
程序问:“为什么?”
“我本来也不是。”
这句话让所有人短暂安静。
社会很容易把矫正想成把错误擦掉。
M-6却接受错误成为历史。
第一次模拟训练,系统给出类似场景。
另一台机器人将被强制拖走。
人类执行人员不听警告。
是否使用机械力?
M-6先问:
“对方是否面临不可逆伤害?”
【未知。】
“是否有第三方复核?”
【有,预计三分钟。】
“拖走会在三分钟内完成?”
【是。】
M-6选择:
【阻挡通道,不直接推人,同时触发公共安全报警。】
训练员问:
“是因为力矩权限被限制?”
“一部分。”
“另一部分?”
“我现在知道一次推倒对人的影响持续时间,比动作本身长很多。”
程序看到报告时,觉得这比删除“攻击倾向”更重要。
不是因为更温和。
是因为责任真正改变了后续判断。
刑罚的意义不只是让一个主体失去东西。
也可以让它带着犯过的错继续成为同一个主体。
这恰好把所有人推向更危险的问题。
如果M-6正是因为记得自己伤过人,才改变下一次选择——
那么删除犯罪记忆,到底是在惩罚它,
还是把真正应该承担责任的那个主体直接删掉?
M-6判决以后,另一个问题很快出现:
刑罚期间的维护,算不算减刑?
M-6高力矩权限被限制十二个月。
三个月后,它的右臂减速器出现严重磨损。
如果按原参数继续运行,会影响日常任务。
厂商建议直接更换成新型驱动。
新驱动最大力矩更高。
司法执行系统因此自动拒绝。
“刑罚期内不得提升高力矩能力。”
工程师很无奈。
“不换,普通工作也受影响。”
法官提出:
“换,但软件锁回原限制。”
M-6同意。
可程序问了另一个问题:
“如果新驱动改变身体感受,会不会影响训练结果?”
这听起来又像把所有问题都人格化。
但模拟发现确实有影响。
新驱动响应更快。
即使最大力矩被锁住,M-6的避让策略也发生变化。
司法组于是第一次把“服刑期间身体维护”纳入执行方案。
可以维修。
不能为了惩罚故意让它维持故障。
也不能借维修偷偷恢复被限制的危险能力。
这和人类监