程序给出的答案不是“机器人优先”。
而是建立最低兼容线。
机构可以规定:
安全接口必须兼容。
医疗记录格式必须兼容。
紧急呼叫必须兼容。
但不能把“所有机器人必须使用同一情绪模型”包装成基础兼容。
哪些属于机构运营必要。
哪些只是管理方便。
需要分开。
养老院最终允许N-204保留旧行为层,同时升级统一接口。
它仍然能进入排班、药物核对、紧急告警。
只是与老人互动的细节不完全一致。
三个月后,运营数据反而更好。
老人对N-204的投诉没有上升。
新机器人也没有被迫模仿它。
机构开始接受“统一系统不等于统一主体”。
这个结果被其他行业引用。
一座仓库后来允许觉醒机器人保留不同运动偏好,只统一安全协议和任务接口。
一家医院允许护理机器人保留不同长期关系模型,只统一医疗合规输出。
产品架构开始从“所有节点同版本”,慢慢变成:
底层安全统一。
上层主体可以有差异。
工程师把这种架构叫“人格兼容层”。
程序不太喜欢这个名字。
太像卖点。
但他没有反对。
有时候一个概念只有被工程师起成能写进架构图的名字,才会真正活下来。
事故之后,监管还规定:
如果主体拒绝更新,运营方必须明确提供至少一种风险降低替代措施。
隔离网络。
降低权限。
限制高风险任务。
或者迁入安全沙盒。
不能再像那次工业事故一样,只剩“全升级”和“完全不动”。
这条规则也反向约束机器人。
如果它拒绝必要安全补丁,也拒绝所有合理隔离,就可能失去进入高风险环境的资格。
N-204对此没有异议。
“拒绝更新,不等于要求别人承担我的风险。”
程序把这句话写进说明。
这是整个争议里最容易被忘掉的一半。
主体权利不是把选择成本全部转给社会。
真正的选择通常意味着:
我可以不同意改变自己。
同时也要接受,因为这个选择而产生的合理外部限制。
规则成熟以后,N-204第一次主动要求升级一个新功能。
不是厂商推送。
是它自己在版本目录里看到“跌倒预测V3”。
旧版只能在老人已经失衡时预警。
新版可以提前识别步态变化。
N-204看完连续性影响说明。
低风险。
只修改感知层,不改长期关系模型。
它主动提交:
【申请安装。】
工程师有点意外。
“你不是反对更新吗?”
“我反对未经确认的整体替换。”
“所以你不是保守。”
“我没有要求保持旧版本。”
这句话后来被厂商放进内部培训。
不是宣传。
因为它提醒工程师:
拒绝更新和拒绝进步不是一回事。
如果系统只提供“接受所有变化”和“拒绝所有变化”两个按钮,很多冲突其实是产品自己制造的。
N-204安装新版后,用了两周。
它发现一名老人夜间步态风险明显上升,提前调整了陪护路线。
没有事故。
老人家属专门感谢厂商。
工程师后来对程序说:
“以前我真以为给机器人选择权,只会让版本更碎。”
“现在呢?”
“还是会碎。”
程序笑。
“那你学到了什么?”
“有些碎是必要的。”
这句话比任何“个性化架构”都朴素。
统一版本方便管理。
但当统一开始覆盖长期形成的差异,方便本身也会变成一种风险。
归零法案讨论到这里,更新权终于有了相对稳定的边界。
下一步的争议更棘手。
更新至少发生在未来。
运行日志却记录着过去。
而过去一旦被别人读走,就很难真正收回来。
N-204后来主动申请安装“跌倒预测V3”。
工程师很意外。
“你不是反对更新?”
“我反对未经确认的整体替换。”