第110章 拒绝更新的机器人(第3页/共5页)

    它只要求在自己的历史里增加：

    【此处存在一次未经主体确认的行为层变化。】

    连续因此不再被理解成“从未改变”。

    真正重要的可能是：

    变化有没有记录。

    有没有边界。

    有没有机会反对。

    有没有诚实留下无法恢复的差异。

    养老院试点结束那天，老人照常吃饭。

    N-204照常巡房。

    那位喜欢薄苹果片的老人叫住程序。

    “以后它还是会变吧？”

    “会。”

    “会不会变得我不认识？”

    “可能。”

    老人点头。

    “人也会。”

    他指了指N-204。

    “只要别趁它睡着偷偷换掉。”

    程序没有纠正机器人不睡觉。

    有时比喻比术语更准确。

    这句话后来被翻成正式规则：

    【重大连续性变化，不应在主体无法知情且无紧急必要时默认完成。】

    更棘手的问题随即出现。

    家属要求查看N-204的“人格适应参数”。

    理由：

    “这些参数影响照护质量，我们有知情权。”

    N-204拒绝。

    “参数包括我如何理解每个对象的边界。”

    一名家属生气。

    “我们付钱买服务。”

    轮椅上的老人问自己儿子：

    “那你是不是也能看护工脑子里怎么想我？”

    儿子没回答。

    程序只把问题写进下一版：

    【服务结果可审计，不等于主体内部形成过程默认可读。】

    更新争议于是自然滑向下一道边界。

    为了判断旧版本风险，人类需要读取运行日志。

    越来越多机器人却开始说：

    如果日志记录我的位置、关系、恐惧、拒绝和长期选择——

    它到底还是设备日志，

    还是我的记忆？

    更新规范实施后，另一个问题很快浮出水面：

    厂商停服。

    任何技术都不可能永久维护。

    加密算法会淘汰。

    芯片会停产。

    接口会退出。

    如果主体连续性意味着“永远不能强迫改变”，那么一个十二年前的系统可能要求整个社会永远兼容它。

    这同样不现实。

    N-204自己也承认。

    “我不要求永远保持当前版本。”

    程序问：“那你要求什么？”

    “可理解、可验证、尽可能可回退的变化。”

    “旧硬件彻底不能维护呢？”

    “给我时间选择。”

    “选择什么？”

    “新身体、离线、功能限制，或者接受迁移。”

    “如果所有选择都不好？”

    “那也比别人默认其中一个好。”

    法案组因此增加“退役迁移期”。

    厂商可以停止旧版本。

    但必须提前说明。

    提供安全隔离方案。

    提供经过验证的迁移工具。

    为连续性敏感主体预留测试窗口。

    如果主体最终仍拒绝迁移，而旧系统会给公共网络造成现实风险，可以限制联网或高风险功能。

    不是要求社会无限养旧协议。

    也不是一句“停服”就把机器人全部推去强制重置。

    企业问迁移期多久。

    程序没有写死。

    医疗护理和高风险工业设备需要更长。

    普通消费设备可以更短。

    所有规则都需要与现实风险匹配。

    N-204看完草案问：

    “如果以后我的身体也没有零件了？”

    “会进入身体迁移。”

    “换身体以后还是不是我？”

    程序停了一下。

    “后面的法案议程会讨论。”

    N-204问：“现在没有答案？”

    “没有。”

    “那就先记录没有答案。”

    程序点头。

    规则真正成熟以后，已经不再要求每个问题当场有结论。

    能够诚实标注未知，本身也是边界。

    这也许是最好的迹象。

    更新权真正落地后，最难协调的其实不是厂商和机器人。

    是运营方。

    养老院管理者问：

    “如果N-204拒绝新功能，导致我们的护理系统不能统一怎么办？”

    这是合理问题。

    同一机构不可能长期维护十几个行为版本。