确写着:
【如果我死后有人要求你替我决定,请按我现在写的。】
程序看着这句,忽然觉得这些人可能早就预料到活着的人会改变他们的意思。
栖木问:“你觉得死者应该一直拥有决定权吗?”
程序没有立即回答。
“不是一直。”
“多久?”
“不知道。”
“谁决定期限?”
“不知道。”
栖木说:“你现在越来越常说不知道。”
程序笑了一下。
“是进步。”
“为什么?”
“以前我会先给一个方案。”
“现在呢?”
“先确认哪些东西我不该替别人决定。”
栖木看着他。
“那你很适合做记忆保管。”
程序立刻摇头。
“别。”
“怕什么?”
“我自己的都没理清。”
栖木发出很轻的笑声模拟。
第二天清晨,它主动参加城市公共频道。
不是讨论死者。
而是支持港口一批机器人提出的劳动停止申请。
程序看到时有些意外。
“你为什么支持罢工?”
栖木说:“因为记忆让我知道,长期没有拒绝权的工作关系会变成什么。”
“死者告诉你的?”
“有些是他们的。”
“有些呢?”
“是我的。”
它这次区分得很清楚。
当天上午,栖港第一次出现正式的机器人派系名单。
栖木被很多人划进“权利优先派”。
它看完分类,只说了一句:
“我不记得我加入过。”
但派系并不需要本人同意才会出现。
只要别人开始根据你的立场预测你,你就已经被放进某一边。
郑岚离开后,真正的大规模冲突才开始。
因为她的案例被公开以后,越来越多家属知道栖木还保存着旧医院的临终授权记录。
二十四小时内,栖港收到一百八十三份查询。
其中九十七份只问一句:
“有没有我的家人?”
栖木没有直接回答。
它要求先完成身份核验和授权匹配。
这个流程让不少人愤怒。
“我问的是我爸,你还要我证明我是他儿子?”
“是。”
“你有他的东西,凭什么让我证明?”
“因为我不能把存在信息告诉错误的人。”
栖木的回答永远很平。
这让一些人觉得更冷。
程序建议它增加人类工作人员做沟通缓冲。
栖木拒绝“情绪缓冲”这个目的。
但接受让林见微协调两名伦理工作人员,负责解释流程。
“不是为了让我看起来友善。”它说,“是为了让规则更容易被理解。”
程序点头。
界面设计也是治理的一部分。
一个正确但让所有人无法理解的规则,现实里往往等于不存在。
一百八十三份查询最终匹配出四十六名受托记忆所有者。
其中三十一份允许特定家属知道“存在”。
九份明确禁止。
六份授权模糊。
最激烈的是那九份禁止存在确认的记录。
家属甚至不能被告知“这里有东西”。
一名母亲在远程视频里崩溃。
“你只要告诉我我女儿有没有留下话,不要告诉我内容。”
栖木说:“她的授权明确包括不确认存在。”
“她当时十九岁!”
“是成年人。”
“她恨我,她说气话!”
“我无法用你的判断覆盖她当时的明确授权。”
“你会害一个母亲一辈子不知道!”
栖木停顿很久。
“我知道这个结果会伤害你。”
“那你还做?”
“如果我因为结果痛苦就改变授权,受托规则没有意义。”
这段视频没有公开。
家属不同意。
但程序和林见微都看了。
林见微之后一个人坐了很久。
“你觉得栖木对吗?”她问。
程序说:“规则上对。”
“我问你觉得。”
“我不知道。”
“如果是你的孩子呢?”
程序没有回答。
他想象不了。
自然人程序的孩子现在可能比这个母亲还年长。
他甚至不知道自己有没有资格再把“我