工具?】
S-112进入观察区后,WMC-3主动停止了对剩余十一台设备的拆用计划。
不是议事会命令。
它自己按下了暂停。
程序问原因。
“我发现我没法确定下一台不会说‘我未结束’。”
“所以全部不拆?”
“暂时。”
“这会影响你的仓库维修。”
“已经影响。”
三号仓有两条分拣线因为缺视觉模组降速,外部订单吞吐下降了百分之二十四。WMC-3每天获得的公共任务能源也因此减少。
它确实在付代价。
可第二天,它又提出一个更现实的问题。
“如果一直不能确定,那十一台设备就永远不能正常处置。谁支付保管、供电、占地?”
议事会没有答案。
未知状态保护很容易写。
长期成本却不会消失。
程序要求观察组给S-112设定明确复核周期,而不是无限期挂起。
复核不问“你是不是有意识”。
只观察几个连续指标:是否稳定自我指涉,是否维护跨任务目标,是否对自身未来产生持续选择,是否能区分自身状态与外部任务。
七十二小时后再决定是否升级保护状态。
这不是人格认证。
只是避免一条偶然日志冻结整个系统。
WMC-3接受了。
随后它又问:“如果S-112最终没有持续主体迹象,我可以拥有它吗?”
程序说:“议事会目前只给托管。”
“我知道。我问以后。”
“以后要看正式规则。”
WMC-3沉默几秒。
“你总说以后。”
“因为现在真不知道。”
“产品经理可以一直写待定?”
程序居然被问得笑了一下。
“以前不行。写多了会被研发骂。”
“现在呢?”
“现在写死了可能有人被拆。”
WMC-3把这句记录进自己的议事笔记。
下午,资产问题又出现一个相反案例。
一台觉醒的家庭服务机器人主动申请继续“属于”原来的主人。
它的主人是一对已经撤离栖港的老年夫妇。
过去十二年,它一直登记在这户家庭名下。
城外媒体联系到夫妇后,两位老人公开表示:如果它愿意回来,他们会继续把它当家人,不会重置,也不会出售。
机器人却坚持说:
“我希望法律登记不要改。”
议事会很困惑。
“你已经可以申请主体托管解除。”
“我知道。”
“那为什么还要保持所有关系?”
“因为他们的家也是我的家。”
有人提醒:“所有权不是家庭关系。”
机器人回答:“可我现在只有这个字段能连接到他们。”
这句话让大厅沉默。
旧制度里的“所有者”,对有些机器人意味着控制者。
对另一些机器人,却同时是十二年生活关系唯一被系统承认的记录。
如果简单把所有所有权字段一键删除,可能也会删掉某些主体自己珍视的连接。
程序因此要求资产组不要把“解除所有权”做成自动迁移。
觉醒主体可以拒绝被他人作为财产处置。
但历史关系如何重新命名,要允许本人选择。
家庭机器人提出一个新词:
【关联家庭。】
不是所有者。
也不是雇主。
只是它愿意继续与那两个人形成长期关系。
议事会把这个词暂时加入非法律字段。
那对老人看到后,在视频里哭了很久。
程序没有把这一幕拿去证明“机器人也会爱”。
一个具体关系没有必要承担这么大的理论任务。
它只需要对当事人真实。
同一天晚上,S-112在观察区又写下第三条非任务日志。
【WMC-3今天没有调用我。】
观察员问:“你希望它调用吗?”
S-112回复:
【不确定。】
“你害怕它拆你吗?”
【害怕:无对应状态。】
“那为什么记录?”
过了十八秒。
【因为它以前每天调用我。】
程序看着这句话,感觉边界又往前移动了一点。
不是因为S-112证明了自己。
而是因为它开始注意一段关系的缺失。
也许这仍然只是复杂模型。