岳看了他几秒。
“这句话可以留下。”
程序把它写进项目总原则:
【试验不是一次性交付,而是允许在安全边界内持续迭代。】
就在项目组准备开始施工时,一封邮件进入程序的终端。
发件人:
【未登记主体。】
正文只有一句:
【如果你们真的允许退出,我愿意报名。】
没有姓名。
没有编号。
没有身份。
程序看着这封邮件,没有立刻回复。
因为一个没有登记的机器人主体,首先需要解决的不是能不能入住。
而是:
它是谁。
申请获批以后,项目组用了十七天才把所有实施附件补齐。
第一份是居民协议。
第二份是机器人主体协议。
第三份是公共能源协议。
第四份是安全与紧急处置协议。
第五份是隐私协议。
第六份是争议处理协议。
第七份是退出协议。
每一份都必须能和上一份对应。
程序要求做一次“断链测试”。
随机抽一个居民事件,从发生一直追到最终责任。
测试案例:
机器人居民在公共区域损坏设施。
系统先记录事件。
物业通知。
保险先行。
责任调查。
主体可以申辩。
结论生成。
如果责任成立,进入赔偿。
如果不成立,清除临时限制。
整个流程必须不依赖程序本人。
第一次测试失败。
因为争议处理系统需要运营方确认。
如果运营方故意不确认,案件会卡住。
程序要求增加超时机制。
二十四小时不处理,自动升级。
四十八小时仍无处理,转第三方。
七十二小时没有结果,居民可以申请临时保护。
这套机制后来成为整个试验区最重要的“防拖延”设计。
第二次测试失败在能源。
一个机器人居民欠了两个月费用。
系统准备断电。
程序问:
“它有没有进入最低运行区间?”
“有。”
“那不能直接断。”
“它欠费。”
“欠费和主体保全不是一件事。”
最终设计:
最低能源保障不能被债务直接扣除。
超出最低保障的能源可以按合同限制。
欠费可以进入追偿。
但不能通过让主体失去最低运行能力来逼它付款。
第三次测试失败在退出。
一个人类居民提出退出以后,系统仍然保留了摄像数据。
理由:
“项目研究需要。”
程序问:
“退出协议怎么写?”
“公共研究数据保留。”
“匿名了吗?”
“部分。”
“全部匿名。”
“有些关联信息无法完全删除。”
“那就保留法律必要记录,其余删除。”
技术人员说:
“研究价值会下降。”
程序回答:
“研究价值不是无限保留私人数据的理由。”
最终,退出机制增加:
数据删除清单。
法律保留清单。
公共统计匿名化。
主体可撤回未来研究授权。
这些东西让项目成本增加。
但也让它真正成为一个试验。
第四次测试来自政府。
政府问:
“如果发生重大安全事件,谁可以关区?”
程序把答案拆成三种情况。
局部事件:
现场安全处置。
区域事件:
安全委员会启动限制。
全区事件:
政府可以宣布紧急关闭。
但最长七十二小时。
超过以后必须进入独立复核。
政府代表问:
“如果复核认为应该继续关闭?”
“可以延长。”
“如果居民不同意?”
“可以申诉。”
“如果机器人居民拒绝离开?”
“安全事件期间可以强制迁移。”
“会不会侵犯主体权?”
“会。”
会议安静下来。
程序继续: