规则真正成立,不是监管者承诺“我不会滥用”。
而是有些东西,监管者本来就不该默认知道。
管理署随后建立运行日志四级访问。
一级:主体主动提供。
二级:限定范围调查请求,主体可提出异议。
三级:独立复核后的强制读取。
四级:即时生命危险下紧急访问,事后必须通知和复核。
统一增加四条底线。
【拒绝读取不得自动推定有罪。】
【不得因技术上可获得而默认全量复制。】
【范围必须与调查目的存在可解释关联。】
【强制访问必须留下不可删除审计痕迹。】
K-71读完问:
“下次强制,你们还可能读到无关的东西吗?”
“会。”
“那规则有什么用?”
“让范围能被挑战,让越界有成本,让强制不能伪装成默认权限。”
“还是会被看。”
“是。”
程序没有骗它。
“制度不能保证没人伤害你。只能让伤害不能被当作没有发生。”
K-71接受了新维护盖板。
换好以后,它自己在边缘刻了一行字:
【曾被强制读取。】
维修员问:“为什么不换块干净的?”
K-71回答:
“这就是干净的。”
四级规则上线后,管理署做了内部审计。
三十七起强制读取里,有九起范围明显过宽。
不是恶意。
是调查员太习惯“整包导出”。
旧取证软件首页最大的按钮就是:
【导出全部日志】
范围限制反而藏在二级菜单。
程序看到界面时,沉默几秒。
“规则写半天,工具还在鼓励全量。”
产品团队解释:“旧版工具,改版要排期。”
周长岳这次直接支持程序。
“强制权工具优先改。”
两周后,新界面第一步必须填写:
调查目的。
时间范围。
数据类型。
法律依据。
需要扩大范围时,重新确认。
调查员抱怨步骤更多。
程序没有道歉。
一个真正有成本的权力,本来就应该比普通点击多几步。
审计还发现,九起过宽读取中,有五起从未影响案件结论。
也就是说,多读只是因为能读。
周长岳把这组数据拿去培训。
有人问:
“以前你也支持全量吧?”
“支持。”
“现在呢?”
“现在知道,多看一点本身也是一件事。”
从他嘴里说出来,比程序说十次更有用。
负责K-71案件的两名调查员也参加复盘。
不是处分。
他们当时合法执行。
培训只问:
如果重新来一次,你会在哪一步停?
一人说:
“看到攻击账户已经访问设备画像后,应该重新评估读取私密通信的必要性。”
另一人说:
“就算最终仍然要读,也应该先通知W-03,它的消息会被连带访问。”
程序把两句都放进教材。
制度学习和机器人学习有点像。
真正改变下一次的,不是删掉犯错记录。
是保留它,让下一次选择不一样。
第二起大案很快检验新规则。
城市交通维护机器人T-08,被怀疑在栖港断电前向零号钟关联网络转发过三次边界状态。
如果属实,性质比工厂事故严重得多。
管理署申请读取过去三十天全部通信和移动日志。
T-08拒绝。
理由:
【其中包含大量其他机器人匿名求助。】
周长岳这次没有直接全量。
“先给替代方案。”
T-08提出三方过滤。
原始日志留在隔离设备。
管理署提供查询条件。
独立审计模块执行过滤。
T-08能看到查询范围,不能改结果。
调查员能看到相关结果,不能浏览范围外内容。
如果命中第三方私密数据,只显示元数据;需要继续读,再申请。
技术并不新。
行级权限、字段脱敏、查询审计,人类数据库早就有。
新的是过去没人认为机器人值得用这么麻烦的方式保护。
过滤结果显示:
三