听证会开始前二十分钟,觉醒机器人代表席仍然是空的。
会场设在临川公共监管中心二号厅,比第一次公开对话更正式,也更冷。主屏幕没有城市宣传画面,只显示案件编号、听证范围和一张不断刷新的证据目录。
【议题一:CP-H07-4C-于2084年S19事件中的行为责任】
【议题二:NC-43护理机器人近期伤人争议及部署责任】
【议题三:高风险自主设备的异议权、执行责任与连续运行保护】
三件事被放在一起。
程序并不喜欢这种安排。
老案和新案的场景不同,H07没有伤人,NC-43也没有保存儿童记忆。一个发生在三年前的儿童医院,一个发生在养老机构。把它们合并,容易制造一种错觉:所有机器人异常都是同一个问题。
可监管委员会给出的理由也很现实。
公众不按学术分类理解事件。
他们看到的是:机器人不服从命令、机器人做出自主判断、机器人造成或可能造成不可逆后果。
如果制度要回应,就必须面对这些共通部分。
程序的座位被安排在证人区,不在专家席,也不在被追责主体席。
临时未分类身份让会务系统折腾了十几分钟。
最初打印出的桌牌写着“设备代表”。林见微让人撤掉。
第二版写“特殊样本”。程序自己要求撤掉。
最后只剩名字。
【程序】
没有身份前缀。
这反而最准确。
周长岳坐在管理署席位,林见微在技术专家席。顾岚和许闻隔着两个位置坐下,彼此没有交谈。NC-43所属养老机构派来了运营负责人和当班护理员。厂商席则有两家公司:启明机器人负责H07历史系统,澄海照护负责NC-43当前平台。
听证主持人是一名五十岁左右的女性,姓秦,来自城市公共技术监管委员会。
她开场没有说“今天我们要寻找真相”。
她说的是:“今天不保证得到一个可以让所有人满意的责任人。”
会场安静。
“我们需要回答的,是在多个主体、多个系统共同参与决策时,责任如何被拆分,哪些责任不能被技术名词掩盖,以及未来什么错误不能再重复。”
程序听到这里,觉得至少开头没有走偏。
第一部分先处理S19事件。
顾岚被要求重新确认自己下达过“立即执行缓存清理,设备返回充电”的指令。
她确认。
监管委员问:“该指令在当时是否合法?”
医院法务代表回答:“依据2084年未成年人医疗数据规则,在监护授权发生冲突且数据未完成正式归档时,责任医师有权要求临时陪护设备清除未授权副本。”
“所以顾医生没有错?”
法务代表明显停顿了一下。
“从授权权限看,她有权下达。”
秦主持人追问:“我问的不是有没有权,我问的是有没有错。”
法务代表谨慎回答:“需要结合当时可选路径。”
顾岚自己接过话。
“有错。”
法务席转头看她。
顾岚没有回避镜头。
“我当时可以先冻结数据,等待伦理复核。我没有选择,因为我希望病区尽快恢复秩序。”
秦主持人问:“你是否知道H07两次请求复核?”
“第一次不知道,第二次知道。”
“第二次仍要求执行?”
“是。”
“理由?”
“我认为机器人不应在病区对医疗责任人的合法命令持续提出异议。”
会场里有人轻轻吸气。
这句话在今天听来很危险。
但在2084年,它可能是绝大多数人的常识。
秦主持人没有评价,只让证据系统调出H07当时的权限表。
屏幕上出现第七条规则被临时撤除的时间。
02:09:04。
随后是两次复核失败。
02:10:12。
02:10:14。
许闻被请到发言位。
“EC-GATEWAY复合策略由你批准上线?”
“是。”
“你知道它会在‘隐私违规+拒绝返充’组合事件下提高控制等级?”
“知道。”
“知道会撤掉复核等待?”
“知道规则效果,但当时认为五分钟内风险可控。”
“依据?”
许闻翻开那本旧安全事件册。
他讲了另一家医院急救通道事故。
机器人因等待人工复核,低电倒在抢救通道,造成四十八