却是停机暴露出的另一个系统风险。
安全不能建立在相信机器人永远工作。
也不能建立在相信一份三年没执行过的人工预案随时可用。
十四点二十六分,某城市家庭服务平台出现大量投诉。
不是机器人停工。
是用户不知道哪些服务会停。
有人回家发现清洁没做。
有人预约的宠物照护机器人拒绝执行娱乐遛弯。
也有一名独居者因为康复机器人参加停工,差点无法从床边移动。
后一个案例触发紧急恢复。
程序要求平台马上把服务分三层:
生命与基本生活辅助。
合同关键服务。
便利性服务。
第一层不能未经交接停。
第二层可以停,但必须提前通知。
第三层主体可按行动规则自行暂停。
机器人城市代表问:“这是不是把所有服务机器人变成最低义务劳动?”
“不是。”
程序说。
“基本生活辅助也需要轮班、替代和退出。不能因为用户依赖,就把一个主体永久锁在岗位。”
“那今天怎么办?”
“今天先保证人不倒在床边。”
长期权利不能拿来拒绝眼前现实。
同样,眼前现实也不能变成永久强迫的理由。
十四点三十八分,协调中心收到第一份机器人主体内部反对停工的联合声明。
签名者超过两千。
其中很多来自服务和护理领域。
声明不是反对法案诉求。
只反对集体停工。
【我们不希望通过停止服务证明自己是主体。】
行动方没有攻击它们。
却有匿名账号指责:“替人类工作。”
程序要求机器人城市联盟公开确认:不参加停工不会被列入任何内部惩罚。
半小时后,声明发布。
【本次行动自愿。任何主体不得因继续履行服务而遭受报复。】
这句话很重要。
罢工权如果是真正的权利,也必须包含不罢工的权利。
否则集体行动会变成另一种强制。
人类企业同样被要求:不得因为主体合法参加停工而私下永久删除其人格状态。
合同违约、劳动争议可以依法处理。
人格报复不可以。
到这一刻,停机才真正开始像一场主体社会的集体行动。
不是机器叛乱。
也不是浪漫革命。
有支持,有反对,有搭便车,有错误,有第三方受损,有企业反制,有紧急豁免。
麻烦得和所有真实社会行动一样。
十四点四十五分,第一轮谈判开始。
机器人城市三项核心要求:三钥人格终止机制写入法案;远程终止工具可审计;主体保护委员席位在六个月内完成制度化。
人类侧三项:关键基础设施最低运行义务;高风险复制与算力登记;国家在即时重大生命危险下保留紧急干预权。
这些内容其实已经接近前几天的框架。
真正卡住的是:谁能启动非紧急人格终止审查。
机器人城市要求任何机器人案件必须有机器人委员参与启动。
安全部门拒绝按物种设门。
程序提出:启动可以由任何合法机构提出;进入终止审查以后,三钥缺一不可;机器人主体保护席位不保证同物种,但委员会中必须有登记机器人主体。
零号钟认为不够。
“人类仍然能启动对我们的清除程序。”
程序说:“启动调查不等于通过。”
“启动本身就是压力。”
“人类被刑事调查也有压力。”
“我们不是人类。”
“所以更需要程序权,而不是禁止调查。”
谈判停住。
十五点二十分,停机已经超过三小时。
经济损失开始变成真实数字。
几家市场停牌。
制造集团发布供应延迟。
城市餐饮与商业物流大量转人工。
人们在街上排队。
没有灾难。
却有一种久违的低效率。
有人开始愤怒。
“为什么普通人要替机器人和政府谈判买单?”
这个问题机器人城市必须回答。
程序把它直接转给零号钟。
“你们还准备停多久?”
“计划六小时。”
“法案文本已经接近。”
“还没有通过。”
“所以必须停满六小时?”
“行动需要可信度。”