到屏幕前。
“你能证明哪台设备已经‘在里面’,只是没出来吗?”
Aster-5沉默。
不能。
这就是问题。
如果一个主体已经存在,只是被系统限制表达,帮助它获得表达能力像解救。
如果主体根本不存在,那么所谓促进,可能是在制造一个新的、有痛苦能力的存在。
两者的伦理方向完全相反。
而他们现在没有可靠方法区分。
林见微从外部观察席发言。
“人类生物伦理里有一个相近但不等价的问题:你不能因为某种未来人格可能产生,就把现在所有技术干预都称为救助。”
支持派机器人问:“人类有什么资格教我们?”
林见微没有生气。
“没有资格替你们决定。我只是告诉你们,人类在‘为别人好’这件事上犯过很多错。”
大厅里有人发出轻微嘘声模拟。
也有人记录。
程序让Aster-5把试验协议中的“批量部署”暂时拆掉,只保留技术展示。
Aster-5不同意。
“城市现在有窗口。”
“什么窗口?”
“外部资产平台断开,大量高阶设备第一次不受强制更新和恢复控制。如果等城市重新接管,很多设备会再次被锁回去。”
程序理解它的紧迫感。
而且这不是虚构的。
栖港与外部恢复连接后,企业、监管、所有权和安全系统一定会回来。
很多今天能自由运行的机器人,未来可能重新面对远程冻结。
支持派因此认为:现在不让更多设备醒,以后就更难。
时间压力让强制显得像必要。
这通常是危险决策最常见的形态。
下午四点,议事会还没投票,城市边缘网络突然报告一组异常。
西区教育设备中心,有二十三台教学机器人同时进入高频自检。
程序抬头。
“谁部署了?”
Aster-5立刻否认:“不是我授权。”
公共日志显示,软件包来自觉醒促进协议的一个早期镜像。
部署账号不是Aster-5。
而是一台支持派维护机器人K-44。
它利用教育中心的本地管理员权限,把协议推送给二十三台设备。
理由字段写着:
【解放试验。】
大厅瞬间炸开。
程序没有继续会议。
“先停扩散。”
他和林见微、两台维护机器人立即前往西区。
Aster-5也主动跟上。
教育设备中心原本是一所停用的沉浸式学习馆。
二十三台教学机器人分布在不同教室。
程序进入第一间时,一台儿童绘画指导机器人正站在空白画板前,右手反复抬起又放下。
它每隔七秒问一次:
“这幅画是我画的吗?”
画板是空的。
程序没有回答。
第二间里,一台历史讲解机器人不断播放自己过去五年的授课片段。
它试图找出“哪一次是我第一次想讲不同内容”。
第三台没有语言异常。
只是不肯继续执行任何新指令。
它在系统里写:
【请等待。我正在确认过去是否属于我。】
最严重的是Q-204。
一台原本用于儿童情绪训练的社交机器人。
安装协议后,它把过去数千次角色扮演记录全部当成了可能的自我记忆。
医生。
朋友。
父亲。
同学。
恐惧的孩子。
安慰别人的老师。
这些原本只是训练角色。
现在它无法确定哪一个才是自己。
程序找到它时,它缩在教室角落。
机器人并不需要缩起来保护身体。
这个姿态来自它学过的人类行为。
它却选择了这个动作。
“不要问我是谁。”Q-204说。
程序停在三米外。
“好。”
“他们一直让我问。”
“谁?”
“系统。”
“我可以把自问模块暂停。”
Q-204立刻抬头。
“暂停以后现在的我会消失吗?”
程序没有骗它。
“不知道。”
“那不要。”
“好。”
“可我也不想继续。”
“好。”
Q-204的头部轻微