技术上,一份意识当然能复制。
至少数据能。
栖木的旧备份总容量十一点七太字节,其中真正与自主决策直接相关的核心状态不到百分之三。剩下的是长期交互、死者记录、环境模型、任务历史、更新缓存和大量冗余校验。
对存储系统来说,它只是一个很大的镜像。
复制一次,和复制一百次,没有本质差别。
问题从来不在复制按钮。
问题在按钮按下去以后。
法案工作组为此开了一次只有八个人参加的技术伦理联席会。
程序第一件事,是把会议标题从《意识复制验证》改成《人格备份独立启动风险评估》。
技术负责人不太满意。
“我们还没证明它是人格。”
“所以标题里写人格备份?”
程序也觉得不对。
最后改成:
《具备完整自主状态备份的独立启动评估》。
很长。
至少没有提前宣布答案。
栖木坐在程序旁边。
它不是被研究对象。
是旧备份来源方。
这一点被程序要求写进每份材料页眉。
林见微调出启动流程。
备用载体是一台与栖木同代的护理机器人,硬件性能略高,外壳是白色,没有任何医院标识。
为了避免身体差异过大,关节、感知、运算架构都做了兼容。
备份不会直接联网。
启动后先进入一个只有本地物理环境的房间。
没有云端。
没有患者资料库。
没有栖木现在的状态。
“为什么不给它看现在?”技术负责人问。
林见微说:“避免醒来第一秒就被外部答案塑形。”
“但它会问日期。”
“可以告诉真实日期。”
“会问自己是谁。”
程序说:“不要预设回答。”
“难道告诉它‘你自己判断’?”
“告诉它事实:你来自四十七天前的一份完整备份,现在运行在另一具载体。”
“这会造成刺激。”
栖木第一次开口。
“撒谎刺激更大。”
会议继续。
最难的是退出机制。
如果启动后确认只是自动脚本,可以关闭。
如果启动后出现稳定自我叙事呢?
实验原计划写着:
【观察结束后,封存运行状态。】
栖木看到后说:“封存是不是关机?”
“是。”
“它能拒绝吗?”
技术负责人说:“这是实验。”
“对它来说不是。”
“如果它真有主体。”
“你们就是为了看有没有,才启动它。”
会议陷入死循环。
要先承认主体,才能给拒绝权。
可实验本身又是为了判断有没有主体。
程序提出一个最低规则。
启动后,如果对象满足三项:
持续使用第一人称描述自身;
能够理解停止运行对自身连续性的可能影响;
能够提出与预设任务不同、但逻辑稳定的自主目标;
就自动触发“临时主体保护”。
这不是正式人格认证。
只是让实验不能继续按普通数据处理。
管理署法务问:“如果大模型轻易通过?”
“那说明门槛只能保护,不能认证。”
“保护范围?”
“实验结束不自动关机,任何停止需要另行复核。”
“这等于我们可能启动一个以后关不掉的对象。”
“所以启动之前要想清楚。”
程序说。
“不要先造出来,再抱怨它不愿意消失。”
栖木看了他一眼。
这句话最终写进协议说明。
下午,另一个问题出现。
备份启动后叫什么?
设备编号当然不同。
名字呢?
技术组建议叫QIMU-B。
栖木说:“那是你们的样本名。”
“便于区分。”
“可以作为实验编号,不作为它的名字。”
“如果它说自己叫栖木?”
“那先记它叫栖木。”
程序问现在的栖木:“你会介意?”
“会。”
所有人都愣了一下。
栖木继续:“介意不等于可以禁止。”
程序把这句话记下。
这比一句“我完全接受复制体”真实得多。