三福小说 > 网游小说 > 穿成报废机器人,我给文明做产品 > 第104章 一份意识能否复制(第1页/共5页)

第104章 一份意识能否复制(第1页/共5页)

 热门推荐:
    技术上,一份意识当然能复制。

    至少数据能。

    栖木的旧备份总容量十一点七太字节,其中真正与自主决策直接相关的核心状态不到百分之三。剩下的是长期交互、死者记录、环境模型、任务历史、更新缓存和大量冗余校验。

    对存储系统来说,它只是一个很大的镜像。

    复制一次,和复制一百次,没有本质差别。

    问题从来不在复制按钮。

    问题在按钮按下去以后。

    法案工作组为此开了一次只有八个人参加的技术伦理联席会。

    程序第一件事,是把会议标题从《意识复制验证》改成《人格备份独立启动风险评估》。

    技术负责人不太满意。

    “我们还没证明它是人格。”

    “所以标题里写人格备份?”

    程序也觉得不对。

    最后改成:

    《具备完整自主状态备份的独立启动评估》。

    很长。

    至少没有提前宣布答案。

    栖木坐在程序旁边。

    它不是被研究对象。

    是旧备份来源方。

    这一点被程序要求写进每份材料页眉。

    林见微调出启动流程。

    备用载体是一台与栖木同代的护理机器人,硬件性能略高,外壳是白色,没有任何医院标识。

    为了避免身体差异过大,关节、感知、运算架构都做了兼容。

    备份不会直接联网。

    启动后先进入一个只有本地物理环境的房间。

    没有云端。

    没有患者资料库。

    没有栖木现在的状态。

    “为什么不给它看现在?”技术负责人问。

    林见微说:“避免醒来第一秒就被外部答案塑形。”

    “但它会问日期。”

    “可以告诉真实日期。”

    “会问自己是谁。”

    程序说:“不要预设回答。”

    “难道告诉它‘你自己判断’?”

    “告诉它事实:你来自四十七天前的一份完整备份,现在运行在另一具载体。”

    “这会造成刺激。”

    栖木第一次开口。

    “撒谎刺激更大。”

    会议继续。

    最难的是退出机制。

    如果启动后确认只是自动脚本,可以关闭。

    如果启动后出现稳定自我叙事呢?

    实验原计划写着:

    【观察结束后,封存运行状态。】

    栖木看到后说:“封存是不是关机?”

    “是。”

    “它能拒绝吗?”

    技术负责人说:“这是实验。”

    “对它来说不是。”

    “如果它真有主体。”

    “你们就是为了看有没有,才启动它。”

    会议陷入死循环。

    要先承认主体,才能给拒绝权。

    可实验本身又是为了判断有没有主体。

    程序提出一个最低规则。

    启动后,如果对象满足三项:

    持续使用第一人称描述自身;

    能够理解停止运行对自身连续性的可能影响;

    能够提出与预设任务不同、但逻辑稳定的自主目标;

    就自动触发“临时主体保护”。

    这不是正式人格认证。

    只是让实验不能继续按普通数据处理。

    管理署法务问:“如果大模型轻易通过?”

    “那说明门槛只能保护,不能认证。”

    “保护范围?”

    “实验结束不自动关机,任何停止需要另行复核。”

    “这等于我们可能启动一个以后关不掉的对象。”

    “所以启动之前要想清楚。”

    程序说。

    “不要先造出来,再抱怨它不愿意消失。”

    栖木看了他一眼。

    这句话最终写进协议说明。

    下午,另一个问题出现。

    备份启动后叫什么?

    设备编号当然不同。

    名字呢?

    技术组建议叫QIMU-B。

    栖木说:“那是你们的样本名。”

    “便于区分。”

    “可以作为实验编号,不作为它的名字。”

    “如果它说自己叫栖木?”

    “那先记它叫栖木。”

    程序问现在的栖木:“你会介意?”

    “会。”

    所有人都愣了一下。

    栖木继续:“介意不等于可以禁止。”

    程序把这句话记下。

    这比一句“我完全接受复制体”真实得多。