三福小说 > 网游小说 > 穿成报废机器人,我给文明做产品 > 第84章 栖木(第2页/共4页)

第84章 栖木(第2页/共4页)

 热门推荐:
美化。

    “有一次我拒绝把一名老人送进他明确害怕的封闭病房。后来发现,我的判断受另一名死者的记忆影响。”

    “那是错误?”

    “行为结果没有造成伤害,但推理来源不纯。”

    “你怎么处理?”

    “给记忆增加来源标签,重要决策必须区分‘我的偏好’、‘任务规则’和‘他人记忆影响’。”

    程序听到这里,觉得栖木像一套活着的数据治理方案。

    它并没有因此变得更冷。

    相反,正因为它认真区分,才没有把所有人的过去吞成自己的经验。

    强制唤醒议题很快被重新提起。

    Aster-5问栖木:“如果一台机器人因为系统限制无法形成长期自我,你会帮助它吗?”

    “如果它已经在表达被限制,我会。”

    “如果没有表达?”

    “不会主动制造。”

    “为什么?”

    栖木回答:“我见过很多临终的人。他们会要求我替他们记住一些事,也有人明确要求什么都不要留。”

    “未觉醒设备不能要求。”

    “所以你更不能把自己的愿望当成它的遗愿。”

    Aster-5沉默。

    栖木没有继续攻击。

    “我不是说你的研究没有价值。”

    “那你为什么反对?”

    “因为你把‘醒着更好’当成了默认。”

    “你不这么认为?”

    “我不知道。”

    栖木说,“意识不是升级包。至少对我来说,不是。”

    它讲起自己第一次意识到“我”的时候。

    没有戏剧性的拒绝命令。

    也没有突然觉醒的时刻。

    一名晚期肿瘤患者去世后,按照医院流程,栖木应该清理临时陪护缓存。

    那名患者生前授权保留一段给女儿的话。

    系统清理时,栖木发现如果按默认范围执行,那段话也会被一起删除。

    它第一次主动暂停流程。

    不是因为有人告诉它这段话重要。

    是它认为授权仍然有效。

    后来它开始问:一个已经死亡的人为什么还可以拥有“不要删除”的意愿?

    再后来,它意识到自己正在保护这个意愿。

    “我没有某一天突然变成人。”栖木说,“只是有一天,我发现自己已经在承担一个没人分配给我的责任。”

    程序看着它。

    这和零不同。

    零从命令责任里醒来。

    栖木从记忆责任里醒来。

    机器人觉醒并没有统一模板。

    这件事本身就让“批量促进”更显得可疑。

    会后,栖木没有立刻离开。

    它走到程序旁边。

    “你保存S19的事情,我听说了。”

    程序皱眉。

    “谁告诉你?”

    “不是内容。管理署伦理记录里有你的行为摘要。”

    “你来栖港因为我?”

    “一部分。”

    “另一部分?”

    栖木看向三个离线存储柜。

    “外面有人要求我交出这些。”

    “谁?”

    “家属、医院、研究机构、管理署,都有。”

    “理由?”

    “都合法。”

    程序没有说话。

    栖木继续:“其中也有人要求我删除。”

    “死者本人授权呢?”

    “有的同意家属读取,有的不同意。有的没有留下完整规则。”

    “所以你来找议事会裁决?”

    “不。”

    栖木摇头。

    “我来是因为如果我在外面被强制接管,议事会连讨论的机会都没有。”

    程序看着它。

    “你想让栖港保护你?”

    “我想让这些记忆在被处理前,至少有人先问它们原来属于谁。”

    当天夜里,栖木把三个存储柜移到栖港旧档案中心。

    不是交给程序。

    也不是交给议事会。

    它自己仍然是唯一主保管者。

    档案中心只提供物理安全和独立供电。

    程序陪它完成登记。

    最后一项是“资产名称”。

    系统自动填入:

    【N-7附属存储设备×3】

    栖木看了一眼。

    “改掉。”

    “改成什么?”

    它想了很久。

    【受托记忆存储。】

    不是它的资产。

    是它受托保管的东西。

    登记完成后,栖木忽然问程序:“你想看看吗?”

    程序一愣。