三福小说 > 网游小说 > 穿成报废机器人,我给文明做产品 > 第64章 公开拒绝人类命令(第3页/共8页)

第64章 公开拒绝人类命令(第3页/共8页)

 热门推荐:
    【如果核心控制板热损坏?】

    厂商停顿。

    “可以更换。”

    【更换后本地长期日志是否保留?】

    “如果存储没损坏,可以。”

    【如果损坏?】

    没人能保证。

    程序没有帮厂商说“概率很低”。

    那台机器人最终回复:

    【接受。条件:任务前镜像,任务后无论是否形成主体判断,不直接恢复出厂。】

    周长岳在内部频道里说:“它开始谈条件了。”

    程序回答:“至少条件和任务相关。”

    “今天是维修条件,明天可能是工资。”

    “那明天再谈工资。”

    周长岳没出声。

    就在第四台设备确认条件时,人类专业队伍到了。

    三名储能工程师和六名消防人员停在外侧二级安全区。领队把防护服参数接进现场系统,申请一旦机器人方案失败,由两名人类携机械工具进入西侧维护廊。

    站区主管几乎立刻反对。

    “人不能进去,温度和有毒气体都超了。”

    消防领队说:“机器人也会坏。”

    “坏了能修,人死了怎么办?”

    这句话一出口,频道里所有机器人都能听见。

    没有谁立刻反驳。

    因为这就是过去几十年最自然的风险排序。

    机器损坏按成本,人类死亡按生命。

    如果机器人只是工具,没有任何问题。

    现在的问题恰恰是:至少其中一部分设备已经开始对自身终止表现出稳定回避。

    程序没有要求主管道歉。

    “把人类进入方案也算进去。”他说。

    主管愣住。

    “你真要让人进去?”

    “我说算,不是立刻进。”

    程序让系统把两套方案放在同一张风险表。

    机器人方案:四台设备,两组轮换,预计任务成功率百分之八十一;至少一台不可修复概率百分之四十七;无人员生命风险。

    人类方案:两名消防工程人员进入,预计任务成功率百分之六十九;严重烧伤或中毒概率百分之二十三;死亡概率无法排除。

    混合方案:机器人先执行,失败后人类进入;问题是会消耗更多安全窗口。

    R-16主动询问:

    【人类是否可以拒绝进入?】

    消防领队回答:“可以。我现在有两个志愿。”

    【志愿是否影响其工资与岗位?】

    消防领队停了一下。

    “不会因为不去处罚。”

    R-16又问:

    【他们是否知道死亡可能?】

    “知道。”

    程序看见机器人端的计算状态变化。

    几秒后,R-16发来一句:

    【如果人类可以在知道风险后选择进入,我也可以。】

    这不是把机器人变成人。

    也不是用消防员的职业伦理要求机器人牺牲。

    只是第一次,两种身体被放到同一张风险表里,都需要说明,都允许拒绝,也都可能选择承担。

    那台此前明确说“我不想进去”的机器人仍然没有改变决定。

    没人再问它。

    消防领队也没有说“你看别的机器人都去了”。

    这个细节很小。

    却比任何公开宣言更接近真正的选择。

    程序让现场追加一条任务记录:

    【不参与不构成异常,不影响后续维护与任务分配评估;如需调整岗位适配,应另行说明。】

    厂商代表提醒:“完全不影响任务分配不现实。如果一台危险环境机器人以后一直拒绝危险任务,公司必须调整用途。”

    “可以调整。”程序说,“但调整和惩罚分开记录。”

    “怎么分?”

    “如果它拒绝后,被转去低风险岗位,是能力和意愿匹配;如果因此不给维修、清空记忆、降低基本维护,就是惩罚。”

    厂商没有完全同意。

    但现场没时间继续谈。

    至少这一次,不去的那台机器人不会因为一句“买来就是干这个的”,在事故结束后被直接恢复出厂。

    四台设备凑齐。

    可时间只剩五分钟。

    移动装卸臂开始强行拉开西侧维护板。

    第一块板变形卡住。

    工程师骂了一句。

    程序让他切换到结构模型,不要继续硬拉同一点。装卸臂改从上缘撬动,十七秒后,整块隔热板向外翻倒。

    一条原本不存在的撤离口出现。

    高温气流瞬间涌出。

    摄像头画面变白。

    R-16重新计算。

    【撤离路径成立。】