第1755章(1/2)

    也就是在这个时候，顾禹辰发现了旁边的秦仪，大脸微微发红，解释说：“如果它不翻跟头，这次是有可能成功的。”

    秦仪正在训斥戒龙，连忙说：“不怪你们。”

    “呃……我也觉得不怪我们，只是机器人擅自改变指令的事情很少见，可能是系统出了bug。”顾禹辰示意朱乐去看看操控系统。

    “不用看了，是戒龙主机私自修改的指令。”秦仪不想对方瞎耽误时间，直接说出了原因。

    朱乐的脸色难看起来，说：“这种情况是绝对不允许的！如果主机按照自己的判断随意修改指令，这对于我们这些研究人员来说，会是一场灾难。”

    其他学生也纷纷点头，虽然主推的是智能机器人，但其活动范围是有限制的，否则凭借机器人自身随意调节，确实有不可控的风险。

    “确实很危险，现在不过是在实验阶段，如果机器量产后，一个看似简单的指令错误，很可能会伤害到普通人。”盛教授在旁边补充说。

    秦仪停顿了一下，稍作思考，说：“我虽然赞同你们的观点，但也有我的意见。我们要做的不是给机器人设定每一个动作，而是要给它划定一个界限，也就是红线。它像个孩子逐渐长大，如果每迈一步都要咨询设计者，那它的步子会越来越慢。关键是如何制定规则，不是操控它的每一步。”

    “有道理！”戒龙在秦仪的脑海里欢呼。

    “这是不对的，如果只划定界限，那么在界限之下，机器人的意见和人类的意见发生冲突怎么办？”

    “机器人永远不许伤害人类，你可以把这一条当作一个规则。”秦仪轻声说。

    房间里安静了一会儿，盛教授忽然说道：“看来我们的实验方向要做些调整了。”周围的学生都连连点头，因为他们觉得秦仪说得很有道理。

    “摔倒原因是什么？”秦仪转换了话题。

    “我们做的是仿生机器人，构造和人类几乎一样。不过其中最大的问题是金属材质，因为机器人的身体太重，我们已经适当增加脚踝位置钢材的强度，但在它剧烈运动过程中，依然会造成一定的损害，还有就是机械椎骨也会出现这种问题。”顾禹辰连忙解释说。

    “反应能力似乎也差很多？