他们是法律:杀手机器人和特朗普

让我们谈谈智能杀手机器人。 联合国已经是。 联合国和合作伙伴组织使用的技术术语之一是致命的自主武器系统或LAWS。 就目前而言,让我们避免考虑艾萨克·阿西莫夫(Isaac Asimov)的“三个规则”,因为我们正在寻找的机器人专门用于致死性武器系统 ,而不仅仅是会伤害人类的助手,除非会伤害人类。 在您开始认为这只是科幻小说中的警钟之前,请记住,人们认为HG威尔斯可能已经影响了原子弹的制造,或者Aldous Huxley曾预测过会改变情绪的药物。 因此,我们将认真对待这一问题,因为您最好相信,在联合国试图找到自己的立场时,特朗普将最终发挥作用。

因此,这是有关LAWS的一些基本事实:

  1. 关于什么才算是致命的自主武器系统没有统一的定义。 [1]这将是联合国需要解决的第一个问题。 例如,地雷不需要人的命令即可引爆,但并非所有人都认为它是一种自主武器系统。 在大多数情况下,联合国很可能将重点放在机器人武器上,这意味着该系统可以执行一系列复杂的功能。 例如,一个自主武器系统将需要检测并有针对性地瞄准某些地雷无法探测到的东西。 人权观察认为,存在三种不同类型的自动机器人武器。 在环系统中,机器人可以选择目标,但只能通过人工命令来传递力量; 在环系统上的系统, 在这种系统中,机器人可以在可以忽略命令的人工监督下瞄准并传递力量; 以及人为环外的系统,在这种系统中,机器人无需任何人工监督即可瞄准并传递力量。 [2]我们不确定联合国将哪种类型作为国际协定或条约的主要重点。 在决定联合国甚至应讨论哪种武器系统时,“有意义的人为控制”等模糊术语以及自主与自动化之间的困难区分也成为代表团的重点。 “有意义的人类控制”声明来自联合国关于和平集会的报告,该报告建议: “应禁止不需要有意义的人类控制的自主武器系统。” [3] 一些代表团认为,过于具体的定义将导致开发人员发现漏洞,以继续建立类似的系统,而另一些代表团则认为,过于模糊的定义可能会阻碍旨在用于勘探等目的的无人驾驶设备的发展。 [1]
  2. 禁止LAWS的努力是先发制人的。 联合国要处理的大多数武器系统都不存在,这增加了定义它们的难度。 在以前的许多武器禁令中,例如与地雷或核武器有关的禁令中,这种装置已经存在了数十年,直到国际社会制定了禁止它们的条约。 不过,这种先发制人的禁令不会是第一个,因为在第一架军用飞机投产之前,当然还有朱利奥·加沃蒂(Giulio Gavotti)投掷手榴弹在飞机的第一次空中轰炸中没有伤到任何人之前,已经在努力限制空战。 [4]
  3. 联合国不是唯一关注杀手机器人的人。 其他国际组织也发表了报告和声明,敦促采取行动禁止这些系统。 此外,像埃隆·马斯克(Elon Musk)和斯蒂芬·霍金(Stephen Hawking)这样的技术专家也敦促联合国在为时已晚之前禁止使用杀手机器人。 [5]麝香和霍金对人工智能的军备竞赛可能导致第三次世界大战特别紧张。
  4. 特朗普的人民并没有全部被禁止。 史蒂芬·格罗夫斯(Stephen Groves)曾担任尼克·海利(Nikki Haley)的参谋长,最近又签署了白宫副法律顾问,还曾在传统基金会(Heritage Foundation)担任高级研究员,所有这些最终都给人留下了深刻的印象,应该表明他有能力认真对待考虑到他的位置。 2015年,他为美国传统基金会(Heritage Foundation)撰写了一篇文章,敦促美国继续致力于LAWS并反对对其实施任何禁令。 [6]在以下摘录中可以看出他论点的症结所在:

“美国是法律发展体系的领导者,并且应该继续如此。 这是美军在未来冲突中仍可保持其敌人的战术和战略优势的唯一途径。 美国代表团应阻止任何禁止法律的行为或使它们不复存在的一切努力。”

格罗夫斯还指出,法律上没有一个简明的定义,即使美国签署了禁令,其他国家仍可能继续进行法律研究,并且美国军队必须保持竞争力,所有这一切都有关系强烈支持国际理论的现实主义观点。 格罗夫斯与海利和特朗普的距离应该是一个强烈的信号,表明这种情绪很可能在白宫中产生了影响。

坦率地说,格罗夫的文章写得很好,说明了可以以某种方式对LAWS进行编程以符合国际战争法的可能性。 但是,仍然存在很明显的可能性,即由于人工智能的结合或对我们国家能力的网络攻击的可能性,机器人将失去这种一致性,并开始主动违反国际法。 编程可能会失败,并且不能保证美国公司生产的LAWS不会最终损害美国士兵或平民。 在甚至更有可能的情况下,我们无法保证,在美国部署LAWS时,它将能够区分正在成为战斗员新规范的非正规和游击战士与平民,因为他们很可能穿着相同的服装。

格鲁夫引用的许多担忧与核武器的支持者用来证明其论点的担忧相同。 随着联合国继续努力实现禁令,它们很可能会遇到困扰今年初新禁令的相同问题。 更主要的问题之一可能是美国总统将反对联合国试图实施的任何禁令。 当然,联合国不能明确地强迫任何国家,当然也不能强迫美国通过,签署或批准它们可能产生的任何禁令,而且国际社会也有可能在联合国之外制定条约。像渥太华那样的拥有地雷的国家。 尽管如此,特朗普仍可能选择发动一项禁令以冒犯国家主权,或试图将联合国描绘成恐慌的恐慌贩子,并把自己描绘成引领技术未来之路的有远见的人。 我求求你不要买这个。 联合国正在努力防止一种技术的扩散,该技术具有造成严重破坏的能力,并给已经在努力减轻武装冲突强度的世界带来大量暴力。 这就是这里的问题。

在我撰写本文时,联合国正在日内瓦开会。 某些常规武器公约(CCW)尚未在其文字中涵盖杀手机器人,人权观察组织协调的“制止杀手机器人运动”批评了CCW在国际上的“拖脚”。 [7]这并不意味着在国家或公司层面上没有取得任何进展。 如果您有兴趣了解更多有关停止杀手机器人运动的进展的信息,请访问其网站StopKillerRobots.org和社交媒体以获取更新。 该运动由包括非暴力国际组织在内的28个国家的64个组织组成。

我坚信这项运动很重要。 军事技术的不断改进以使我们的士兵更安全是最重要的,但是LAWS增加了平民死亡或某些秩序的失误也可能使我们的士兵面临危险的可能性。 我觉得至少应该禁止人为使用的系统,并且我很感兴趣地看到这种情况如何发展。 当我们最终听到特朗普的决定时,我希望对此文章有所更新。