如何规范危险的人工智能

专家对马斯克(Musk)有关需要进行人工智能(AI)监管的评论的反应几乎就像是下意识的反应。 该反应普遍沿不能识别需要调节的区域的方向进行。 我怀疑大多数AI研究人员并没有在全局方面做出认真的努力。

我故意避免在这里讨论AI法规的“为什么”。 相反,我将讨论“什么?”和“如何?”的问题。 请在您的评论中,通过询问为什么需要AI监管来避免简短的讨论。 您可以在其他地方找到对此的意见。 实际上,如果您能够垄断埃隆·马斯克(Elon Musk),那么也许他会给您一个更好的解释。

首先,请允许我将其范围扩展到自动化概念。 也就是说,让我们看一下自动化的连续性,认识到AI是一种更强大的自动化形式,然后探索适用于自动化使用的现有法规。

自动化范围广泛:

级别0(手动处理) —零自动化。

级别1(参加流程) —用户知道每个自动化任务的执行开始和完成。 如果执行不正确,用户可以撤消任务。 但是,用户要对任务的正确排序负责。

级别2(参与多个流程)-用户知道任务的组合的启动和完成。 但是,用户不对正确的任务顺序负责。 一个例子是预订酒店,汽车和机票。 预订的确切顺序可能不是用户关心的问题。 但是,无法完成此任务可能需要更广泛的手动补救措施。 补救措施失败的一个不幸例子是美国联合航空公司付费客户的重新安置。

3级(无人值守流程) –仅在特殊情况下通知用户,并要求他们在这些条件下进行工作。 这样的一个例子是在连续监视网络安全性的系统中。 从业者会根据事件的严重程度采取行动。

级别4(智能流程) —用户负责定义自动化的最终目标,但是流程的执行的各个方面以及机上异常情况的处理均由自动化来处理。 自动化能够在飞行中发生故障时执行适当的补偿动作。 但是,用户仍然负责确定可以安全地应用自动化的特定环境。

级别5(全自动流程) -这是最终的和将来的状态,不需要人工参与流程。 当然,这可能不是最终的水平,因为它不假定该过程能够优化自身以进行改进。

级别6(自我优化过程) -这是一种自动化过程,不需要人工参与,并且能够随着时间的流逝而不断完善。

这些级别受汽车工程学会(SAE J3016)标准的启发。 我相信这里的“汽车”是指汽车,而不是计算机意义上的自动化。 但是,第6级超出了SAE要求的一步。 我们可以将其视为某些高性能竞争环境(例如Robocar竞赛和股票交易)所要求的水平。

现在让我们研究不同领域的各种法律,并将它们与上述规定的水平联系起来。 我认为可以放心地认为,适用于较低级别的法律也适用于每个较高级别的法律。

这是书中的一些法律:

Robocalling(Robocalling)—由FTC在2009年颁布。禁止预先录制的电话推销电话,除非营销商事先获得消费者的书面授权才能拨打电话。 FCC于2016年针对政治活动的Robocall颁布了进一步的法规。 1级自动化。

垃圾邮件-2003年的SPAM法案基本上说:“电子邮件不应在其来源或内容上误导收件人,并且此类电子邮件的所有收件人都有权拒绝它们。” 2级自动化。

病毒,特洛伊木马和蠕虫-1990年计算机滥用法,其中涵盖了未经授权的访问和“未经授权的计算机材料修改”。 3级自动化。

程序交易— 1987年10月19日,又称为“黑色星期一”。 新规则要求交易所必须有“交易限制”或“断路器”,以允许交易所在高波动情况下停止交易。 3级自动化。

高频交易-CFTC正在就自动交易提出法规,例如“欺骗”,“快速交易”和“报价填充”等AT策略。 HFT涉及利用计算机来利用由于延迟和参与者响应时间而引起的市场低效率。 一般而言,金融组织通过入侵我们的金融系统来谋生,以发现低效率和漏洞的区域,从而可以合法地抢劫市场参与者。 2级和3级自动化。

无人机法规-现在生效的FAA法规。 足以适用于其他自动化的通用特定法规:“无人机必须保持在飞行员的视线范围内”。 简而言之,严格来说是无人机的2级自动化!

基因工程的规范-基因工程只限于少数几个用例。 对于实验和衍生产品的开发通常是合法的,但是将这些基因工程动物带入野外是非法的! 6级自动化。

生物武器– 1989年法令。该法令规定,买卖用作武器的生物制剂为非法。 这是6级自动化。 中东偶尔发生的“无人机袭击”已经在战区中使用了2级武器自动化。 请注意,巡航导弹是4级自动武器。

核不扩散条约—与人工智能有关的两个重要方面,“不以任何方式协助,鼓励或诱导”无核武器国家获取核武器(第一条)”和“所有缔约方的权利为和平目的发展核能并从该领域的国际合作中受益(第四条)”。 简而言之,如果您首先获得技术,则可以要求法律,以便保持垄断!

这只是涉及自动化或危险技术法规的现有法律的样本。 因此,我们现在可以概括一下这些现有法律吗?

  1. 自动化需要与人互动的许可。
  2. 自动化不会误导人类。
  3. 自动化不得擅自修改信息。
  4. 在异常情况下,应自动关闭自动化。
  5. 自动化对欺骗其他参与者的方法没有限制。
  6. 自动化应始终由人来完成。
  7. 6级自动化永远不能放任不管。 6级自动化仅可用于非6级自动化的实验和创建。
  8. 买卖武器制造的6级自动化应该是非法的。
  9. 谁达到了6级自动化水平,谁首先就会为其他所有人决定规则是什么。 否则,所谓的“ AI黄金法则”即为黄金拥有者!

有点免责声明,我是在周日清晨写的。 这只是一些想法的第一步,但我当然可以肯定其他想法有更好的想法。 我写这篇文章的动机是开始就这个最终紧迫的话题展开对话。