“机器学习”应称为“盲优化”

计算机科学家喜欢对他们的作品进行拟人化,通常将人类的思想等同于计算。 这种还原主义多么猖ramp? 这是人工智能和机器学习领域的名字。 这些术语具有专家所熟知的非常技术性的含义。 但是,来自这些领域的工具正越来越多地用于需要非专业人士了解情况并且需要对如何以及何时使用它们发表意见的领域。

当我们试图理解事物时,用来描述事物的语言非常重要。 例如,在讨论进化时,我们经常听到有机体“已经进化”了某种能力。 这是描述进化的可怕方式。 太可怕了,它实际上会加深理解。 以这种方式描述过程-就像它是由有机体完成的一样-意味着该有机体做了某些进化。 但是,当您从梯子上掉下来时,有机体的主动进化就不会超过您向地球的主动引力。 进化是一种发生在生物体上的事情,就像重力发生在您身上一样。 他们没有代理或发言权。 随便谈论这样的进化,会给非专家关于真正发生的事情带来错误的想法。 它们形成了可能难以纠正的错误的过程心理模型。

在讨论机器学习时,随便为算法分配诸如“智能”和“学习”之类的人类特质,并像它们“思考”并具有代理作用一样对它们进行讨论。 对于真正的情况,这给了非专家很大的错误想法。 这给他们留下了我们创造了人类水平的智能的印象。 它把人脑的图片放在脑海中,并鼓励他们推断算法无法拥有的其他类似人的特质-如常识或道德性。 这使他们无法就我们作为社会应分配给这些算法的责任做出明智的决策。

假设您不了解AI / ML。 您在外面的街道上,教孩子在人行道上骑自行车。 有人路过,问您是否介意他们最新的自动驾驶汽车也可以在大街上练习。 如果他们向您描述它是由“人工智能和机器学习”驱动的,则您可能会推断它足够聪明,不会让您的孩子感到厌烦。 但是,如果他们反而告诉您这实际上是一种算法,需要从数十个传感器,照相机和LIDAR接收成百上千的输入,然后将它们组合成非常复杂的算法,该算法根据先前的读数和数据进行优化,以进行转向,加速和制动,那么您更有可能会问他们以前的数据是否包括骑自行车的孩子。 (必须指出的是,到目前为止的方法很重要,因为数据不包括骑自行车的孩子,他们正开车沿着街上收集数据。)

机器学习算法是盲目的优化。 将他们称为“他们是什么”可以消除野心勃勃的行话,使非专家可以更好地了解实际情况。 这些算法是盲目的,因为它们无法洞察其创建者的真实目标。 它们是计算机程序,它们通过针对其构建的数据进行了优化的计算来处理。 他们不多也不少。 它们的节点和层次丰富,可能会非常复杂。 但是复杂性不是智能。 在我看来,像把它们当作更大的东西,几乎是人类的东西来讨论它们,似乎是不负责任的,甚至是不道德的。 我们用于这些算法的崇高语言是否影响了我们对它们的看法以及我们对其功能的怀疑程度?

也许“盲目计算”太苛刻了。 但是,这一点是正确的。 从机器的角度描述整个领域,“学习者”消除了最重要的要素- 教师 。 无论机器是错误地在人行道上行驶,未能识别出行人还是向孩子推荐暴力视频,老师最终都要对机器的决策负责。 因此,除了“盲目计算”以外,“机器教学”又如何增强人类的作用,我们的作用,最重要的是,我们赋予算法这种能力的责任呢?


我绝不是机器学习方面的专家。 但是,以统计学和计算为背景,每当我听到最新的对抗性DNN催生了奇异之处时,我都会得到足够的信息来叹息。