民主与人工智能:将社会融入循环

在从工作到日常生活的各个方面引入人工智能,作为语音助手和各种智能小工具来调节家庭照明或取暖,为这种技术奇迹带来了新的热情。 市场不断渴望新的前卫产品,而各个国家和公司争相成为独特创新的领导者,为我们这个时代的快速科学技术发展做出了贡献。

但是,当计算机承担的任务意味着更广泛的社会影响时,会发生什么情况呢?这种算法可能会影响大众的政治偏好或在社会背景下调解资源和劳动力? 因此,伊亚德·拉万(Iyad Rahwan)提出了HITL系统的扩展:如果HITL AI是基于个人对单个精确计算机任务的判断,那么具有更广泛社会意义的AI必须基于更广泛社会的判断。上下文。 通过这种方式,他介绍了一种循环社会(SITL)系统。 在这里,主要区别在于SITL系统不仅监督机器的性能和行为,而且还监督其编程代码和算法的道德和伦理影响,从而保护用户的权利。

但是,社会是由并不总是在什么是正确的和什么是不正确的上达成共识的个人组成。 因此,有必要在治理领域和治理领域的各种社会行为者的所有不同利益之间进行调解。 当我们缺乏对调节我们生活的社会的社会契约的精确定义时,就会出现这样的问题。要解决这个难题,我们应该退后一步,尝试定义什么是社会秩序的起源。如我们今天所知。

社会契约论的第一步是托马斯·霍布斯(Thomas Hobbes)采取的,他在利维坦(Leviathan )中将社会秩序视为政府对第三方(机构)进行投资的能力,并具有约束他人调节社会中其他人生活的权力系统。 然而,霍布斯看到了社会秩序的开始,即单身的人必须接受的妥协,将他们的部分自由委托给了中央机构,体现在无可争议的君主的身影中(因此, 利维坦 ),以便在法治中和平地生活。社会。 卢梭认为中央政府不仅是确保和平与秩序,而且是为了人民的普遍意愿的调节力量,被同一个公民合法地统治。

但是这种哲学绕道与我们对机器人世界的社会监督的研究有何关系? 正如Citron和Pasquale(2014)所述,因为以同样的方式来决定和编程机器的算法和功能对他人的生活有重大影响:如果没有高科技世界的民主监管,我们可能会走向“新的封建秩序”,其中有限的人群决定了许多。

因此,高科技世界有必要成为有效的社会民主制度的投射。 SITL模型(Rahwan在等式“ SITL = HITL +社会契约”中确定)可以将决策权扩展到更多人,而不仅是单个主管。 HITL模型不涉及SITL模型所做的两个基本方面:1)AI无法面对的常识选择,因为AI不具备人类思维所遵循的道德观(例如在效率和安全性之间进行选择,或者偏爱正确的做法,尽管数学上不准确); 2)了解在市场上实施新创新的社会成本和收益。 如果自动驾驶汽车必须更多地关注驾驶员而不是行人,或者反过来,则不能由机器本身来决定。 必须事先进行编程。

我们应该朝着对高科技世界更民主,更负责任的愿景迈进,将各种社会利益整合到相互学习的循环中。 仅仅靠人的监督是不够的。 同样有必要对机器背后的人员进行监督。

根据《 麻省理工学院技术评论》去年的文章,意大利已经确定自己是高科技出口国。 意大利工程师和程序员的技能享誉全球,至少到去年为止,意大利是欧洲第二大制造国,在欧洲大陆拥有一些最可持续的制造国。 欧洲是包括机器人技术在内的柔性制造技术的第三大出口国,仅向美国出口了96亿美元; 全球五个国家的制造业贸易顺差超过1000亿美元。

艾伦·普兰德(Alan Advantage)通过各种举措获得了Re:Humanism Art Prize,提出了文化变革。 它鼓励了许多杰出的人才,看到了意大利的巨大潜力,并且对人文研究产生了浓厚的兴趣,这与研究,确定和激发对社会契约的更清晰定义极为相关,如上所述。 意大利有潜力不仅可以将自己作为一个新的制造业现实来提出,而且还可以奠定一种新模型的基础,从而在其创新中实现更广泛的社会包容。

参考书目

香tron(Citron)和丹佛斯(Pasquale)(2014) 计分社会:自动预测的正当程序。 华盛顿法律评论 ,89,1–33。

Rahwan,I.(2017年)。 循环中的社会:对算法社会契约进行编程。 伦理与信息技术 。 DOI 10.1007 / s10676–017–9430–8