欧洲提出了严格的人工智能监管，可能会对全球产生影响

欧盟今天提出了管理人工智能使用的规则，这可能最终成为全球大部分地区如何管理这项技术的事实上的标准。

这是因为新规定将涵盖任何决策影响欧盟公民的人工智能系统，无论他们是客户还是员工。这是一个拥有4.5亿人口的市场和劳动力，大多数大型全球企业都无法忽视。

在许多情况下，企业将希望为所有客户和员工使用相同的算法和系统，而不是仅为欧盟培训单独的软件和创建单独的流程。如果人工智能算法得到更多的数据和训练，它们通常会更准欧宝球网站确，而为不同的地理位置维护单独的系统通常是不切实际的。

与此同时，违反该法律的公司将被处以高达2000万欧元(2400万美元)或全球销售额4%的罚款——以较大者为准。

“硅谷的每一家公司今天都会问的问题是，我们是否应该把欧洲从我们的地图上移除?”英国人工智能初创公司CausaLens的应用数据科学总监安德烈·弗兰卡(Andre Franca)说。

新规则的影响可能类似于欧盟的数据隐私法规，通用数据保护条例(GDPR)自2018年5月生效以来，该标准已成为全球许多大公司事实上的隐私标准。

该书作者、哥伦比亚大学(Columbia University)法学教授阿努•布拉德福德(Anu Bradford)表示:“我认为，在某些情况下，这可能会成为全球标准。布鲁塞尔效应这本书讲述了欧盟如何成功地利用其监管权力，在27国集团之外推广自己的政策和价值观。

“道德技术”

欧盟强大的数字技术沙皇玛格丽特·维斯特格(Margrethe Vestager)明确表示，欧盟执行机构欧盟委员会(European Commission)希望新法律的影响远远超出欧洲边界。“通过制定标准，我们可以为全球的道德技术铺平道路，并确保欧盟保持竞争一路走来，”她说。

布拉德福德告诉欧宝竞技ob欧盟委员会不希望欧洲公司与美国或中国的公司相比处于不利地位，这些公司已经在引领人工智能的发展，而欧洲则落后了。但在很多情况下，这些美国和中国公司通过收集大量个人数据，并以践踏欧洲一直寻求保护的个人权利和公民自由的方式部署人工智能，在技术领域确立了自己的前沿地位。布拉德福德在谈到欧盟委员会时说:“他们实际上想要产生这种全球影响。”

美国科技公司表示，他们已经准备好挑战这项名为《人工智能法案》(Artificial Intelligence Act)的拟议法律。数据创新中心(Center for Data Innovation)的高级政策分析师本杰明·米勒(Benjamin Mueller)说，该法案“对欧盟委员会把欧盟变成全球人工智能领导者的目标是一个破坏性打击”。数据创新中心是一家总部位于华盛顿的智库，由美国几家大型科技公司间接资助。穆勒说，拟议中的法律将创造“一系列新的规则腿筋的公司希望在欧洲建设和使用人工智能”，并导致欧洲大陆“进一步落后于美国和中国”。

但代表广泛科技公司的行业组织——计算机与通信行业协会(Computer & Communications Industry Association)对拟议中的法律给予了初步支持。该协会副主席克里斯蒂安·博格格林(Christian Borggreen)在一份声明中说，“欧盟以风险为基础的方法，确保欧洲人能够信任人工智能解决方案，并从中受益，这让我们感到鼓舞。”但他警告称，法规需要进一步明确，以“避免不必要的繁文缛节”，而且“单靠监管不会让欧盟成为人工智能领域的领导者”。

“操纵人工智能”

拟议中的欧盟规则将禁止将人工智能用于“操纵性、成瘾性、社会控制和无差别监视行为”。它将“操纵性人工智能”定义为一种系统，该系统会“导致一个人做出不利于他们的行为、形成一种意见或做出一种他们本来不会做出的决定”。

这些规则还将禁止人工智能用于“不加区别的监视”和“社会评分系统”，除非它们“用于评估和分类的特定合法目的”。这一规定似乎旨在阻止任何欧洲国家或企业实施与中国类似的措施社会信用体系在这个项目中，政府跟踪市民，并根据他们的行为对他们进行排名，得分低的人将被排除在某些福利和活动之外。

在其他情况下，建议对人工智能的监管应遵循基于风险的方法，将被视为“高风险”的用例置于更严格的要求之下。欧宝球网站该提案称，高风险用例包括可能危及人们生命和健康的关键基础设施;教育和职业环境，他们可以决定接受教育或专业培训的机会;就业、职工管理、自主创业;基本的私人和公共服务，包括获得贷款等金融服务;执法;移民、庇护和边境管制，包括核实旅行证件的真实性;司法行政。

在这些高风险地区，部署人工智能系统的公司将需要进行风险评估，并采取措施减轻任何危险;使用高质量的数据集来训练系统;记录活动，以便人工智能的决策可以记录和跟踪;保存关于系统及其目的的详细文件，以向政府监管机构证明符合法律;向使用者提供清晰及足够的资料;有“适当的人力监督措施”;确保“高水平的健壮性、安全性和准确性”。

人工智能委员会

该法案还提议成立一个欧洲人工智能委员会，由每个成员国的适当监管机构代表，以及欧洲数据保护监管机构和欧盟委员会组成，这将有助于确保在整个欧盟范围内协调实施该法律的方法。它还将负责向欧盟委员会发布关于哪些人工智能用例应该被视为“高风险”的建议，并建立一个技术专家小组，供各国当局咨询。

批评人士已经指出，该法案的许多条款含糊不清，除非在进一步的实施法规中对这些条款进行更好的定义，否则将使企业陷入潜在的法律困境。例如，数据创新中心的穆勒表示，禁止“操纵性”人工智能使用了“有问题的定义，将引发代价高昂的法律和监管之争”，而对高风险人工智能系统提出的“复杂的监管和技术要求”，“将限制人工智能的许多有益社会应用的使用”。

但波士顿DataRobot公司的应用人工智能伦理学家莎拉·卡特里(Sarah Khatry)说，该公司帮助企业建立预测分析系统欧宝竞技ob它的许多客户已经采取了欧盟立法建议的基于风险的评估和记录工作。

CausaLens的弗兰卡表示，在监管这种新兴技术时，欧盟“提出了正确的问题，他们担心的事情是正确的”。不过，他说，详细的定义对于确定新立法的影响将是非常重要的。例如，他说，什么是“适当的人力监督”可能是至关重要的。

对于CausaLens这样的公司来说，新法律可能是一个福音。这些公司正在研究的人工智能系统比许多现有的机器学习系统更容易解释，在现有的机器学习系统中，软件做出特定决定的确切原因甚至对其创造者来说都是不透欧宝球网站明的。在这些“黑箱”系统中，很难确切地知道它们将在何时以及如何失效，这意味着它们可能无法通过欧盟所说的高风险系统的风险评估和缓解措施。

弗兰卡说，拟议中的法律可能会促使公司转向本质上更可解释、更安全的新型人工智能，就像GDPR促使一些科技公司设计本质上保护个人数据的流程一样。欧宝球网站他说:“由于这项立法，这一领域实际上可能会有很大的进步。”

Khatry表示，美国很可能会效仿欧洲，制定类似的规则来管理人工智能的使用。她指出，2019年提交给美国国会的《算法问责法案》(Algorithmic Accountability Act)纳入了许多与欧洲法律相同的关于监督人工智能软件的想法。然而，该法案未能付诸表决。

布拉德福德估计，拟议中的欧洲法律可能需要大约两年的时间才能通过欧盟的立法程序。但她表示，明年将担任欧洲理事会(European Council)主席国的法国，热衷于推动人工智能法和其他几项相关的数字监管。

更正，2021年4月21日:这个故事的以前版本拼错了CausaLens公司的名字。
更正，2021年4月22日:这个故事的以前版本拼错了欧盟数字技术沙皇玛格丽特·维斯特格的名字。