欧洲三部人工智能监管法案达成协议规范AI技术发展

全球首部人工智能领域的全面监管法规草案达成协议。

在经过近40小时的持续谈判后，欧洲议会、欧盟成员国以及欧盟委员会三者于布鲁塞尔当地时间12月8日晚，就《人工智能法案》达成了一致意见。据报道，这一协议的达成是在各方经过长时间协商的结果。

据报道，该法案的目标在于对人工智能进行全面的管理和监督，从而为这种技术的研发和应用创造更加优良的环境。在谈判过程中，各方就对生成式人工智能工具（例如OpenAI的ChatGPT和谷歌的Bard）实施一系列限制性规定达成一致意见。

欧盟委员Thierry Breton在X平台发文称：

《人工智能法案》（AIAct）不仅是一本规范性的 rulebook，它更是一个具有战略意义的起跳板，为欧洲的初创企业与研究人员在全球人工智能领域竞争提供了重要的支持。

据相关报道，该立法草案仍需得到欧盟成员国和议会的正式批准，一旦双方正式批准，该立法预计将于明年初生效，并应在两年后实施，或将为全球范围内监管人工智能技术定下基调。

矛头直指ChatGPT和谷歌Bard

在欧洲议会的官方网站上，我们可以发现，他们对于AI监管的首要目标在于确保欧盟所应用的人工智能系统能够满足安全性、透明度、可追溯性、非歧视性和环保性的要求。具体而言，这些系统必须由人类来监督，而非仅仅依赖自动化技术，这样才能有效避免可能产生的不良后果。因此，欧洲议会强调，AI监管的核心在于确保人工智能系统的公正和透明，同时也要兼顾人类的需求和安全。

因此，据称，该立法草案提出了一种平衡、适度的人工智能横向监管方法，仅限于解决人工智能相关风险和问题的最低必要要求，而不会过度限制或阻碍技术发展，或以其他方式不成比例地增加将人工智能解决方案投放市场的成本。

具体来看，该草案的主要内容包含以下几点：

采用基于风险占比的方法，为欧盟内人工智能系统的开发、市场投放和使用制定了统一规则。禁止某些违背欧盟价值观、特别有害的人工智能做法。这类做法包括：使用人工智能进行“社会评分”、操纵人类行为以规避其自由意志等。针对某些执法用途的远程生物识别系统提出了具体的限制和保障措施。比如，将禁止根据政治或宗教信仰、性取向或种族等敏感特征对人进行分类的生物识别扫描，媒体称这是谈判中最困难、最敏感的问题之一。规定了一种可靠的风险方法，以界定对人的健康和安全或基本权利构成重大风险的 “高风险 “人工智能系统。对于某些特定的人工智能系统，只提出了最低限度的透明度义务，特别是在使用聊天机器人或 “深度伪造技术（deepfake）”时。

值得关注的是，Breton明确指出，立法者已经同意采用两种策略来确保人工智能模型的透明度。首先，对于所有通用的人工智能模型（如ChatGPT），他们提出了透明的要求。其次，对于那些在整个欧盟范围内具有系统影响的强大模型，他们提出了更为严格的要求。这样的决策旨在维护数据保护和用户隐私，同时也促进人工智能技术的发展与规范。

据知情人士透露，12月8日，谈判代表已经达成共识，同意对OpenAI的ChatGPT和谷歌的Bard等具有根据指令生成内容的生成式人工智能工具实施一系列管控措施。

也就是说，该草案直接要求ChatGPT和通用人工智能系统（GPAI）等基础模型在投放市场之前遵守透明度义务，其中包括起草技术文件、遵守欧盟版权法以及传播有关培训内容的详细摘要。

在撰写本文时，我们需关注具有系统性风险的高影响力AI模型。为了确保这些模型的安全性，必须对其进行深入的评估与的风险减轻处理，同时进行对抗性测试。此外，还需向欧盟委员会汇报严重事件，从而保障网络安全的同時，也能報告其能源效率。而对于具有系统性风险的GPAI，可能需要借助实践守則來遵守新的法規。

关于处罚规定，建议的立法将针对违反规定的企业实施经济处罚，罚款额度最高可达3500万欧元，或者占企业全球营业额的7%，具体数值将根据违规程度和企业规模来确定。

接下来，欧盟等还将就此草案讨论细节，这可能会改变最终立法的形式。法案正式颁布实施后，各成员国将基于本国的公共政策基础，做出一定的变通适用。

率先立法，欧洲领跑AI竞赛？

该项草案如果成功立法，意味着欧盟将成为第一个制定人工智能法律的世界主要强国。

Breton表示：

“欧洲将自己定位为先锋，了解其作为全球标准制定者角色的重要性。是的，我相信，这是历史性的一天。”

根据央视新闻报道，此前，欧盟方面一直希望推动《人工智能法案》尽早出台。

2019年以来，欧盟一直布局人工智能监管领域，先后发布人工智能伦理准则并出台《人工智能白皮书》。

2021年4月，欧盟委员会提出《人工智能法案》提案的谈判授权草案。此后，欧洲议会和欧盟理事会就草案进行了多轮修订和讨论。

2023年6月，欧洲议会以499票赞成、28票反对和93票弃权，高票通过了《人工智能法案》谈判授权草案，推动了该法案进入立法程序的最后阶段，即举行欧洲议会、欧盟成员国和欧盟委员会的“三方谈判”，以确定法案的最终条款。

《人工智能法案》的出台也将为欧洲自身的AI技术发展带来便利。

草案中提及：

“鉴于技术变革的速度和可能面临的挑战，欧盟致力于努力采取一种平衡的方法。保持欧盟的技术领先地位，确保欧洲人能够从根据欧盟价值观、基本权利和原则开发和运行的新技术中受益，符合欧盟的利益。”

反对的声音

今年6月，包括空客和西门子在内的数十家欧洲大型企业曾采取集体行动，以“可能损害欧洲竞争力”“不能应对潜在挑战”等为由，公开反对欧盟通过《人工智能法案》。

Open AI的Altman也此前曾批评欧盟监管AI技术的计划。

此前起草的拟议法律暗示ChatGPT和大型语言模型GPT-4都可能被指定为高风险。Altman曾就此回应道：“如果我们能遵守，我们会，如果我们不能，我们将停止运营。我们需要试试，但可能存在技术限制。”

草案达成协议的结果公布后，欧盟高级政策顾问Ella Jakubowska表示：

“欧盟首次采取措施使整个欧盟范围内的实时公共面部识别合法化，这很难让人感到兴奋。”

“虽然议会努力限制损失，但生物识别监视和分析的整体方案充其量只是冷淡。”

商业组织DigitalEurope的总干事Cecilia Bonefeld-Dahl称：

“我们达成了一项协议，但代价是什么？我们完全支持基于人工智能使用的基于风险的方法，而不是技术本身。”

不过，该法案草案达成协议的背后，更重要的意义或许在于提供了监管AI技术的政策蓝图。

欧盟执行机构欧盟委员会主席Ursula von der Leyen表示：在该法案完全适用之前，我们将支持企业和开发商预见新规则。大约100家公司已经表示有兴趣加入我们的《人工智能法案》。