文章主题：全球首部人工智能领域的全面监管法规草案, 欧洲议会, 欧盟成员国, 欧盟委员会
全球首部人工智能领域的全面监管法规草案达成协议。
在经过近40小时的持续谈判后，欧洲议会、欧盟成员国以及欧盟委员会三者于布鲁塞尔当地时间12月8日晚，就《人工智能法案》达成了一致意见。据报道，这一协议的达成是在各方经过长时间协商和讨论的结果。
据悉，该项法案旨在通过全面监管人工智能，为这一技术的开发和使用提供更好的条件，谈判同意对生成式人工智能工具（如OpenAI的ChatGPT和谷歌的Bard）实施一系列控制措施。
欧盟委员Thierry Breton在X平台发文称：
“《人工智能法案》（AIAct）不仅仅是一本规则手册，它还是欧盟初创企业和研究人员引领全球人工智能竞赛的跳板。”
该立法草案尚未获得欧盟成员国的正式批准，但一旦获得批准，预计将在明年年初开始生效，并在两年后正式实施。这可能会为全球范围内的人工智能技术监管奠定基础。
一、矛头直指ChatGPT和谷歌Bard
在欧洲议会的官方网站上，我们可以发现，他们对于AI监管的首要任务有着明确的阐述。这些任务主要包括确保欧盟所采用的人工智能系统在安全性、透明度、可追溯性、非歧视性和环保性方面达到更高的标准。具体而言，他们强调人工智能系统的监督应当由人类来完成，而非完全依赖自动化，以避免可能出现的负面影响。这样的立场，体现了欧洲议会对于AI监管的严肃态度和深入思考。
所以，据消息人士透露，该立法草案提出了一种既平衡又适度的人工智能横向监管策略，这种策略旨在解决与人工智能相关的风险和问题，同时也不会过度限制或阻碍技术的进步，也不会以不合理的成本增加将人工智能解决方案推向市场。
具体来看，该草案的主要内容包含以下几点：
采用基于风险占比的方法，为欧盟内人工智能系统的开发、市场投放和使用制定了统一规则。
为确保人工智能的发展遵循欧盟的核心价值观并维护人类的自由意志，我们需要对其采取严格的监管措施。其中，禁止使用人工智能进行“社会评分”以及操纵人类行为以规避个人自由意志等不当行为是至关重要的。这些行为不仅违反了人类的尊严，而且可能导致严重的社会后果。因此，有必要对人工智能的运用设定明确的规范，以确保其在服务人类的同时，不会损害我们的价值观和自由意志。
在针对特定执法场景的远程生物识别技术应用上，我们需要对其提出一系列的限制与保障措施。例如，对于基于政治、宗教信仰、性取向以及种族等敏感信息进行人口分类的生物识别技术，应当予以严格禁止。据媒体报道，这一问题在谈判过程中被视为最具挑战性和敏感性的议题之一。
规定了一种可靠的风险方法，以界定对人的健康和安全或基本权利构成重大风险的“高风险”人工智能系统。
对于某些特定的人工智能系统，只提出了最低限度的透明度义务，特别是在使用聊天机器人或 “深度伪造技术（deepfake）”时。
值得注意的是，Breton表示，立法者同意采取两层办法，即“对所有通用人工智能模型（例如 ChatGPT）提出透明度要求”，以及对整个欧盟“具有系统影响的强大模型提出更严格的要求”。
据知情人士透露，12月8日，谈判代表已经达成共识，同意对OpenAI的ChatGPT和谷歌的Bard等具有根据指令生成内容的生成式人工智能工具实施一系列控制措施。
也就是说，该草案直接要求ChatGPT和通用人工智能系统（GPAI）等基础模型在投放市场之前遵守透明度义务，其中包括起草技术文件、遵守欧盟版权法以及传播有关培训内容的详细摘要。
在实际应用中，对于那些具有较高系统性风险的高影响力AI模型，我们需要进行全方位的模型评估，旨在降低潜在的风险，实施对抗性测试，并向欧盟委员会汇报重大事件。这样做不仅可以保障网络安全，还可以报告其能源利用效率。而对于具有系统性风险的GPAI，可能需要借助实践守则来遵循新的法规要求。
在处罚规定方面，拟议的立法将对违反规定的公司处以经济处罚，罚款最高可达3500万欧元，或全球营业额的7%，具体取决于违规情况和公司规模。
接下来，欧盟等还将就此草案讨论细节，这可能会改变最终立法的形式。法案正式颁布实施后，各成员国将基于本国的公共政策基础，做出一定的变通适用。
二、率先立法，欧洲领跑AI竞赛？
该项草案如果成功立法，意味着欧盟将成为第一个制定人工智能法律的世界主要强国。
Breton表示：
“欧洲将自己定位为先锋，了解其作为全球标准制定者角色的重要性。是的，我相信，这是历史性的一天。”
根据央视新闻报道，此前，欧盟方面一直希望推动《人工智能法案》尽早出台。
2019年以来，欧盟一直布局人工智能监管领域，先后发布人工智能伦理准则并出台《人工智能白皮书》。
2021年4月，欧盟委员会提出《人工智能法案》提案的谈判授权草案。此后，欧洲议会和欧盟理事会就草案进行了多轮修订和讨论。
2023年6月，欧洲议会以499票赞成、28票反对和93票弃权，高票通过了《人工智能法案》谈判授权草案，推动了该法案进入立法程序的最后阶段，即举行欧洲议会、欧盟成员国和欧盟委员会的“三方谈判”，以确定法案的最终条款。
《人工智能法案》的出台也将为欧洲自身的AI技术发展带来便利。
草案中提及：
“鉴于技术变革的速度和可能面临的挑战，欧盟致力于努力采取一种平衡的方法。保持欧盟的技术领先地位，确保欧洲人能够从根据欧盟价值观、基本权利和原则开发和运行的新技术中受益，符合欧盟的利益。”
三、反对的声音
今年6月，包括空客和西门子在内的数十家欧洲大型企业曾采取集体行动，以“可能损害欧洲竞争力”“不能应对潜在挑战”等为由，公开反对欧盟通过《人工智能法案》。
Open AI的Altman也此前曾批评欧盟监管AI技术的计划。
此前起草的拟议法律暗示ChatGPT和大型语言模型GPT-4都可能被指定为高风险。Altman曾就此回应道：“如果我们能遵守，我们会，如果我们不能，我们将停止运营。我们需要试试，但可能存在技术限制。”
草案达成协议的结果公布后，欧盟高级政策顾问Ella Jakubowska表示：
“欧盟首次采取措施使整个欧盟范围内的实时公共面部识别合法化，这很难让人感到兴奋。”
“虽然议会努力限制损失，但生物识别监视和分析的整体方案充其量只是冷淡。”
商业组织DigitalEurope的总干事Cecilia Bonefeld-Dahl称：
“我们达成了一项协议，但代价是什么？我们完全支持基于人工智能使用的基于风险的方法，而不是技术本身。”
不过，该法案草案达成协议的背后，更重要的意义或许在于提供了监管AI技术的政策蓝图。
欧盟执行机构欧盟委员会主席Ursula von der Leyen表示：在该法案完全适用之前，我们将支持企业和开发商预见新规则。大约100家公司已经表示有兴趣加入我们的《人工智能法案》。
本文来自微信公众号：华尔街见闻（ID：wallstreetcn），作者：李笑寅
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
Related posts
