文章主题：关键词：ChatGPT, 生物识别监控, 人工智能法案, 欧盟
ChatGPT和生物识别监控等技术将受约束
在经历了漫长的谈判之后，欧洲议会、欧盟成员国以及欧盟委员会三者终于在布鲁塞尔当地时间12月8日晚上达成了关于《人工智能法案》的协议。该法案将成为全球首个针对人工智能领域的全面监管法规。欧盟内部市场委员蒂埃里·布雷东表示，这个协议将有助于欧洲在“全球人工智能竞赛”中占据领先地位。
闭门谈判
重点关注聊天机器人和生物识别技术
《人工智能法案》草案已经签署协议，其中明确规定，任何对人类安全产生不可接受风险的人工智能系统都是严格禁止的。这些系统包括但不限于有目的地操纵技术的系统，利用人的弱点进行操作的系统，基于个人行为、社会地位或特征进行评价的系统等。
为了确保人工智能公司的合规运营，规定要求这些公司必须对其算法实施人工干预，并提供相应的技术文件。同时，针对“高风险”应用，还需构建一套风险管理系统。在欧盟内部，每个成员国都将成立一个专门的监督机构，以确保各项法规得到全面执行。
此前，欧盟方面一直希望推动《人工智能法案》尽早出台。
2019年以来，欧盟一直布局人工智能监管领域，先后发布人工智能伦理准则并出台《人工智能白皮书》。
在2021年的四月，欧盟委员会正式提出了《人工智能法案》的谈判授权草案。此提案引发了欧洲议会和欧盟理事会的广泛讨论和多次修订，以确保其合法性和有效性。
在2023年的 June 月份，欧洲议会在一次投票中，以499票的支持、28票的反对和93票的弃权结果，顺利通过了《人工智能法案》谈判授权草案。这一结果不仅使得该法案进入了立法程序的最后阶段，也意味着欧洲议会、欧盟成员国和欧盟委员会将展开“三方谈判”来确定法案的最终条款。
上周，各方代表进行了时长总计超过24小时的密集闭门谈判。在多轮谈判中，一场会议甚至延长到了12月8日的清晨。
欧洲新闻台报道，在上周四（7日）的谈判中，各方就控制如美国人工智能巨头OpenAI所研发的大语言模型ChatGPT等聊天机器人的基础模型达成了初步妥协。而在8日的谈判中，参与者们将更加关注实时生物识别技术，如面部识别等在公共场所的应用。
根据法新社的报道，经过36小时的激烈谈判，欧盟成员国的代表以及欧洲议会议员于8日就制定全球首个全面、基于伦理规范的人工智能监管法规达成了初步协议。欧洲新闻台将此次谈判过程描述为“世界上首次尝试以全面的、基于伦理的方式监管这项快速发展的技术”，凸显了其重要性。
欧盟内部市场委员蒂埃里·布雷东在社交媒体上发文表示:“欧盟成为第一个为人工智能使用设立明确规则的地区。《人工智能法案》不仅是一本规则手册，也将成为欧盟初创企业和研究人员引领全球人工智能竞赛的助推器。”
各方需求
数十家欧洲大型企业曾公开反对该法案
北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括表示，欧盟各方最终就《人工智能法案》达成协议，是各方做出妥协的结果，这既有来自欧盟内部的迫切需求，也有来自外部环境的压力。
第一，欧盟各国都认同发展人工智能能使欧盟获得竞争优势，在未来全球治理中赢得话语权，并且各国也有产业和经济发展的实际需求。因此，欧盟内部对于人工智能立法是比较迫切的。
第二，包括中国、美国、英国在内的国际治理主体，都在快速地推进关于人工智能治理的规则建设。从外部环境来讲，也决定了欧盟需要尽快形成和推出自己的规则。
吴沈括进一步分析认为，欧盟的《人工智能法案》对欧盟乃至全球的人工智能发展格局和立法格局都会带来非常重大的影响。
《人工智能法案》的立法技巧具有全面性和综合性。未来法案颁布实施，将对人工智能的研发、人工智能产品和服务的设计与运行带来非常大的直接影响。
在合规层面，该法案会影响各类人工智能企业的市场格局、业务模式、运营方式乃至发展前景。从执法和实施的前景来看，对于人工智能企业是一个比较大的挑战，同时也是一个业务重构、业务设计的过程。
法案正式颁布实施后，各成员国将基于本国的公共政策基础，做出一定的变通适用。
耐人寻味的是，此前，包括空客和西门子在内的数十家欧洲大型企业曾采取集体行动，以“可能损害欧洲竞争力”“不能应对潜在挑战”等为由，公开反对欧盟通过《人工智能法案》。
合作监管
中欧或可在合法合规的前提下共享数据资源
彭博社报道称，该协议标志着欧盟在人工智能监管方面迈出关键一步。在美国没有采取任何行动的情况下，这一法案或将为发达国家对生成式人工智能工具的监管定下基调。但有人警告说，即使达成了协议，也可能需要举行更多的会议来敲定法规的技术细节，该法案最早也要到2026年才能生效。
在达成协议之前，欧盟各成员国和欧洲议会议员已就应如何管控人工智能进行了多年的讨论。2021年，欧盟委员会就曾提议通过《人工智能法案》。在去年ChatGPT发布后，监管人工智能变得紧迫起来，包括中国、美国、英国在内的国家，都在快速地推进关于人工智能治理的规则建设。
今年7月，中国国家网信办等七部门联合发布《生成式人工智能服务管理暂行办法》，自8月15日起施行。
北京社科院副研究员王鹏在接受采访时表示，中欧在人工智能监管的合作空间是非常巨大的。中欧作为全球人工智能的领先力量，可以在多个方面展开合作:首先，双方可以分享各自在人工智能监管方面的经验和政策，相互借鉴；其次，双方可以共同制定人工智能技术和应用的标准，促进国际标准的互联互通，确保人工智能技术的安全应用；第三，双方可以在合法合规的前提下共享人工智能技术的数据资源，为人工智能的研发和产业化提供支持；此外，人工智能人才培养也是一个未来重要的合作方面。
关注
对两大监管重点如何规定?
AI公司要为“高风险”应用建风险管理系统
如何监管像ChatGPT一样的先进人工智能模型是此次谈判的争论点之一。彭博社看到的一份欧盟文件显示，所有通用型人工智能系统的开发者都必须满足基本的透明度要求，除非它们是免费的或者开源的，透明度要求包括:具有可接受的使用策略、更新训练大模型的最新信息、遵守欧盟版权法以及报告用于训练其模型的数据信息。
根据该文件，被视为有“系统性风险”的模型将受到额外的约束。欧盟将根据用于训练模型的计算能力来确定这种风险。专家表示，目前唯一能自动达到这一门槛的模型只有人工智能公司OpenAI的GPT-4。
此外，有关另一项颇具争议的生物识别监控技术，协议中规定，各国政府只能在公共场所使用实时生物识别监控，防止像恐怖袭击等可预见的威胁公共安全的事件，以及搜索犯罪嫌疑人等。文件还规定，禁止有目的地操纵技术，利用分类系统来推断用户种族、宗教信仰等个人信息。消费者有权提出投诉并获得相应解释，违规者将被罚款。事实上，关于生物识别监控技术，欧洲议会希望能够全面禁止。
美国《纽约时报》报道称，该法规的许多细节预计在未来两年内都难以敲定，这为人工智能的发展留足了时间。直到谈判的最后一分钟，立法者和欧盟各国仍在为“如何在促进创新与防范可能的伤害间取得平衡”这一问题辩论。
整合:董淑云
来源:新华社、央视新闻、环球网、成都商报 制图由腾讯混元大模型生成 返回搜狐，查看更多
责任编辑：
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
Related posts
