生成式人工智能：挑战与应对

99 0 0

文章主题：生成式人工智能, ChatGPT, 法律规范, 风险管理

去年11月，ChatGPT的问世无疑引起了全球的关注。对于一部分人而言，这一事件标志着生成式人工智能的崛起，其重要性和影响力和个人电脑的问世相当，甚至更胜一筹。然而，也有一部分人持谨慎态度，他们认为在当前的人类认知水平下，ChatGPT的存在过于危险，甚至可能带来无法预料的后果。

在我国，生成式人工智能的规范化问题已经引起了法律界的广泛关注。近日，2023世界人工智能大会法治论坛在7日顺利举行，其主题为《数字治理：生成式人工智能之法律回应》。在这个论坛上，来自学术界、产业界和实务界的中外专家、学者们针对如何对生成式人工智能进行合理规范进行了深入探讨。

对社会伦理、秩序的冲击不可小视

在与会专家眼中，生成式人工智能与过去的网络侵权行为存在显著差异。虽然它本身通常不会对个人安全或财产造成直接损害，但在当前的运作方式下，它可能会给知识产权保护和信息鉴别带来极大的挑战。

关于ChatGPT所创作的文学作品、艺术作品等是否应被视为著作权法下的作品，至今尚无明确的一致性观点。中国人民大学教授王利明指出，更为严重的问题可能源于生成式人工智能生成的大量看似真实的虚假信息。这些虚假信息既可能是由于程序上的计算错误导致的，也可能是用户故意插入的。一旦这些虚假信息在社会中广泛传播，可能会引发严重的社会不安定因素。

蚂蚁集团副总裁兼首席合规官李臣同样持有相似的观点。他认为，知识产权保护以及个人信息安全一直是互联网产业发展的难题，并非仅在生成式人工智能出现后才出现。然而，难以识别的虚假信息，或是含有歧视、偏见、错误内容的言论，可能会被ChatGPT大规模生产和传播，这将对社会伦理和秩序带来极大的影响，不能忽视。

在我们乐观地看待生成式人工智能为生活带来的便利的同时，科大讯飞副总裁、司法业务部总经理雍文渊提醒我们，真实性和准确性同样重要。他以人工智能在司法领域的应用为例，说明当前AI已具备协助普通人撰写法律文书以及提供专业法律法规建议的能力。然而，一起发生在美国的案例却给人们敲响了警钟：一名律师在一场官司中引用了6个判例，最终却被发现这些判例均由ChatGPT自行编写。这使得即使是专业人士也难以辨别其中的虚假信息，而对于非专业人士而言，更是难以识别。

还有与会专家提出，生成式人工智能的发展建立在海量的数据基础上，这个过程中不可避免会发生跨境数据流动，如何保证国家的信息安全也是一个难题。此外，越来越多金融、法律、政务服务中使用生成式人工智能代替传统的人工解答，但这些行业大多具有较高的准入门槛，需要考取相关资格证书，ChatGPT算不算无证上岗？

技术落后才是最大的风险

事实上，自诞生以来，呼吁对ChatGPT进行法律、伦理规制的声音就不绝于耳。今年3月，特斯拉创始人马斯克、《人类简史》作者赫拉利、图灵奖得主约书亚·本吉奥等上千位企业家、科学家就联名呼吁暂定相关研究至少6个月，以便相关监管能跟上。对此，与会专家普遍认为，加强监管是必要的，但必须把握好尺度，尤其要注意不能过分阻碍其发展。

“我们需要形成一种价值取向，既要正视生成式人工智能存在的风险，又要认识到技术落后才是最大的风险。”在具体监管上，王利明建议，除去开发者有意侵犯公民个人信息之类的特殊情况，绝大多数时候，对生成式人工智能带来的法律风险应采取过错责任制，并适用现行的通知删除原则。

所谓过错责任制，指的是在事后审查时，判断标准是开发者是否已经尽到了最大注意义务，但受限于当前技术条件，所以无法完全避免损害发生。若是，那就不宜认定其存在过错。而通知删除原则是指我国民法典和个人信息保护法规定，网络服务提供者在接到用户关于存在侵权可能的投诉后，有没有对具体信息进行筛查甄别，并采取删除等必要措施。

“从目前来看，生成式人工智能带来的侵权问题，还没有完全超出我国相关法律的规制范围。”王利明认为，当务之急是要对生成式人工智能的研究建立一套合规审查标准，为未来可能的专门立法做准备。

来自美国的学者，耶鲁大学法学院蔡中曾中国研究中心研究员陆凯指出，从奥巴马时期开始，每一届美国联邦政府都会制定出台人工智能监管相关的规章，不过，这些规章并非强制性的法律，即使真的违反，也不一定会受到法律制裁。“我认为，美国政府是借此释放一种态度，表示我们关注到了这个领域，鼓励大家都去探索。”陆凯说，相比较而言，联邦法院做出的一些具体判例，可能对美国规范人工智能更有参考价值。

李臣表示，当前对生成式人工智能的研究，俨然已经成为国际竞争的一条新赛道，我们不能置身事外，必须加入进去。“我觉得，规则竞争和技术竞争同样重要，我们要尽快研究建立全周期的合规管理与监测机制，在未来的国际规则制定中争取更大话语权。”

栏目主编：王海燕题图来源：上观题图图片编辑：笪曦

来源：作者：王闲乐