中新经纬2月6日电 题:热度“狂飙”的ChatGPT面临哪些潜在法律风险?
作者 肖飒 北京大成律师事务所合伙人
🚀微软新年大手笔,ChatGPT瞬间火遍全球,引领AI潮流!🔍然而,对于法律从业者来说,这股热潮背后隐藏的法律合规挑战不容忽视。🤔ChatGPT以其强大的语言生成能力,无疑为法律服务带来便利,但其潜在的法律责任和数据隐私问题也引发深思。📝我们必须紧跟技术步伐,确保在享受科技红利的同时,不触碰法律雷区。👩💼法律与AI交织,我们需要智慧地导航,以保护企业和用户权益。🌟
🌟 ChatGPT并非神话,它背后是Transformer与GPT等强大的自然语言处理技术。虽然广受关注,但这并不意味着它已达到革命性的AI高度。本质上,ChatGPT仍是一款依赖神经网络的卓越语言模型,而非超凡的科技突破。🚀
第一,人工智能在中国整体监管仍有待完善。
🌟ChatGPT引领的自然语言处理技术正面临一项挑战——科林格里奇悖论(Collingridge Dilemma),这是一场关于知识与掌控权的微妙平衡难题。💡随着技术的飞速发展,我们既要应对海量信息的洪流,又要确保其有效利用和合理监管。🚫然而,如何在创新与规制之间找到最佳路径,避免潜在滥用,正是当前亟待解决的问题。
🌟💡面对信息与控制的双重挑战,我们正身处一个技术快速迭代的时代,其中新兴科技带来的“未预见之影响”与“滞后应对难题”并存。🚫💻早期的欢欣往往掩盖了潜在的社会风险,如同技术发展的巨轮一旦启动,其深远后果难以迅速预测和阻止。 kontrol困境则像一把双刃剑,一方面它推动着创新与进步,另一方面却在无形中编织了一张难以割舍的网络,使得问题一旦浮现,就如深海中的暗礁,难以轻易移除。💻🌐当技术的负面影响被揭示时,往往已根植于社会肌理,形成系统性难题,让补救措施显得苍白无力。在这个交织着机遇与挑战的时代,我们需要更敏锐地察觉风险信号,同时也要寻求创新的解决方案,以适应这场信息与控制的持久博弈。🌱🌐
🌟随着AI自然语言处理的迅猛崛起,我们正面临一个微妙的”科林格里奇悖论”——技术革新速度超乎想象,然而法规却在步步滞后。🔍法律界的反应是否能及时跟进,成为亟待解决的问题。
🌟人工智能领域迎来新曙光!虽然中国大陆的国家级立法还在探索中,像深圳和上海这样的先行者已经开始行动,他们用实际行动引领着行业发展。可以预见,全国各地都将紧随其后,制定出适应时代需求的人工智能产业法规,为这一创新技术的发展铺设稳固的基石。🚀
在人工智能的伦理规制方面,国家新一代人工智能治理专业委员会亦在2021年发布了《新一代人工智能伦理规范》,提出将伦理道德融入人工智能研发和应用的全生命周期。
第二,ChatGPT带来的虚假信息存在法律风险问题。
ChatGPT等AI聊天基础存在的现实合规问题也急需重视。ChatGPT基于AI背后已有的自然语言文本信息(语料库)进行概率统计,返回的答案也是“统计结果”,这就导致ChatGPT在许多问题上会“一本正经的胡说八道”,这种看似真实、实则离谱的虚假信息具有一定误导性。
倘若ChatGPT应用到搜索引擎、客户投诉系统等领域,其回复的虚假信息可能造成严重的法律风险。
实际上,这样的法律风险已出现,2022年11月,几乎与ChatGPT同一时间上线的Meta服务科研领域的语言模型Galactica,就因为真假答案混杂的问题,测试仅3天就被用户投诉下线。
在技术原理无法短期突破前提下,ChatGPT及类似语言模型要应用到搜索引擎、客户投诉系统等领域,就必须对其进行合规性改造,以最大程度降低相应的合规风险。
第三,ChatGPT会带来知识产权的合规问题。
聊天AI,尤其是像ChatGPT这样的大型语言模型知识产权问题应引起合规人员注意。
第一个合规难题是“文本数据挖掘”是否需要相应知识产权授权问题。正如前文所指,ChatGPT依靠巨量自然语言本文(或言语料库)运转,其需要将语料库中内容复制到自有数据库中,相应行为通常在自然语言处理领域被称为“文本数据挖掘”。当相应文本数据可能构成作品前提下,文本数据挖掘行为是否侵犯复制权,当前仍存在一定争议。
目前,中国著作权法并未将AI中的“文本数据挖掘”纳入到合理适用范围内,文本数据挖掘在中国依然需要相应知识产权授权。
第二个合规难题是ChatGPT产生的答复是否具有独创性?我们认为,无论某一答复是AI完成还是人类完成,其都应当根据现有独创性标准进行判定。
此时,其实还面临另一个争议,如果AI生成答复具有独创性,那著作权人可以是AI吗?显然,包括中国在内的大部分国家知识产权法律下,作品的作者仅有可能是自然人,AI无法成为作品的作者。
第三个合规难题是ChatGPT倘若在自己的回复中拼接了第三方作品,其知识产权问题应当如何处理?
我们认为,如果ChatGPT的答复中拼接了语料库中拥有著作权的作品(虽然依照其工作原理,这种情况概率较小),按照中国现行著作权法,除非构成合理使用,否则必须获得著作权人的授权后才可以复制。(中新经纬APP)
本文由中新经纬研究院选编,因选编产生的作品中新经纬版权所有,未经书面授权,任何单位及个人不得转载、摘编或以其它方式使用。选编内容涉及的观点仅代表原作者,不代表中新经纬观点。
责任编辑:李惠聪
AI时代,掌握AI大模型第一手资讯!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
扫码右边公众号,驾驭AI生产力!