中新经纬2月6日电 题：热度“狂飙”的ChatGPT面临哪些潜在法律风险？
作者 肖飒 北京大成律师事务所合伙人
🚀微软新年大手笔，ChatGPT瞬间火遍全球，引领AI潮流！🔍然而，对于法律从业者来说，这股热潮背后隐藏的法律合规挑战不容忽视。🤔ChatGPT以其强大的语言生成能力，无疑为知识产权、数据隐私和合同有效性等带来全新考验。📝我们必须密切关注其可能引发的法律责任风险，确保业务操作的合法性。👩💼法律与科技交织，我们需要紧跟技术步伐，同时坚守法规底线。💪#ChatGPT法律风险 #AI合规探索
🌟 ChatGPT并非神话，它只是Transformer与GPT等NLP技术的巧妙结合。虽然看似先进，但本质上仍是一款依赖神经网络的卓越语言模型，而非引领革命的AI突破。别被过分的赞誉迷惑，它的真实能力还需实践来验证。🔍
第一，人工智能在中国整体监管仍有待完善。
🌟ChatGPT引领的自然语言处理技术正面临一项挑战——科林格里奇悖论(Collingridge Paradox)，这是一场关于知识与掌控权的微妙平衡难题。💡随着这项创新的迅速崛起，如何在提供便捷的同时确保有效管理和规范成为关键议题。 kode#技术发展 #信息控制 #科林格里奇困境
🌟面对信息与技术交织的挑战，我们正身处一个难以预见其长远影响的”隐形迷宫”——这就是所谓的信息困境。💡随着新技术的迅速崛起，它带来的社会变迁往往超出了初期的设想，导致潜在问题在爆发前难以预警。而当问题浮出水面时，控制困境也随之显现：一旦技术成为社会和经济体系的一部分，想要扭转其不良影响就变得异常困难。🌐一旦技术路径形成，那些曾经可以轻易调整的环节可能已深深固化，使得补救措施显得苍白无力。这两重困境警示我们，必须在技术革新与社会稳定之间找到微妙的平衡，以预防未来的失控。🎯这就需要我们在拥抱科技的同时，保持审慎和敏锐，对新技术的影响进行深度评估和持续监控。
🌟随着AI自然语言处理的迅猛崛起，我们正面临一个微妙的”科林格里奇悖论”——技术革新速度超乎想象，然而法规滞后成了显著挑战。🔍法律界的脚步似乎在智能浪潮中逐渐滞后，如何确保公正与安全成为了亟待解决的问题。
🌟人工智能领域迎来新曙光💡，尽管中国大陆尚未全面实施国家级的产业法规，像深圳和上海这样的先行者已经开始探索法律蓝图。预计未来各地都将紧随其后，纷纷推出针对性的人工智能立法，推动这一技术的健康发展。🌱
在人工智能的伦理规制方面，国家新一代人工智能治理专业委员会亦在2021年发布了《新一代人工智能伦理规范》，提出将伦理道德融入人工智能研发和应用的全生命周期。
第二，ChatGPT带来的虚假信息存在法律风险问题。
ChatGPT等AI聊天基础存在的现实合规问题也急需重视。ChatGPT基于AI背后已有的自然语言文本信息(语料库)进行概率统计，返回的答案也是“统计结果”，这就导致ChatGPT在许多问题上会“一本正经的胡说八道”，这种看似真实、实则离谱的虚假信息具有一定误导性。
倘若ChatGPT应用到搜索引擎、客户投诉系统等领域，其回复的虚假信息可能造成严重的法律风险。
实际上，这样的法律风险已出现，2022年11月，几乎与ChatGPT同一时间上线的Meta服务科研领域的语言模型Galactica，就因为真假答案混杂的问题，测试仅3天就被用户投诉下线。
在技术原理无法短期突破前提下，ChatGPT及类似语言模型要应用到搜索引擎、客户投诉系统等领域，就必须对其进行合规性改造，以最大程度降低相应的合规风险。
第三，ChatGPT会带来知识产权的合规问题。
聊天AI，尤其是像ChatGPT这样的大型语言模型知识产权问题应引起合规人员注意。
第一个合规难题是“文本数据挖掘”是否需要相应知识产权授权问题。正如前文所指，ChatGPT依靠巨量自然语言本文(或言语料库)运转，其需要将语料库中内容复制到自有数据库中，相应行为通常在自然语言处理领域被称为“文本数据挖掘”。当相应文本数据可能构成作品前提下，文本数据挖掘行为是否侵犯复制权，当前仍存在一定争议。
目前，中国著作权法并未将AI中的“文本数据挖掘”纳入到合理适用范围内，文本数据挖掘在中国依然需要相应知识产权授权。
第二个合规难题是ChatGPT产生的答复是否具有独创性？我们认为，无论某一答复是AI完成还是人类完成，其都应当根据现有独创性标准进行判定。
此时，其实还面临另一个争议，如果AI生成答复具有独创性，那著作权人可以是AI吗？显然，包括中国在内的大部分国家知识产权法律下，作品的作者仅有可能是自然人，AI无法成为作品的作者。
第三个合规难题是ChatGPT倘若在自己的回复中拼接了第三方作品，其知识产权问题应当如何处理？
我们认为，如果ChatGPT的答复中拼接了语料库中拥有著作权的作品(虽然依照其工作原理，这种情况概率较小)，按照中国现行著作权法，除非构成合理使用，否则必须获得著作权人的授权后才可以复制。(中新经纬APP)
本文由中新经纬研究院选编，因选编产生的作品中新经纬版权所有，未经书面授权，任何单位及个人不得转载、摘编或以其它方式使用。选编内容涉及的观点仅代表原作者，不代表中新经纬观点。
责任编辑：李惠聪
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
Related posts
