撰文 | 程杨恒 罗玉婷 吴兰兰律师
自2022年11月30日首发以来，ChatGPT便以通用人工智能的高科技姿态风靡全球，两个月用户迅速过亿，成为人类科技史上消费者增长速度最快的应用程序，可称之为 AI 发展历程中的现象级事件。ChatGPT在国内外科技圈掀起狂潮，比尔·盖茨称赞“ChatGPT这种人工智能技术的诞生有着重大的历史意义，不亚于互联网或个人电脑的诞生”。埃隆·马斯克感叹“我们离强大到危险的人工智能不远了”。面对ChatGPT的爆火，我们不禁思考，ChatGPT对于法律人来说，究竟是“神器”还是“鸡肋”？
01ChatGPT，又一个聊天机器人？
（一）ChatGPT概念原理
ChatGPT全称“Chat Generative Pre-trained Transformer”，是OpenAI推出的一种人工智能技术驱动的自然语言处理工具，其经由系列模型迭代发展而来。ChatGPT 使用了 GPT-3.5 架构的主力模型，可以存储海量训练数据、设计高效互通架构、理解和解读用户请求，通过对话形式进行多场景、跨领域的交互活动，如语言翻译、文案写作、艺术创作、教学科研辅助以及智能编程等。此外，ChatGPT还具备超高“情商”，其表述通俗易懂、亲切度高、外观正确性极强，可以给用户提供较好的反馈与体验。
（二）ChatGPT发展历程
Open AI在第三波人工智能浪潮中孕育而生，其核心宗旨是“实现安全的通用人工智能”。2018年6月，Open AI提出生成式预训练（Generative Pre-training）这一概念，其最大特征是让语言模型进行“无监督学习”。2019年2月，Open AI推出GPT2，GPT2拥有更多的训练参数和更大的数据集。2020年5月，GPT3诞生，较之于前身，其增加了更多的训练语料、架构层数和运行难度。2022年11月，ChatGPT应运而生，Open AI对其做出以下优化：1.使用来自人类反馈的强化学习进行训练；2.通过近端策略优化算法进行微调，为信任策略优化算法带来成本效益。更新后的ChatGPT，一经上线便火爆全网。
02ChatGPT，如何为法律行业赋能？
科技圈顶流ChatGPT带来的颠覆式对话体验，如同科幻电影照进现实。在法律这一专业领域，ChatGPT是否能够凭借其强大的语言模型优势，快速占领法律科技市场，较好地为法律行业赋能呢？
为此，笔者在国外好友的帮助下（ChatGPT目前尚未对国内开放），与ChatGPT就各法律服务场景进行“约谈”。具体内容展开如下：
（一）法律文书撰写
ChatGPT号称拥有复杂的推理能力，基于对大量法律文本的学习，能够辅助起草各类文书。在起草一份民间借贷合同这样的请求下，ChatGPT可将我们已给出的本金、利率、借款期限等条款列入合同文本，并补全我们未提及的支付和还款方式、担保方式等内容，可见其根据设置情景抓取信息的能力还是不错的，法律工作者可以借其协助起草合同初稿、法律意见书、起诉讼、答辩状、专利申请书等法律文件。
（二）法律文书审核
审核营销内容和对外公关稿件是法务日常工作内容。据此，我们特意编制一则化妆品广告，让ChatGPT对其内容进行审核。从其回复可以看出，ChatGPT对于广告法中所禁止的夸大用语、虚假宣传用语和医疗保健功能用语均能较完整地指出。令人惊喜的是，ChatGPT在用户未明确要求的情况下，还主动给出了自己修改后的新版本，虽其仍然使用了“最新”这一绝对化用词。就日常法务工作而言，ChatGPT对于简单文书的审核，能够帮助法务从琐碎事务中抽离出来，聚焦于企业商业模式风险控制，更高效地为企业提供法务支持。
（三）法律适用讨论
法律规则往往具有一定的开放性，法律适用不是简单机械的归类性认识活动，需要在具体情境下进行分析。关于“夫妻一方为治疗疾病所产生的医疗费用是否算夫妻共同债务”的提问中，ChatGPT会在界定何为夫妻共同债务后，结合已有的案件事实进行具体分析，该答案具有一定参考价值。值得注意的是，ChatGPT的回答虽然正确，但引用的法条却是错误的，这足以反应ChatGPT背后法律数据更新的滞后性，不过这一问题应该不难解决。
（四）法律要件梳理
每起案件往往存在多个争议焦点，普通民众在进行诉讼时往往不能够像受过专业训练的法律工作者一样完整梳理相应的法律适用要件，在买卖合同纠纷的司法认定要素这一问题中， ChatGPT给出了六个方面的司法认定要素，且较为准确。可见，ChatGPT对于梳理法律适用要件有一定指引作用，有助于普通民众在各类法律纠纷中进行证据收集归类并预测案件走向。
（五）法律尽职调查
法律尽调是律师和法务常见工作内容，为验证ChatGPT在法律尽调中能否快速查找目标背景信息，我们以其开发公司OpenAI为对象进行了一次线上法律尽调。从结果来看，ChatGPT仅用一句话简单介绍了调查目标，关于风险，则根据目标所处的人工智能行业，给出了一个保守的、放之四海而皆准的答案。可见，ChatGPT能够承担一定的法律尽调工作，但其能力十分有限。
（六）法律语言翻译
为验证ChatGPT在涉外法律服务中对不同法律语言的翻译准确度，我们选取了含长难句及多个法律专有词汇的国际买卖合同中的一段税费条款。从ChatGPT的翻译结果来看，ChatGPT对文意的理解较为准确，能够将含义丰富的词汇在法律情境下给出特定的含义，但在面对长难句时，也会出现逻辑不通、漏翻的问题，比如末尾句更为准确的翻译应当是：“A同意不时协助B根据双重征税条款或类似的协定或条约申请税费豁免，以获得任何关税，增值税和其他A应付税费的退费。”
（七）司法裁判辅助
除我们前述列举的法律应用场景外，2023年初，哥伦比亚一位法官使用 ChatGPT 做出判决，向世人展示ChatGPT的辅助生成裁判文书功能，这是法院首次承认在法律判决中使用人工智能文本生成器的答案。在该份裁判文书中，ChatGPT不仅给出具体的法律条款、适用情形，还对该案的立法目的以及宪法法院判例等内容予以说明。可见，ChatGPT能够有效提升处理诉讼案件的效率，助力法官司法审判工作。
03ChatGPT，高光之下无暗面？
虽然ChatGPT相比以往的人工智能机器人，已实现质跃，其问世亦掀起新一轮人工智能浪潮，但其火爆背后亦暗藏重重风险，人工智能在迭代更新中难以避免出现“科林格里奇困境”。结合前述“约谈”体验，笔者系统梳理了ChatGPT可能引致的几种现实风险。
（一）数据泄露风险
ChatGPT的使用可能引致个人信息、商业秘密、国家秘密等数据泄露风险。ChatGPT的“持续进化”依赖其既有的、不断获取的大量数据。对此，OpenAI也明确表示，当用户使用ChatGPT时提供的一切数据，除可识别个人的信息外，皆会被用于提高模型性能。换言之，用户所输入的个人敏感信息、公司内部数据或商业秘密等相关内容，在OpenAI模型存在运行故障或机制缺陷等情形时，都有数据泄露的风险。因此，用户在使用ChatGPT时，应注意信息输入的隐匿性，避免键入涉密信息。
（二）信息虚假风险
ChatGPT有时像“糊弄学大师”，其输出的内容存在信息虚假风险。虽然ChatGPT可以快速检索、加工、改写海量信息，但其无法对数据的来源及真实性予以核实。美国新闻可信度评估与研究机构NewsGurd在测试ChatGPT时发现，ChatGPT超强的改写能力使其可将反馈信息“包装”精美，输出外表可信度极高的内容，但实际上毫无根据，即“一本正经地胡说八道”。譬如，ChatGPT可以快速生产出一篇长论文，看上去煞有介事，但参考文献全是其胡诌而成，查无此文。鉴于此，若用户自身判断能力匮乏，则可能被ChatGPT产出的信息误导，从而做出错误判断。
（三）知产侵权风险
ChatGPT牵涉知识产权侵权风险主要涵盖两方面原因：一则，ChatGPT可能未经权利人授权即拼接、剽窃其作品；二则，ChatGPT的文本数据挖掘技术可能不符合法律规定的“合理使用”等情形。若ChatGPT在生成文本时，使用、拼凑、抄袭了训练数据库中受著作权保护的文本、视频、代码等数据，且未经权利主体的授权，则可能引致侵权纠纷。对此，国内外多家学术刊物更新了编辑规则，《暨南学报（哲学社会科学版）》表示暂不接受ChatGPT单独或联合署名的文章，如在论文创作中使用过相关工具，需单独提出，并在文章中详细解释如何使用以及论证作者自身的创作性；《科学》明确禁止将ChatGPT列为合著者，且不允许在论文中使用ChatGPT所生产的文本。
（四）伦理道德风险
ChatGPT的运行可能绕过道德规范的约束，其生成的内容可能存在伦理道德风险。例如，ChatGPT可能输出带有侮辱、暴力、偏见、歧视、恶意、邪教或淫秽色彩的信息。目前，ChatGPT的活跃用户数量过亿，结合其极具误导性的文本外观，若其在训练数据集中摄入大量包含某种偏见和歧视的内容，则可能影响输出端的个人用户，进而逐渐渗透，对社会大众产生负面影响。如果ChatGPT基于政治或其他利益驱动，结合用户个性化特征“潜移默化”地控制某种舆论导向或发起动员，还可能会增加社会动乱风险与国家安全风险。
（五）行政监管风险
ChatGPT的使用可能增加行政监管风险，具体理由如下：其一，ChatGPT技术的使用和开发需要符合我国监管备案和审批管理的相关法律法规，如增值电信业务许可、算法备案、网络安全等级保护备案等；其二，不法分子可能将ChatGPT作为违法犯罪的“升级装备”，由此带来新的犯罪风险、增加行政监管的难度；其三，相关法律规范的空白也增加了行政监管的难度，ChatGPT作为人工智能工具，若出现故障，输出错误信息，导致不利结果发生，ChatGPT能否承担法律责任？谁又该为此买单呢？
《未来简史：从智人到智神》中如此写道：“未来，人类将面临三大问题：生物本身就是算法，生命是不断处理数据的过程；意识与智能的分离，拥有大数据积累的外部环境将比我们更了解自己。”
随着ChatGPT等人工智能技术不断升级、逐步普及，当技术与整个经济和社会结构渐融为一体，如何通过规范设计对ChatGPT一类的人工智能进行合理规制，或将成为法律人未来亟需解决的难题。
程杨恒 律师
重庆百君律师事务所律师，西南政法大学民商法硕士，执业以来主要深耕银行与金融、房地产与建设工程等领域，为多家大型企业及金融机构提供法律服务，并办理大量民商事案件，积累了丰富的诉讼实务经验。
罗玉婷 律师
重庆百君律师事务所公司法律事务部律师，西南政法大学、美国凯斯西储大学双硕士学位。执业领域主要包括：民商事诉讼/仲裁、公司法律事务。
吴兰兰 律师
重庆百君律师事务所网络安全与数据合规部成员，西南政法大学法律硕士。执业领域主要包括：公司法、劳动法、婚姻家事等民商事诉讼与仲裁，并为多家政府单位、房地产开发企业、文创企业提供常年法律顾问服务。
百君人文·旅者丨南宋：《满江红》的另一面，被战争掩盖的文化造极之世
Related posts
