特朗普前律师被曝用AI瞎编判例，自称因“没跟上技术趋势”
近年来，生成式AI技术的发展日益成熟，其中以ChatGPT和谷歌Bard等应用尤为突出。如今，这些技术已经逐渐渗透到各行各业之中。据最近的消息，美国前总统特朗普的前经纪人兼律师科恩（Michael Cohen）涉嫌利用AI制造虚假案件，以替特朗普逃避逃税和竞选财务违规指控。这一事件再次凸显了生成式AI技术的广泛应用及其潜在风险。
在2018年，前美国总统特朗普因被指控违反联邦选举法，以及偷税漏税和向国会作伪证等罪行，被判处三年监禁。然而，到了2023年12月2日，特朗普却因涉嫌财务欺诈再次出现在法庭上，面临着审判。在此过程中，他的辩护团队提交了一份文件，引用了三起案件，试图以此作为证据，以期缩短特朗普的刑期。
在29日纽约南区联邦地区法院发布的文件中，一名当地法官指出，对于科恩所引用的三起案件，他们并未在任何一起案件中找到相应的引用。最终，科恩被迫承认，他所使用的谷歌AI聊天机器人Bard生成的相关案件引文。
Bard是一款由谷歌公司于2023年3月推出的AI聊天机器人,其强大的背后大模型拥有1370亿参数,使其成为谷歌应对OpenAI(以及其背后的微软)挑战的“最强竞品”。Bard以其能够提供实时、流畅的个性化对话服务而备受赞誉。
在文件陈述中，科恩声称自己未能及时跟上前卫的法律技术趋势及其潜在风险，误将谷歌Bard视为一种具备“超级搜索”功能的工具，而实际上它仅能生成看似真实，但实际上并不准确的引文与描述，类似于ChatGPT这样的文本生成服务。
在使用Bard工具生成案例后，科恩将其提交给了律师团队中的施瓦茨（David M. Schwartz）。值得注意的是，施瓦茨以及他的律师助理并未对他的建议性引文提出任何疑虑。在没有确凿证据证明这些案例确实存在的前提下，科恩却代表其向联邦法官提交了相关文件，这一点仍让他感到十分惊讶。
美媒华盛顿邮报在29日时称，科恩引用AI生成虚假案例一事，预计将会对特朗普案件造成重要影响。
事实上，在此之前，美国也已有两起使用生成式AI工具生成虚假案例的事件——2023年5月底，纽约一位从业超过30年的资深律师使用ChatGPT撰写相关资料，，最终，该律师以及背后的律师事务所共遭受5000美元的罚款；2023年6月，一位记者在撰写报道时采用ChatGPT帮忙总结信息，，受害者已向ChatGPT及开发公司OpenAI提起诉讼。
在技术层面，这种AI“一本正经地胡说八道”或“说谎”的现象被称为“AI幻觉”，指模型所具有的一种输出欺骗性数据或没有任何已知事实内容的倾向，很多是由于训练数据错误或不足，以及模型本身的偏见，当前仍未能找到完美的解决方法。
而肉眼可见的是，随着新一代技术工具的逐渐成熟，AI在法律案件工作中将变得越来越普遍，也一定会产生各种各样的问题，究竟如何解决，仍值得进一步讨论。
采写：南都记者 杨博雯返回搜狐，查看更多
责任编辑：
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
Related posts
