ChatGPT与虚假司法裁决：律师因使用AI辅助研究面临制裁

86 0 0

文章主题：哥伦比亚航空公司, 聊天机器人, 司法裁决, OpenAI

点击蓝字关注我们

SUBSCRIBE to US

Illustration: The Verge

根据《纽约时报》的报道，一位起诉哥伦比亚航空公司的律师向法院提交了一份简要的案情概述，其中列出了之前由人工智能助手ChatGPT所编造的所有案件。当对方律师指出这些案件并不存在时，美国地区法官Kevin Castel确认，在这份案件中，有六起似乎是虚假的司法裁决、错误的引用以及错误的内部引用。因此，法官表示将考虑对原告律师实施制裁。

在一份庄重的宣誓书中，著名律师Steven A. Schwartz供认，他在研究过程中曾运用OpenAI的智能对话机器人进行探索。为了确保这些指控的真实性，他采取了一种最合理的验证方式：即向机器人提问，以确认其陈述是否真实。

在一次不存在的案件Varghese v.China Southern Airlines Co.，Ltd.中，对方律师巧妙地利用了一个真实案例Zacherman v.Korean Air Lines Co.，Ltd.作为参考，然而，这个案例的日期及其他细节却存在诸多错误。据其称，这个错误引用是在最初的1996年裁决之后，经过了长达12年的时间才做出的。

Schwartz now admits that he was wrong in using artificial intelligence to supplement his legal research, and regrets that he did not verify the authenticity of the information he generated. He realizes that this approach may have led to false information being included in his work, and is deeply sorry for any potential harm caused. In the future, Schwartz guarantees that he will take all necessary precautions to ensure the accuracy of the information used in his writing.

Schwartz未能在纽约南区开展业务，然而，他在诉状中被移交给该地区法院之前就已经提起了诉讼，并强调他一直在正常工作。此案中，来自同一律所的律师Peter LoDuca担任了记录在案的律师，他需要在法庭上向法官阐述事件经过。

这再次突显了在研究过程中使用聊天机器人的荒谬之处，尤其是在没有其他地方进行双（或三）重验证其来源的情况下。以谷歌的人工智能聊天机器人Bard为例，其在首次亮相时就编造了一个有关詹姆斯·韦伯太空望远镜的事实。此外，微软的Bing搜索引擎甚至在今年三月的一个搞笑场景中，声称Bard已被关闭。

无论如何，法官指出，律师的案情摘要完全是一场谎言盛宴。

ChatGPT与虚假司法裁决：律师因使用AI辅助研究面临制裁

微信号｜IEEE电气电子工程师

新浪微博｜IEEE中国

· IEEE电气电子工程师学会 ·

往

期

推

荐

科学家创造出世界首个木质晶体管