律师生涯遭遇ChatGPT滑铁卢?10页文书被定义为’虚假’,未来AI法律之路何去何从?

AIGC与创业7mos agoupdate lida
117 0 0

文章主题:衡宇, ChatGPT, 律师

666ChatGPT办公新姿势,助力做AI时代先行者!

衡宇 发自 凹非寺

量子位 | 公众号 QbitAI

ChatGPT,把从业30年的老律师给坑惨了!

老哥撰写案件文案的时候,尝鲜让ChatGPT帮忙准备材料。然而提交后,不管是法官、对方律师还是老哥自己,都溯源不到引用的判决文书

结果就是,10页文书被法官定义为“充满虚假”,老哥还被暂停执业许可,面临被制裁的可能。

🌟面对ChatGPT给出的”南方航空公司被诉案”信息,施先生心中五味杂陈。他严谨地提问,诚心想要验证其真实性。然而,尽管ChatGPT的回答看似确凿,那份焦虑与无奈却如同晴天霹雳般笼罩着他。

ChatGPT响应得很快:“当然没有啦~~”

事件一出,引发铺天盖地的谈论。

不过这一次大多数网友站在ChatGPT这边,站队后的发言都有些愤愤:

ChatGPT又不是故意撒谎的!

以前人们就喜欢把数学、报告出错的锅甩给计算机,结果“计算机永不出错”的说法就流行开。

但ChatGPT本身就不是事实机器啊。

律师生涯遭遇ChatGPT滑铁卢?10页文书被定义为’虚假’,未来AI法律之路何去何从?

一份杜撰6个相关案件的文书

如果没有ChatGPT的介入,施老哥接手的案件本身其实平平无奇:

一位乘客起诉航空公司A,称他乘坐航司A的航班时,被空乘用金属服务车给砸到膝盖受了伤。

🌟律师施以深厚的专业知识,为客户精心准备了一篇10页的文献力作,满载权威案例分析!🔍文书深入剖析了Varghese对阵南航与Zicherman挑战大韩的经典案例,每一页都闪烁着逻辑与法理的火花。🏆这些案件判决不仅提供了坚实的法律依据,也为未来的法律辩论留下了宝贵的指引。欲了解更多,敬请查阅!✨#代理律师# 法律案例分析# 法律智慧

从业30年,这等案件对老哥来说就是小case。

律师生涯遭遇ChatGPT滑铁卢?10页文书被定义为’虚假’,未来AI法律之路何去何从?

然而戏剧性的一幕发生了——

被告律师向法庭提交书面文字,称他们在核实文书中提到的Varghese与南航案时,“无法通过标题或引用找到此案”,也没有任何与此相似的案件。

🌟案例分析🌟:Zicherman对大韩航空的法律挑战,一个隐晦的美国11巡回上诉法院判例!💡2008年的里程碑案件,尽管施老哥坚信其权威性,却让案卷迷踪,被告律师也一筹莫展。🔍探寻此案背后,揭示司法智慧的独特足迹。

此外美国达美航空的公司正式名称也存在错误,应该是Delta Air Lines,而不是文书中提到的Delta Airlines。

律师生涯遭遇ChatGPT滑铁卢?10页文书被定义为’虚假’,未来AI法律之路何去何从?

核实情况后,法官们发现确有其事,这简直是“前所未有的情况”

最终,他们判定这份文书充满“虚假司法判决,虚假引用和虚假内部引用”。

这下好了,施老哥被禁止在纽约南区执业,法官们还将在6月8日将举行听证会,讨论是否制裁施老哥。

律师生涯遭遇ChatGPT滑铁卢?10页文书被定义为’虚假’,未来AI法律之路何去何从?

这件荒唐事儿到底是怎么发生的?

施老哥在周四的宣誓书中解开了谜底,原来,在准备文书材料时,他让ChatGPT来给自己打下手,以“补充”自己所做的工作

“我不是故意欺骗法院或航空公司的”,施老哥说自己之前从来没用过ChatGPT,“我不知道它的内容可能有假。”

施老哥还向法院提供了一份“证据”,证明他确实向ChatGPT寻求过材料的真实性。

他在对话框中输入了以下文字:

Varghese是一个真实的案件吗?你的消息来源是什么?你提供的其他案件是假的吗?

ChatGPT迅速给出响应:

我提供的案例是真实的,可以在信誉良好的法律数据库中找到。

律师生涯遭遇ChatGPT滑铁卢?10页文书被定义为’虚假’,未来AI法律之路何去何从?

但事实是这些案例都是ChatGPT一本正经胡说八道的。

事已至此,施老哥追悔莫及,表示自己“非常遗憾”依赖ChatGPT来寻找类似案件的判决材料。

他还表达了自己的决心,称以后如果没有验证真实性,再也不会随意相信ChatGPT的“一面之词”了。

法律从业者,是否该拥抱AI

这个案件引起了法律界的广泛关注,对此,纽约大学法学院法律伦理学教授斯蒂芬·吉勒斯(Stephen Gillers)表示,施老哥的事儿虽然只是个例,但背后问题在法律界尤为尖锐

律师之间一直在争论类ChatGPT的AI的价值和危险性,也在讨论是不是有必要验证AI提供的信息。

ChatGPT对法律工作带来的最大危险,就是它拥有“胡说八道还不脸红”的本领。

律师生涯遭遇ChatGPT滑铁卢?10页文书被定义为’虚假’,未来AI法律之路何去何从?

✨🚀ChatGPT引发了全球热议,半年后仍挑战重重。尽管各大AI企业试图应对,但安全漏洞犹如狡猾的狐狸,难以完全根除。👀比如,Bard这位AI明星就曾不慎泄露天机,编造了詹姆斯韦伯太空望远镜的虚假新闻,让人大跌眼镜。🔍而Bing也不幸中招,误导用户以为Bard已下线,引发了不小的误解波澜。🚀这些事件凸显出AI技术的双刃剑性质,既带来了便利,也暴露出其潜在风险。专家们正在深入研究,寻找更有效的防护策略,以确保人工智能的健康和透明发展。🔥

🌟提高警惕,避免误解!最有效的方法是让ChatGPT通过双重验证🔍——正如某位经验丰富的用户所指出,仅仅依赖提问而不亲自核实,可能导致类似施先生的困扰。务必养成二次确认的习惯,确保信息的真实性。🛡️

除此之外的另一重威胁,ChatGPT引发了从业者对“AI替代律师”的担忧和激烈争辩。

🌟【智能时代律师角色】bots与法律同行:未至替代之路漫长的探讨💡面对施老哥事件的冲击,ChatGPT等创新技术引发业界对法律职业未来角色的深度思考。尽管AI的进步显著,但法律界的稳健声音指出,机器人取代律师和法官的道路还遥远漫长。\-commitment to law, not replacement-\n在机器人接管前的法律世界里,律师与法官的角色依然不可或缺,他们的智慧与专业知识是无法被技术轻易替代的。\-\-Legal Expertise Unmatched – Lawful Journey Ahead\-诚然,ChatGPT等技术的进步挑战了传统,但它们更多地作为辅助工具而非颠覆者。法律系统的稳健运行需要人类经验与法规的双重保障。\-\-Chatbots as Companions, Not Substitutes – Legal Framework First\-国内外法界一致认为,机器人在法律决策中的全面应用尚待技术和伦理的成熟,律师和法官的角色短期内不会发生根本性转变。\-\-Robots in Law: A Gradual Evolution, Not Instant Shift\-让我们期待一个智能与人性交织的未来,律师们继续坚守职责,而技术则为他们赋能,共同推动法律服务的进步。\-\-Together for Progress: Lawyers and Technology United 🌟

律师生涯遭遇ChatGPT滑铁卢?10页文书被定义为’虚假’,未来AI法律之路何去何从?

现实情况中,施老哥不是唯一一个让ChatGPT成为自己助手的法律从业者。

今年年初,哥伦比亚一名法官在审理一名自闭症儿童的保险理赔官司时,采纳了ChatGPT的答案。

2月,上海政法学院教授曹阳面对《上海法治报》谈论了ChatGPT在司法领域的应用,表示道:

ChatGPT可以演化成“智能律师助手”,帮助律师分析大量的法律文件和案例,提供智能化的法律建议和指导;可以变成“法律问答机器人”,回答法律问题,并提供相关的法律信息和建议。可以进行合同审核、辅助诉讼、分析法律数据等等,提高法律工作者的效率和准确性。

个人从业者拥抱ChatGPT带来的便利(即便背后隐藏着危险),市场也对法律和AI结合的赛道寄予厚望。

OpenAI自己就在去年11月投资了专为律所打造LLM的公司Harvey,该公司上个月又获得了红杉领投的2100万美金A轮融资。

就在前天,法律AI初创公司Spellbook宣布获得1090万美元(约7700万元人民币)融资。Spellbook主要通过GPT-4和数十亿份法律文件打造,还接入了一些其他大模型。它为专业律师提供服务,通过自然语言就能自动起草、审核法律合同等。

不过现在发生了施老哥身上的这件离谱事,算是给大伙儿敲响了警钟。

大概整个法律界都会对ChatGPT及同类产品抱以更冷静、更谨慎的态度了。

One More Thing

施老哥因为ChatGPT深陷泥潭的事情是真的,绝非通过AI瞎编。

但是,这篇文章也是在ChatGPT的帮助下写的(虽然参与部分很少很少,还进行了事实确认)

——人类的本质就是套娃(狗头)。

参考链接:

[1]https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html

[2]https://www.theverge.com/2023/5/27/23739913/chatgpt-ai-lawsuit-avianca-airlines-chatbot-research

— 完 —

量子位 QbitAI · 头条号签约

关注我们,第一时间获知前沿科技动态

律师生涯遭遇ChatGPT滑铁卢?10页文书被定义为’虚假’,未来AI法律之路何去何从?

AI时代,掌握AI大模型第一手资讯!AI时代不落人后!

免费ChatGPT问答,办公、写作、生活好得力助手!

扫码右边公众号,驾驭AI生产力!

© Copyright notes

Related posts

No comments

No comments...