ChatGPT推出后,很多白领惶惶不可终日,
曾经伏案多日才能完成的文字工作,AI轻轻松松就能生成。
我们之前写过,44%的工作将被AI取代,
但最近一个官司,让法律人重振精神,
用AI打官司可能没那么快,至少现在还不行,
因为AI太能胡编乱造了……
这起官司本身非常简单,小到简直不值一提:
在2019年,罗伯特·马塔(Roberto Mata)选择乘坐哥伦比亚航空公司的航班,从他的家乡萨尔瓦多出发,前往美国纽约市的肯尼迪国际机场。
在飞机上,一名乘务员推着金属推车,不小心撞到了马塔的膝盖。
马塔大呼小叫,说自己受了重伤,要航空公司赔偿。
几年后,马塔向曼哈顿联邦法院起诉哥伦比亚航空。
航空公司说案件已经过了追诉期,建议法官撤销此案。
马塔方面并未认同这一观点,反而要求律师详细撰写了十页长的文件,并引用了自1999年至2019年的六起案例,旨在阐明时效已经过期,但航空事故案件仍然有继续审理的必要。
律师援引的案件看着很规范,它们包括:
瓦吉斯诉中国南方航空案,2019年;
沙波诉埃及航空案,2013年;
彼得森诉伊朗航空案,2012年;
马丁内斯诉达美航空案,2019年;
德登地产诉荷兰皇家航空案,2017年;
米勒诉联合航空案,1999年。
这些案件都配有大段大段的引文,原告和被告公司之间的恩怨情仇写得清清楚楚。
这份翔实的法律摘要交上去,一定能打动法官大人的心吧?
就在马塔等人等待的时候,哥伦比亚航空请的律师懵逼了,
他全网翻了个遍,都找不到对方律师引用的案件!
致卡斯特法官的一封信中,被告的律师表示:“瓦吉斯诉中国南方航空案”似乎并不存在。他们未能在该案件的标题或引文中找到任何相关信息,同时也未发现任何类似的案件。
“虽然法律摘要里含有瓦吉斯的冗长引语,但我们找不到这段话的出处。”
瓦吉斯的引语里提到2008年的大韩航空案件。他说这起案件是美国联邦第十一巡回上诉法院判的。
但被告律师询问了第十一巡回上诉法院,对方说他们没判过此案。
收到信后,卡斯特法官也懵圈了,
他在案件资料库中搜寻一番,同样没有找到案件的出处。
卡斯特法官要求马塔的律师提交案件的判决书副本,他们提供了包括受理法院、法官、档案标号和日期的八份文件。
其中,光是瓦吉斯案的判决书就有六页纸,上面标注了撰写人的名字和所属法院。
虽然姓名是真实的,法院也是存在的,
但……这些判决书本身是虚构的,案件根本不存在!
卡斯特法官气坏了,他说自己从业多年,从未见过这种事。
“真是岂有此理!引用了六个案件,全部是虚假的判决、虚假的引文和虚假的内文引用。”
卡斯特法官已命令展开调查,探寻事情真相。事实上,法律摘要并非出自马塔律师彼得·洛杜卡(Peter LoDuca)之手,而是其资深同事斯蒂芬·史华兹(Steven Schwartz)所创作的。
史华兹当了30年律师,第一次被爆出伪造案件。
他光速认错,说这些内容也不是他写的,
而是,嗯……ChatGPT写的。
在我的职业生涯中,我曾经多次面临选择,但在某些情况下,我却未能做出明智的决策。近期,我在处理一场法律诉讼时,选择了依赖 ChatGPT,而这是我过去从未尝试过的。然而,我如今深感懊悔,因为我不确定它提供的信息是否真实可靠。这种依赖让我感到非常后悔,也使我意识到自己在未来需要更加谨慎地评估各种选择。
史华兹和ChatGPT的聊天记录显示,他根本没做案件研究,全是AI完成的。
他只提供简单的思路,让ChatGPT找出能支撑论据的案子,然后让它摘取能用的引述。最后把AI给的内容缝合一下,法律摘要就写完了。
从聊天记录里看,史华兹也曾对案件的真实性有所怀疑。他也专门再问了ChatGPT确认
S:“瓦吉斯是真实的案件吗?”
ChatGPT:“是的,瓦吉斯诉中国南方航空案(第11巡回法院,2019)是真实的案件。”
S:“出处在哪里呢?”
ChatGPT:“抱歉我之前可能给您带来困惑。瓦吉斯诉中国南方航空案是真实存在的案件,它可以在法律研究数据库,比如Westlaw和LexisNexis中找到。我很抱歉我之前的回答可能给您造成疑惑。”
S:“那还有别的案件是虚假的吗?”
ChatGPT:“没有。我提供的案件都是真实的,可以在声誉极好的数据库Westlaw和LexisNexis中找到。”
史华兹有些委屈地告诉媒体:
“我问了ChatGPT它给的信息是不是真的,它说是真的。”
额,也就是说,他不光相信ChatGPT搜索信息的能力,还相信它有判断力。
既然它说自己是对的,那就是对的。
不知道该说是太天真,还是太愚蠢……
卡斯特法官下令在6月份举行听证会,将对所有牵涉伪造的律师进行惩罚。
伪造案件可是大丑闻,这家律师事务所怕是要遭殃了。
纽约大学的法律伦理学教授史蒂芬·吉勒斯(Stephen Gillers)说,虽然此案看上去有点喜剧,但背后的问题很大。
“律师界一直在讨论如何避免使用虚假的AI信息。我们不能简单地将AI给的文字粘贴到法庭文件里,我们需要自己去查。”
其实,AI最擅长的就是一本正经地胡说八道,这种现象已经有个专有词汇,叫“人工智能幻觉”。
明明无中生有,它说真实存在;
明明大错特错,它说完全正确。
这是因为AI本质上只是语言预测模型,它根据前一句话来预测后一句话,并不清楚其中的道理和逻辑。
但它那自信满满的语气,会让人类对它抱有过高的期望。
前不久,大学教授霍尔为了让学生了解到“幻觉”的可怕,布置了一项特殊的作业。
他给学生一个作文题目,要求他们用ChatGPT生成文章,然后再给文章纠错。
结果发现,全班63篇文章,每篇都存在错误信息。
“虚假的引文、虚假的来源、来源真实但理解错误或拼写错误。每一份作业都有这些。我都震惊了,我知道错误比例会很高,但没想到那么高。”
“学生们最大的收获是,人不能完全依赖AI。在此之前,很多学生都觉得AI永远是正确的,他们这次惊呆了,发现它很能误导人。大约一半的学生不知道AI能编造谎言。这次清醒过来后,他们对AI伪造信息的能力感到担忧和害怕。”
到目前为止,AI编谎话的现象没有解决办法。AI公司能做到的只是提醒人们,AI生产的内容并不完全可信。
一想到这点,全球白领应该能缓口气,
人类虽然也会犯错,但至少有自知之明,知道哪里有问题。
AI目前这个理直气壮胡说八道的架势,还是有点没谱啊……
ref:
https://www.bbc.com/news/world-us-canada-65735769
https://www.telegraph.co.uk/world-news/2023/05/27/lawyer-chatgpt-made-up-cases/
https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html
——————–水灯游春:想起那个引用了chatgpt案例写进论文结果导师对这个案例产生好奇让把原文发一下,一查发现是AI编的惨案可爱淘气喵:一脸严肃一本正经的胡说八道淆秣秣_AR:这跟我写作业写工作有啥区别 都是我一本正经胡说的啊黑提冰沙盐酥鸡:尴尬死了 交的征文和同事的一毛一样?原来用的是同一个ai黑森林的空气:Gpt学会干活前先学会了划水悦如舞 :我已经发现了,我问了一个我熟悉的领域的问题,发现完全是胡说,就是一个搞笑工具而已。江停_Official :我让他写书评 它连书都是编的
本文系授权发布,by 事儿君,From 英国那些事儿,微信号:hereinuk。欢迎分享到朋友圈,未经许可不得转载,INSIGHT视界 诚意推荐
AI时代,拥有个人微信机器人AI助手!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!