6月22日,美国一名联邦法官对两名律师及其所在律所处以5000美元的罚款,惩罚了他们因在航空伤害索赔案件中使用ChatGPT进行虚假法律研究,使用了AI生成的六个虚假案例的行为,这是一次前所未有的事件。#律师被GPT误导面临制裁#后续来了:
回顾@雪地滑水上次报道的案件轻信AI一本正经胡说八道,纽约律师被误导面临制裁,两名律师被指控依赖ChatGPT提供的虚假研究结果。法官P·凯文·卡斯特尔表示:“这是对ChatGPT的首次审判。” 他进一步指出,律师们使用的AI机器人提交的内容中包含了“胡言乱语”,即使在法院质疑其真实性后,他们仍然继续使用这些内容。
法官还表示,这起案件应该对律师和其他法律专业人士起到提前警示作用。但他认为这两位绅士已经道歉,没有必要采取更严厉的惩罚。
然而,法官在使用技术时提醒律师们要谨慎行事。“技术进步已经司空见惯,使用可靠的人工智能工具来协助并没有本质上的不当之处,但现有规定赋予律师们确保提交准确性的门槛角色,”法官卡斯特尔在判决书中写道。
对此,律所承诺全面遵守法院的命令,并发表声明表示继续支持这两名律师:“我们继续相信,在法院承认的前所未有的情况下,我们犯了一个善意的错误,未曾想到一种技术工具会完全捏造案例。”
关于该案件本身,由于诉讼时效已过,法官驳回了此案。
此次惩罚引发了对人工智能在法律领域使用的广泛关注和反思。国外网友普遍质疑此次处罚力度过轻,认为对于这种高度偷懒行为,其罚款金额与纽约律师的收入相比微不足道。
国外网友反应
ChatGPT的看法倒是面面俱到,比在法庭表现好:“在使用人工智能和其他技术的同时,确保适当的监管和伦理框架对于维护诚信和公平性至关重要。平衡技术创新与职业操守的挑战是一个长期而复杂的问题,需要各方的共同努力来解决。”
@雪地滑水的GPT
你怎么看这次事件?