随着ChatGPT等AI工具越来越普及，不少加拿大人开始尝试用AI帮自己准备法律文件、写上诉材料，甚至直接”自己打官司”。
但近日，加拿大曼尼托巴省上诉法院的一宗案件，再次给所有人敲响警钟。
一名女子因为使用AI生成法律材料，结果引用了一堆根本不存在的判例，最终不仅败诉，还被法院点名批评。
更令人关注的是，法律专家表示，这类事件越来越多，背后反映出的，其实是加拿大司法资源不足、律师费用高昂的问题。
事情源于一宗房屋法拍（Foreclosure）案件。
一名来自曼省Brandon的女子，不服法院判决，决定向曼尼托巴省上诉法院提出上诉。
由于没有聘请律师，她自行准备了上诉材料，并引用了多宗法院判例来支持自己的观点。
然而，当银行律师查阅这些案例时，却发现情况越来越奇怪。
有的判决内容与原文完全不符、有的段落被错误引用、更夸张的是，部分所谓的判例，根本不存在。
最终，法院在裁决书中直接写道：“这些材料看起来像是由某种’失控的人工智能（AI gone awry）’生成的。”
法院最终驳回了她的上诉。
在提交给法院的宣誓书中，这名女子解释说，自己之所以独自准备上诉材料，是因为根本找不到足够的法律帮助。
她写道：“由于我是自行应诉，而且缺乏法律指导，准备上诉过程非常困难。”
她表示，自己平时依赖的法律援助机构，并没有擅长上诉案件的律师，也没有相关资源帮助像她这样的自诉人士。
加拿大律师Tom Macintosh Zheng长期追踪AI在法院”编造判例（Hallucination）“的案例。
他说，截至目前，他统计的全国相关案例中，超过80%都发生在没有聘请律师、自己打官司的人身上。
虽然过去也有律师因为使用AI提交错误法律文件而受到处罚，但真正大量出现问题的，其实是普通民众。
他说，这些人往往只是想尽力为自己辩护，而AI聊天机器人又让法律文件看起来”专业又可信”，很多人根本没有能力判断内容是真是假。
多位法律专家认为，这起案件暴露出的，并不仅仅是AI的问题。
曼尼托巴省检察官Ben Wickstrom表示，由于法律援助资源长期不足，越来越多人只能选择自己代表自己出庭。
他说：“整个司法系统，很多时候只能依赖当事人自己打官司。”于是，人们开始求助AI，希望帮自己整理材料、寻找法律依据。
但如果没有专业知识，很容易把AI生成的内容当成真实资料直接提交法院。除了可能影响自己的案件，也会增加法院和对方律师的工作量。
在这宗案件中，法院指出，银行律师不得不花费大量时间去核查那些根本不存在的案例，造成了不必要的人力浪费。
事实上，加拿大各地法院已经越来越重视AI的使用。
曼尼托巴省高等法院早在2023年就要求，如果法律文件中使用了AI协助生成内容，必须主动向法院披露。
不过，专家认为，仅靠不断出台规定并不能解决问题。
因为数据显示，即使法院不断提醒、处罚，类似事件仍在持续增加。
他们呼吁，应加强公众教育，让更多人了解AI的局限性，尤其是在法律等高风险领域，不能把AI的回答直接当成事实，更不能未经核实就提交给法院。
专家提醒，AI可以作为辅助工具，例如帮助整理思路、解释法律术语或润色文字，但涉及判例、法规引用等内容，必须自行核实或咨询专业律师。
否则，一旦引用了AI”编造”出来的案例，不仅可能影响案件结果，还可能损害自己的信誉，甚至承担法律后果。
来源：https://www.cbc.ca/news/canada/manitoba/legal-cases-ai-hallucinations-9.7252684
扫码参与评论与作者和更多用户交互
