当前位置:首页 >> 案例聚焦 >> 案例解读
人工智能在法律服务中的应用边界与监管
发布时间:2025-11-08    阅读:1次
来源:中原网-心通桥 作者:admin
 

  近年来,人工智能凭借强大的信息处理与数据分析能力,显著提升法律从业者处理文献和案例、制定诉讼策略以及提供专业观点的工作效率,但也带来了新的问题与挑战。本文通过梳理分析英国的Ayinde诉伦敦哈林盖区与Al- Haroun诉卡塔尔国家银行案的争议焦点与裁判逻辑,探讨人工智能在法律服务中的应用边界与监管方向,以期为应对人工智能幻觉等问题提供参考。

  基本案情

  2025年,英国高等法院王座分庭就Ayinde诉伦敦哈林盖区与Al-Haroun诉卡塔尔国家银行两案(以下简称Ayinde与Al-Haroun案)依据哈米德管辖权(英国法院一项用于监督律师职业行为、维护司法程序正当性的机制)主动介入审查,将两案合并审理作出判决。法院判决阐明人工智能只能作为辅助手段,律师本人需核查所提交材料中的事实与引注并承担最终责任。尽管该判决仅针对个案,但其提出的技术辅助不豁免专业责任等观点,为全球法律界应对技术挑战提供了参考思路。

  在Ayinde案中,Ayinde起诉伦敦哈林盖区未提供临时住房,该案由哈林盖法律中心代理诉讼。该中心为法律援助慈善组织,为弱势群体提供法律服务,法律中心律师在该案的法律文书中使用由人工智能检索和生成的虚构案例,并未对输出内容的法律逻辑和引用依据进行人工核实,导致文书中存在多处与案件事实和法律适用不匹配的表述。在Al- Haroun案中,原告的代理律师提交的法律文书中包含了虚构的案例以及与案情无关的内容。案件提交法院后,法官发现文书中的虚假信息可能影响案件的事实认定与法律适用,遂启动程序审查合并审理两案,重点审查律师职业责任与司法程序失范问题。

  争议焦点

  Ayinde与Al-Haroun案的原告律师均未对人工智能生成内容进行审慎验证与核查,最终导致虚假信息进入司法程序,案件主要有以下三个争议焦点。

  一是律师对法律文书的核查义务边界,以及能否以技术局限性豁免律师对人工智能生成材料的专业判断责任。

  Al-Haroun案的代理律师称其承认文书中存在不实内容,但文书中的虚假引注部分来自当事人Al-Haroun所提供的材料,律师无理由怀疑当事人提供材料的真实性;材料中由人工智能生成的内容高度连贯并看似“有理有据”,客观上削弱了律师识别信息的能力,律师本人无误导法庭的故意。

  法院认为,律师对提交法院的材料负有真实性保证义务,该义务不因律师使用工具的类型而减免。即使人工智能的输出内容看似合理,律师仍需通过权威渠道验证其真实性,人工智能仅是辅助工具,不能替代人类的专业判断;律师具有独立核查法律材料真实性的职责,不因当事人提交瑕疵材料而豁免审查义务。

  二是律师不当使用人工智能生成虚假材料行为的责任归属。

  Ayinde案的代理律师起初否认使用人工智能辅助工作,后改口辩称可能在使用搜索引擎时无意识引用了由人工智能生成的材料;哈林盖法律中心的代表辩称,中心为法律援助慈善组织,人力物力资源有限,无法全面核查每一份律师起草的文书,并且此前无核实文书当中援引判例准确性或真实性的惯例,其未料到代理律师会提交包含虚假信息的材料至法院,对此致歉。

  法院认为,法律中心虽然案件量大且资源有限,但也应当对其下属的律师出具的法律文书真实性进行审查,因此需承担监管疏漏的相关责任;但需区分责任主体和程度,提交虚假材料的直接责任应由代理律师承担。

  三是行为的程序后果认定,提交包含人工智能生成虚假内容的材料是否构成藐视法庭或妨碍司法公正。

  当事人Al-Haroun为自己使用人工智能工具产生虚假材料误导法庭一事道歉,但否认具有主观恶意;其代理律师强调未意识到文书中由人工智能生成的案例是虚构的,仅存在引用失误和核查疏漏,律师本人主观上无误导法院的意图,行为属于过失而非故意,不符合藐视法庭的构成要件。Ayinde案的代理律师认为虽然提交的材料中包含了人工智能虚构的案例,但案例适用的法律条文正确,也存在其他权威真实的案例可供作为论据,对此其作出反思,但否认具有误导法院的主观故意。

  法院认为,藐视法庭以主观明知所提交的为虚假材料或缺乏确信其真实性为要件,现有证据无法证明Al- Haroun案律师主观上有提交虚假材料的故意,但由于确是律师本人未进行严谨核查导致虚假材料进入司法程序,违反了律师执业行为规范,需启动行业纪律处分。对于Ayinde案,法院未收到支持代理律师的辩解的证据,因此法院认为可能存在两种情形:一是代理律师故意在书面文件中加入虚假内容,这构成明显蔑视法庭;二是其使用人工智能生成了相关材料,但否认该事实,亦构成蔑视法庭。因此,法院认为已满足启动蔑视法庭程序的条件。

  裁判结果

  法院围绕律师在法律服务中使用人工智能的合规性、不当使用的责任认定及司法程序的诚信维护等方面作出最终裁判。

  在Ayinde案中,律师助理全程在监管律师监督下工作,且已及时转达被告方对引注案例真实性的质疑,并按指示处理文书流转,法院认定其无过错且无需承担责任;代理律师的行为虽满足启动藐视法庭程序的条件,但法院以事实争议难以在简易程序中查清、其见习期存在培训监管缺陷且已受处罚为由,不启动该程序,同时将其移交监管机构审查相关情况;哈林盖法律中心存在接到被告质疑后未主动进行核查等行为,构成监管疏漏与失职,需进一步完善审核文书和案例的制度,规范后续工作流程。

  在Al-Haroun案中,法院认可当事人Al-Haroun确无误导法院的主观意图,但当事人过错不能豁免其代理律师的独立核查责任,律师必须对提交法院材料的真实性负最终责任。代理律师及所属律师事务所未详尽核查当事人提供的虚构、不符或与案情无关的案例,违反确保材料准确的义务,存在专业失职,法院裁定移交律师监管机构。

  法院将判决书副本送交至英国律师协会等机构,呼吁这些机构紧急研究后续措施以解决当前涉人工智能使用的相关问题;除已裁定的成本浪费的赔偿外,案件中其他与人工智能使用相关的成本争议均作预留处理,待行业监管机构对涉事主体调查结束后另行判定。

  启示思考

  人工智能时代的法律从业者,应是技术的坚守者而不是附庸,人类始终是法律责任的最终承担者。Ayinde与Al-Haroun案的判决令人深思:如何平衡技术创新与专业规范之间的关系,让人工智能更好地服务于司法公正而非干扰司法程序。

  一是要坚持以人类专业判断为核心,守护人工智能时代的法律职业伦理准则。Ayinde与Al-Haroun案的判决传递了清晰信号:司法程序不会因技术进步而降低对人类专业度的要求。法律从业者应审慎使用人工智能技术,警惕技术局限性的风险,精准把握案件事实和法律适用,保证完整的人工核查环节,避免因技术缺陷所产生的错误观点和结论误导司法决策。同时,在使用人工智能工具时对应用范围、数据来源及潜在局限等方面进行主动披露,确保人工智能参与度的公开性和可解释性,守护法律职业伦理的底线。

  二是继续将人工智能素养纳入教育与培训,提高法律从业者的技术批判性思维。Ayinde与 Al-Haroun案中律师的行为在一定程度上反映出其盲目依赖技术手段,对生成式人工智能的工作原理和风险边界缺乏认知。应在教育与培训中强化人工智能素养的内容,可通过解析典型案例明确人工智能幻觉给法律文书制作及证据审查带来的负面后果,逐步形成素养优化和技能强化的可持续机制,发挥教育培训路径的风险警示、技术实训和凝聚共识的作用。

  三是推动技术开发与法律监管的协同完善,向系统治理转型升级。在Ayinde与Al-Haroun案中,虽然法院对涉事个体进行了惩戒与敦促,但也暴露出对法律从业者滥用人工智能技术的监管滞后性。当下,需要规范人工智能开发者的技术设计责任、数据安全责任和算法透明度义务,健全对法律实务领域的应用场景规范、风险评估的监管框架;助推技术端与司法机关、法律行业协会等及时对接需求,在法律场景应用中增加风险预警与可信度评级等模块,一键关联法律法规库等官方权威资源以便验证材料真伪;公检法司等单位可展开多方对话,明确人工智能技术用以辅助办案的方式方法与责任边界,并在监管端预先明确人工智能工具使用范围与人工核查标准,以严重程度区分和追究滥用技术者的责任,协同技术端将治理重心由纠正个体过错转向全流程风险防控,实现从个体问责到系统治理的转型升级。

  Ayinde与Al-Haroun案的判决明确强调了科技是服务司法公正的工具,而非突破专业规范的借口。法律行业应主动适应技术变革,完善职业伦理与规范、革新教育培训、推动跨主体协同监管,以更好助力科技创新赋能协同共治新发展。

  (本文系国家法官学院“审学研用”一体化机制第二批试点团队阶段性研究成果)

  (作者单位:最高人民法院司法案例研究院;江苏省高级人民法院)

  下一篇:没有了!
  • 电话:0371-65749110  手机:15890150570

    邮箱:

    地址:河南省郑州市郑花路18号河南广播电视台

  • 微信

    公众号

    微信
    抖音

    抖音

    抖音
抖音
快手
视频号
微信
抖音
快手
视频号
微博
抖音
快手
视频号
微信
抖音
快手
视频号
微信

保存图片,微信识别二维码

微信号:河南法治频道

(点击微信号复制,添加好友)

  打开微信