英国边境监察机构或就内政部使用 OpenAI 技术展开调查

英国边境与移民独立首席督察署（ICIBI）正在考虑对内政部使用生成式 AI 工具处理庇护申请展开调查。该机构负责监督内政部在边境、移民与海关方面的管理，已要求数字权利非营利组织 Open Rights Group（ORG）提供更多关于这些工具的信息，用于拟定明年的检查议题。ICIBI 表示在发布年度检查重点前无法确认正在考虑的具体议题，但称已知悉外界对 AI 工具使用的担忧，并提到去年的结论认为其中一款工具的“有效性和可靠性参差不齐”。 据 ORG 获取的文件，内政部使用的两款工具分别是 Asylum Case Summarisation（ACS）和 Asylum Policy Search（APS），构建于 OpenAI 2023 年的 GPT-4 大语言模型和 Microsoft Foundry 之上，用于摘要庇护申请人的面谈记录及其来源国信息。内政部于 2024 年底开始试点，当时工党政府正试图清理约 10 万件庇护积压案件。政府估算，两款工具配合使用每案可节省约一小时。 ORG 为期六个月的调查动用了 11 次议会质询、两封部长级信函和 10 次公开记录申请。其发现，ACS 生成的摘要中被判定不适合使用的比例明显高于试点评估公布的 9% 错误率，原因常为事实错误或表述失实；APS 生成的摘要则完全没有质量控制。今年 7 月，一名英国法官指内政部引用了一份“AI 幻觉”文件，据此拒绝一名摩洛哥女性及其孩子的庇护申请。 内政部发言人称，庇护决定由受过培训的案件工作人员作出，AI 工具仅用于辅助查阅面谈记录和政策信息，不能单独使用，也不作出决定，并表示已承诺发布更新的评估结果。OpenAI 发言人则强调公司持续改进模型准确性，并指出 GPT-4 将于明年 1 月退役。按照英国“AI Playbook”的要求，各部门须公开其决策中使用的算法工具，但这两款工具并未列入公开清单，庇护申请人也不会被告知案件中使用了 AI。