内政部AI系统被指秘密运行：你的签证和庇护申请可能正被算法决定

内政部AI系统被指秘密运行：你的签证和庇护申请可能正被算法决定 图片来源：Pexels / Olga Lioncat 家人们，你有没有想过，你提交给内政部的签证材料、庇护申请，甚至入境时被检查的手机，可能正在被人工智能悄悄分析？最近一份报告揭开了这个让人不安的现实。 据《卫报》报道，开放权利组织（Open Rights Group）发布了一份题为《自动化歧视：解析数字敌对环境》的报告，指出人工智能已被嵌入内政部的各项工作，而且几乎完全保密。报告的信息来源包括内政部公布的有限信息、信息自由请求以及议员的提问。 AI到底用在了哪些地方？ 报告列举了AI在内政部移民系统中的多种用途，每一项都和我们息息相关： 检测潜在的假结婚 ：AI被用于识别可疑的婚姻关系。 判定寻求庇护者的年龄 ：通过技术手段判断申请人是否成年。 检查新抵达者手机中的内容 ：入境时手机可能被AI扫描。 边境监控 ：利用实时面部识别以及AI驱动的无人机和卫星进行监控。 总结庇护面谈 ：AI用于整理面谈记录，以及面谈中作为证据使用的国家政策信息。 案件优先排序和评估 ：通过不透明的“识别和优先处理移民案件”（Ipic）工具对案件进行处理。 报告还特别提到，政府被呼吁禁止在庇护申请中使用ChatGPT工具，因为存在侵犯人权的风险。 报告的核心担忧：偏见与不透明 报告对AI在移民领域的使用提出严厉批评，认为AI并非中立或准确，可能复制社会中的偏见和歧视，尤其当其使用的一个关键驱动因素是反移民政策和言论时。 报告称，人工智能正在近乎完全保密的情况下接受试验和测试，官员们惯常以国家安全为由阻挠信息自由请求并涂黑披露内容。报告批评历届政府推行一种意识形态，将复杂的人类案件简化为可以修复的技术问题。 报告对“将人简化为数据点”以及复制特蕾莎·梅于2012年担任内政大臣时首次设想的敌对环境提出担忧。报告指出：“依赖人工智能来决定谁可以留在这里、谁被扔回危险之中，是一种极其令人震惊的举动。” 开放权利组织呼吁政府监管人工智能，并禁止使用不民主且存在侵犯人权风险的做法。该组织还希望提高透明度、加强信息自由法律、缩小国家安全的定义范围，并建立一份健全的政府人工智能工具公共登记册。 议员与活动人士发声 该报告获得了跨党派支持，包括工党的Bell Ribeiro-Addy、苏格兰民族党的Pete Wishart和绿党的Siân Berry。 Ribeiro-Addy表示：“尽管有提问和要求，内政部一直不愿公布能够解释人工智能如何在庇护处理中使用、存在哪些问题以及如何解决这些问题的文件。该部门没有解释在系统失败时如何确保问责，也没有解释为什么一些最脆弱、权力最小的人应该承担最大的风险。” 开放权利组织的项目经理Sara Alsherif表示：“移民是一种人类现象和经历，而不是一个可以由人工智能修复的技术问题。我们迫切需要透明度、问责制和严格的监管，以限制人工智能的使用方式并防止其进一步推广。” 内政部回应：AI不替代人工决策 面对质疑，内政部发言人表示：“人工智能的使用只是我们用来保护边境的工具之一，并不取代或自动化人类决策者的角色。” 发言人强调：“庇护决定由受过培训的案件工作人员做出，人工智能工具仅用于协助浏览面谈记录和政策信息。它们不能单独使用，也不对申请做出决定。我们定期监测这些工具的性能，并结合我们既有的质量保证流程，且已承诺发布有关其推广的最新评估。” 这对在英的我们意味着什么？ 虽然内政部坚称AI只是辅助工具，但报告揭示的“秘密试验”和“信息不透明”仍然让人担忧。对于留学生、工作签证持有者、庇护申请者以及所有需要与内政部打交道的人来说，这意味着： 你的申请材料可能正在被算法分析，而你可能并不知情。 信息自由请求可能因“国家安全”被阻挠，公众监督困难。 AI的偏见风险可能影响决策的公平性，尤其是对弱势群体。 目前，开放权利组织正在推动政府提高透明度并加强监管。作为在英国生活的我们，可以关注相关政策的后续发展，同时了解自己的数据权利。如果遇到签证或移民问题，建议咨询专业法律人士，并保留好所有申请记录。 科技应该让生活更公平，而不是制造新的不公。我们会继续关注这一话题的进展，第一时间为大家带来更新。