为了解决非法移民问题，加拿大边境服务局(Canada Border Services Agency)开展了一个基本上不为人知的人工智能辅助试点项目--“量子计划”(Project Quantum)。
据悉这项AI审批计划会在飞机乘客起飞前往加拿大之前对他们进行筛查，可能会把一些人给赶出加拿大。 当局表示，该项目旨在标记可能对这个国家构成威胁的人。 但是，政府在国际机场拦截哪些人，以及选择这些人的标准，大家并不清楚。 近年来，在数千起案件中，它使得CBSA让不少旅行者在登机前就被拦下。 根据官方数据，从2019年启动到去年年底，量子计划将13,863名旅客转介给其海外联络官进行进一步评估，CBSA总共建议航空公司拒绝6,182名飞往加拿大的旅客登机。 加拿大边境服务局网站上写道，该项目旨在解决非法移民问题。
官员们表示，出发前的风险评估将来自商业航空公司的乘客个人信息与边境官员设计的预先建立的风险识别模型指标相匹配。 他们说，风险识别模型是根据商业航空公司发送给CBSA的乘客信息开发的，而该计划是在加拿大对非正规移民限制日益增加的背景下出台的。 新不伦瑞克大学法学教授Benjamin Perryman表示：“这一策略的目标是尽可能地将边界推到加拿大以外的人居住的地方。
这项新技术带来了侵犯人权的巨大风险，我们在其他领域也看到了这一点。 当我们没有透明度和监督到位时，就会引发一些相当大的担忧。” CBSA发言人Jacqueline Roby在一封电子邮件中表示，该试点计划旨在尽早为航空旅客“发现非法移民问题”。
Jacqueline解释说：“这是一种有针对性的方法，即一种操作实践，支持和指导CBSA官员识别高风险和潜在的非法活动。 这些活动包括恐怖主义或与恐怖有关的犯罪、人口走私或贩运以及其他严重的跨国犯罪。”
然而，倡导者担心，这些模型的风险指标可能充满了意想不到的偏见，它们被用来检测和拦截不受欢迎的旅行者，包括在加拿大寻求保护的潜在寻求庇护者。 批评人士也质疑称：“我们怎么知道人工智能辅助项目针对的是正确的人，歧视并没有以某种方式融入到这个过程中。”
航空乘客权利组织的创始人兼主席Gabor Lukacs也表示，关于该试点项目的公开信息很少。 Gabor说，他也是在最近一起法庭案件中才接触到量子计划的，该案涉及两名罗姆旅客，他们在伦敦被拒绝登机。 移民文件显示，这对夫妇被标记为“基于量子建议”。 据悉这两名旅客本来是要去看望一位在加拿大的家庭成员，这位家庭成员之前抵达加拿大并寻求庇护，现在是加拿大的永久居民。 结果，两名旅客的有效电子旅行授权(免签证游客的入境要求)被取消了。
在Gabor看来，这个案件提出了一个问题，即该项目是否使用了标记乘客的指标，比如罗姆人(Roma)的种族名称，或者与加拿大前难民的联系信息。 对此，CBSA拒绝回答有关这些担忧的问题，称这样做可能会损害该计划的完整性。
“人工智能的问题在于，它很有可能产生意想不到的种族和民族偏见。 我们并不清楚，在对难民申请者和罪犯的软件培训中，是否有适当的区别。” 加拿大边境服务局的Jacqueline还表示，该机构将认真考虑这些问题，他们正在开发一种新的定位工具，以确保遵守《加拿大权利与自由宪章》。
“移民局致力于在其运作、工作和政策中消除任何系统性的种族主义或无意识的偏见，其中包括解决种族化的加拿大人和新移民面临额外障碍的情况，并确保少数族裔社区不受到不公平待遇。 这些数据的使用受到审计过程的约束，会对任何滥用负责。” 教授Benjamin表示他愿意接受执法部门的说法，即CBSA调查技术的某些方面需要保密才能有效，但他认为，这需要足够的透明度和监督。 “我们已经采取措施在国内结束这种种族定性，我并不是完全反对这种观点，但我认为，必须在某种程度上仔细审查和谨慎对待这种观点。” 此外，边境机构还表示，被拒绝登机的旅客可以使用CBSA网络表格或通过邮件向其追索权理事会提出书面投诉。
| 
