有消息称,美国间谍技术公司Palantir一直在与司法部就使用其技术计算囚犯的“再犯风险”进行谈判。这些提议出现在根据《信息自由法》发布的信件中,该信件显示了该公司如何游说包括财政大臣雷切尔·里夫斯在内的英国单位新部长。去年,Palantir与英国国家医疗服务体系(NHS)签订了一份价值数百万英镑的合同,引发争议。国际特赦组织是对Palantir试图开拓的不断扩大的角色表示担忧的组织之一。
监狱部长詹姆斯·蒂姆普森在大选三周后收到了Palantir高管的一封信,信中称该公司是世界领先的软件公司之一,并在人工智能(AI)领域处于领先地位。这位高管补充说,Palantir一直在与司法部和监狱管理局进行谈判,讨论“安全的信息共享和数据分析如何缓解监狱的挑战,并使人们能够对再犯和相关风险有更深入的了解”。
据了解,在保守党单位领导下开始的讨论中,Palantir提出了分析监狱容量的建议,并利用该州掌握的数据来了解与再次犯罪有关的趋势。这将基于汇总数据来识别趋势并采取行动,同时考虑收入或成瘾问题等驱动因素。Palantir的一位发言人表示:“自动整合数据的先进软件可以为英国各地的监狱容量提供一个单一的、不断更新的真相来源,有助于最大限度地利用有限的监狱空间。
这种解决方案与我们的软件支持新冠肺炎疫苗推广的方式相似,它在地方、地区和国家层面提供了清晰、实时的接种情况。”然而,大赦国际英国商业和人权主任Peter Frankental表示担忧。他说:“令人深感担忧的是,Palantir正试图诱使新单位进入一个所谓的勇敢的新世界,在这个世界里,公共服务可能会由不负责任的机器人以牺牲我们的权利为代价来运行。”。
“劳工面临着确保数字技术的使用符合人权的严峻挑战,包括保护人们的隐私、平等权、不歧视和数据保护。“部长们需要反对在刑事司法、监狱和福利系统中使用人工智能,因为这可能会导致人们受到歧视、不公平的针对和其他司法不公。邮局丑闻是对数字技术被认为是绝对可靠时会发生什么的一个严厉警告。”
对Palantir的担忧因其联合创始人兼主席彼得·蒂尔所扮演的政治角色而加剧,彼得·蒂尔是唐纳德·特朗普在硅谷的主要支持者,也是候任副总统JD Vance的支持者和前雇主。蒂尔曾写道:“我不再相信自由和民主是相容的。”向《卫报》发布的其他信件显示,Palentir的联合创始人兼首席执行官亚历山大·卡普致函包括里夫斯在内的部长,要求会面讨论如何帮助推动其产品在单位部门的增长和使用。
卡普自称是“社会主义者”,但他表示Palantir是“觉醒”公司的反对者,并以发表挑衅性言论而闻名,声称该公司认为“西方是一种优越的生活方式”。卡普在给科学部长彼得·凯尔的一封信中反映了这一点,信中告诉他:“我们公司的成立是为了帮助加强整个西方的关键机构。”与Reeves一样,Karp试图与Kyle会面,讨论“利用人工智能在整个HMG提供下一代技术支持的公共服务”。
卡普告诉里夫斯,该公司在其欧洲人工智能办事处伦敦雇佣了近1000名软件工程师,并预计很快在英国其他地方开设另一个办事处。Palantir写信给其他部长,包括财政部首席秘书Darren Jones和贸易部长Douglas Alexander。据单位称,Kyle和Reeves在担任部长期间没有见过Palantir,而该公司游说的其他部长似乎也没有回应。
工党的其他人对该公司与该党的关系深感不安,尤其是与布莱尔派的关系。工党后座议员Clive Lewis表示,他担心像Palantir这样的“大企业实体”正试图成为提供公共服务的组成部分。刘易斯说:“我们邀请的是一个高度榨取性的公司实体,它总是首先为自己的利益行事,而不是最终为英国国家医疗服务体系或其他公共服务的利益行事。你可以走科幻小说的道路,但最终会给我们留下什么?”。
“在我看来,工党单位似乎面临着不惜一切代价实现增长的压力。我担心这会导致我们走捷径,以快速实现增长,我们可能会后悔我们所做的一切。”