来源：cnBeta.COM
据英国广播公司（BBC）报道， 英国达勒姆警察计划将用人工智能系统来确定嫌疑人是否应被关押。这套系统被称为Hart，代表“危害评估风险工具”（Harm Assessment Risk Tool），设计该系统的目的是根据未来犯罪的低、中、高风险对个人进行分类。警方计划在接下来的几个月内测试这个系统。
资料图这套人工智能系统可被用于评估一些不同的决定，例如嫌疑犯是否应该被关押更长的时间等。BBC报道称，Hart作出的决策是基于2008年-2013年期间达勒姆警方收集的数据，其涉及到犯罪史，当前犯罪的严重程度等因素。在2013年的初步测试中，Hart的低风险预测准确率为98％，而高风险预测准确率为88％。
Hart只是全球执法官员、法院和监狱系统使用的许多算法和预测软件工具之一。虽然它们可以提高警察的效率，但其可能也存在一些缺陷。去年ProPublica发表的一项调查中，发现这些风险评估工具有很大的缺陷，其带有的人类偏见使得其更多地将黑人被告作为未来罪犯，人数为白人的两倍，并且更有可能将白人被告视为低风险罪犯。
达勒姆警方表示，Hart作出的决策在初步和实验期间将只是作为一种“咨询”。由于该系统将考虑到性别和邮政编码等因素，执法人员和学术顾问表示，这仍将是不完整的，不应该完全信任其作出的决策。
