人工智能（AI）公司对美化其产品的功能并不陌生，当涉及到公共安全时，后果可能是致命的。

　　Evolv科技公司声称，其人工智能安全扫描仪将通过在包括学校在内的各种场所检测武器来改善公共安全。但美国联邦贸易委员会（FTC）却有不同的看法。

　　上周，美国联邦贸易委员会向Evolv Technologies提出了一项和解令，原因是该公司过度推销其人工智能安全系统探测武器和“忽略无害个人物品”的能力——尤其是在学校环境中。Evolv的免触控系统在人们进入一个空间时进行扫描，而不需要手动搜查行李或口袋。

　　在一篇X帖子中，美国联邦贸易委员会主席莉娜·汗表示，Evolv向学区“虚假宣传”其人工智能武器探测系统，学区向该公司支付了“数百万美元”用于学校使用该技术。她指出，扫描仪会对水瓶和活页夹等无害物品发出警报，但无法识别武器。

　　自2021年上市以来，Evolv的扫描仪已经出现在体育赛事、主题公园、学校、机场、地铁站，甚至电影节上，作为传统金属探测器和其他形式的安全检查站的替代品。这家总部位于马萨诸塞州的公司宣传称，其“先进的人工智能安全扫描系统”是解决公共安全问题（包括校园枪击案）的可行解决方案。

　　据The Intercept报道，在2022年6月，Evolv前首席执行官彼得·乔治在一次投资者会议上被问及“该公司是否会阻止德克萨斯州乌瓦尔德的悲惨校园枪击事件，该事件造成19名学生和两名教师死亡。”

　　乔治回答说：“当有人通过我们的系统，发现他们有隐藏武器或公开携带武器时，我们会找到它，就这样。”

　　尽管乔治斯发表了声明，但据Intercept报道，数十个学区在枪支检测技术上花费了数百万美元，却遇到了Evolvs系统没有检测到武器的情况，这导致了法律和监管部门的审查。2023年，五家律师事务所宣布对Evolv科技公司可能违反证券法的行为进行调查，声称“Evolv在武器探测器的能力上误导了投资者”。

　　此外，Evolv的股东对该公司提起了集体诉讼，称该公司的营销宣传夸大了该技术的有效性。

　　问题还不止于此。尽管存在法律、监管和内部动荡，纽约市市长埃里克·亚当斯还是启动了一个为期三个月的试点项目，将在纽约地铁上部署人工智能扫描仪。据纽约新闻媒体“地狱之门”报道，同样的扫描仪此前曾在雅可比医疗中心部署，据报道，在那里它们引发了大量的误报。

　　随着时间的推移，人工智能系统变得越来越好是很常见的，因为模型积累的数据越多，就越准确。对于Evolv来说，情况并非如此。据地狱之门报道，随着试点项目的进展，人工智能扫描仪“并没有变得更准确——没有一个月的报警率低于25%。”

　　另外的报告发现，扫描仪的“误报率为95%”，只有0.45%的警报是由非执法人员携带的武器触发的。

　　周三，Evolv科技公司与美国联邦贸易委员会达成协议，解决对其先前营销声明的调查。根据美国联邦贸易委员会的一篇博客文章，拟议的和解令将阻止Evolv“对其产品使用人工智能探测武器的能力做出未经证实的声明”。它还要求Evolv“通知某些K-12学校客户，他们可以选择取消在2022年4月1日至2023年6月30日之间签署的合同”，这些合同可以是多年期的。

　　消费者保护局局长塞缪尔·莱文（Samuel Levine）在博客中表示：“联邦贸易委员会已经明确表示，有关技术（包括人工智能）的说法需要得到支持，当这些说法涉及儿童安全时，这一点尤为重要。”

　　Evolv Technology临时总裁兼首席执行官Mike Ellenbogen在公司的新闻稿中表示，“FTC的调查是针对过去的营销语言，而不是我们的系统为安全运营增加价值的能力。”该公司还指出，“该机构没有质疑该公司技术的根本有效性，也没有要求任何金钱救济。”

　　拟议的和解还禁止Evolv对以下事项作出任何虚假声明或虚假陈述：

　　“它的产品探测武器的能力，忽略了无害的人Nal项目，而忽略无害的人不要求访客从口袋或包中取出任何此类物品的情况下，将物品放入口袋或包中。

　　“它的产品在探测武器和误报率方面的准确性，包括与传统的使用相比最终我tal探测器”

　　“与使用我相比，访问者可以被筛选的速度更快tal探测器”

　　劳动力成本，包括比较我的使用tal探测器;测试或任何测试的结果；以及其性能的任何实质性方面，包括算法、人工智能或其他自动化系统或工具的使用。”

　　美国联邦贸易委员会过去曾指出，人工智能产品可能会过度承诺自己是系统性问题的解决方案，这是人工智能炒作的结果。如果更多的城市、机构和学校依赖像Evolv的扫描仪这样的技术作为故障保险，这对公共安全来说尤其危险。