Wired AI

Flock Has a Powerful New AI Tool for Police. We Got Its Code

7.5内容质量
Flock Has a Powerful New AI Tool for Police. We Got Its Code

TL;DR · AI 摘要

Flock的AI监控系统通过车牌和车辆移动模式识别司机,引发隐私和法律争议。

核心要点

  • Flock的AI系统可基于车辆移动模式识别司机,无需直接车牌匹配。
  • 系统整合69个预设提示,允许警方通过车辆活动关联个人身份信息。
  • 专家担忧该系统可能违宪,因警方可无搜查令访问大量个人移动记录。

结构提纲

按章节快速跳转。

  1. 介绍Flock的AI工具及其引发的隐私和法律争议。

  2. 系统通过车牌扫描和车辆移动模式识别司机,关联个人身份信息。

  3. 整合案件文件、商业数据库等,实现车牌到个人身份的映射。

  4. 专家担忧系统可能违宪,因警方可无搜查令访问大量个人数据。

  5. 69个预设提示允许警方基于车辆活动进行调查。

  6. Flock面临政治压力和警方滥用平台的指控。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • Flock AI监控系统
    • 核心机制
      • 车牌扫描+移动模式识别
    • 数据整合
      • 案件文件
      • 商业数据库
    • 法律争议
      • 宪法问题
      • 无搜查令访问

金句 / Highlights

值得收藏与分享的关键句。

#AI监控#隐私问题#Flock Safety#法律争议
打开原文

Flock 为警方推出强大新AI工具。我们获得了其代码 | WIRED

Dhruv Mehrotra

Dell Cameron

安全

2026年8月19日 上午5:00

Flock 为警方推出强大新AI工具。我们获得了其代码

Flock的监控摄像头早已引发争议。WIRED重建了其新一代AI系统(已部分警方投入使用),证实其功能远超车牌追踪。

图片插画:Jobanny Cabrera;Getty Images

保存此故事

车辆监控巨头Flock Safety多年来一直向公众宣称其技术"无法识别、定位或追踪个人"。如今该公司已构建出能够实现这两项功能的系统——WIRED获悉,这是一款专为警方设计的人工智能工具,仅凭车辆行驶模式即可识别驾驶员并追踪车辆。该系统依托覆盖6000多个社区的摄像头网络,通过分析车辆在社区内出现的频率,可识别潜在目击者,甚至能通过摄像头记录的同行车辆数据,找出驾驶员的"关联人员"。由于系统还能接入警方案件档案、911调度日志和商业身份记录,这些车牌信息可转化为姓名、家庭住址和亲属信息。仅凭对人员的外貌描述,系统就能在地图划定的区域内进行搜索。

这款最初名为Nightshift、后更名为OS Investigate的软件预装了69个可选提示模板,警官可选择、审阅或编辑后提交给AI。警官也可自行输入提示信息。

WIRED在Flock官网登录页面发现,其服务器向任何访问者提供了超过450个文件的缓存,其中包含建议提示。代码显示AI系统拥有45项工具,可访问车牌扫描数据、摄像头元数据、逮捕记录、案件档案、调度日志、弹道检测结果,以及包含社保号码、出生日期、电话号码、电子邮件地址、亲属关系等信息的商业数据库。

Flock表示目前正与少量执法部门合作伙伴进行产品测试,并称该系统仍处于开发阶段,现有功能可能与最终上市产品存在差异。该系统推出之际,公司正面临两党政治压力,同时有越来越多的警员被发现滥用平台,且全国范围内出现波及多城的破坏行为,导致摄像头被锯断、镜头被涂覆。

隐私和法律专家指出,Flock的工具已引发严重宪法争议,因为它赋予警方对人们行动记录的大规模、通常是无需搜查令的访问权限。但WIRED研究的提示模板更进一步,将原本用于定位已知车辆的工具,转变为可根据驾驶者行驶区域和频率对其产生怀疑的系统,即使该驾驶者并未涉及任何犯罪。

所有69个提示均以预设搜索列表的形式提供给警员。选择其中一个提示会将其粘贴到聊天框中,警员可在再次点击提交前查看或修改内容。

Flock预设到系统中的一个提示内容为:“根据[社区]在[过去14天]期间[每日时间段]内出现频率最高的车辆,查找目击者*(将排除白名单车辆)”。警员需填写空白部分并提交。输出结果为车牌列表,产品中的其他工具会将其转换为姓名和家庭住址。

另一个提示要求系统列出两年内因“任何罪名”被逮捕超过两次的所有人员(仅排除毒品相关逮捕),随后指示将这些人居住位置进行地图标注,获取其家庭的报警记录,并对“前三位人员”进行深度分析。该提示从区域内所有有逮捕记录的人开始,最终生成软件选定的三个人的档案。

在Flock的术语中,“workup”指一键背景调查。它从姓名和出生日期开始,返回部门记录和商业数据中的信息:车辆、过往嫌疑人记录,第二屏还会显示亲属、电话号码和在线账户。

19个提示描述的是寻找模式而非查询特定记录。其中14个提示不需要车牌、姓名或描述,警员只需提供位置、时间段和行为特征。

一组请求要求查找三天内访问城市中三个或以上零售点的车辆,或一周内多次访问银行的车辆,或午夜至凌晨5点间多次光顾加油站的车辆。这五个请求均未明确指定目标或事件。

支撑这些搜索的工具包含一个过滤器,会排除公交车、半挂卡车、工作货车和拖车,因此一名送货司机即使访问了五家店铺也会被排除,而普通司机进行相同路线的巡游则会保留在列表中。

同类型的搜索也适用于城市间出行:离开一个城市前往另一个城市并在一周内返回的车辆、14天内多次往返的车辆,或连续通过三个区域的车辆。

Flock未回应我们关于该产品的提问列表,也未反驳我们报道中描述的功能。在一份声明中,发言人Paris Lewbel表示OS Investigate是Flock车牌识别技术之外的独立产品,旨在帮助调查人员利用其机构已有的信息进行跨系统分析。他表示该工具的功能和操作流程在全面发布前可能会发生重大变化。

在警方对摄像头使用和滥用的争议日益加剧之际,Flock一直坚持其技术仅记录车牌而非驾驶者本人的立场。其公开信任页面向客户说明,该技术专为特定案件调查设计,“并非用于监视人员”。《WIRED》审查该AI工具的专家表示,这些保证与他们在代码中发现的内容难以吻合。

“我认为大多数人想象的是,车牌识别系统只是在检查车牌,看看车辆是否被通缉。如果车辆没有被通缉,警察就会继续前行,”美国公民自由联盟(ACLU)言论、隐私与技术项目高级政策分析师杰伊·斯坦利(Jay Stanley)表示。“但我们越来越频繁地看到Flock公司对人工智能的激进部署——在某些方面,就像中国一样,几乎没有任何空间区分‘可以做到的’和‘正在被实施的’。”

例如,系统可以输入一个车牌,要求系统绘制该车辆的行程及其“前三名关联车辆”的轨迹。代码明确描述了排名机制:默认情况下,系统会统计其他车牌在目标车牌出现的摄像头前两分钟窗口内出现的频率,并在关联车辆与其并行出现三次或更多次且“置信度阈值”默认为0.75时,将这些车辆报告为关联车辆。一名警官只需提供一辆车,软件就能找出最多20辆关联车辆。

有线索吗?

你是否是现任或前任警察、政府官员或Flock Safety员工,想要谈论这家公司?我们希望听到你的声音。请使用非工作手机或电脑,通过Signal安全联系记者dmehro.89和dell.3030。

“我不知道还有其他方式表达,但听起来完全疯狂,”诺埃尔·皮卡多(Noel Pichardo)表示。他在担任罗德岛州帕沃特克(Pawtucket)警察时,曾参与Flock技术试点项目并接受过相关技术简报,同时他为《WIRED》审查了提示信息。“我不知道任何人如何能反对Flock实际上追踪人们这一观点。”

2024年,皮卡多在因在地方报纸上批评Flock和部门领导而被停职30天后不久,向罗德岛州立法机构公开反对该技术。几天后,州警察局长协会公开谴责了他。随后展开调查并施加纪律处分,他相信这是报复行为,最终他辞职,因为部门正准备解雇他。

一位匿名的加州执法机构侦探表示,他因未被授权公开发言而匿名。他表示,OS Investigate是他的部门会使用的工具。他说,Flock帮助他们关闭了许多车辆盗窃案件,而且多年来,警官们一直在使用类似技术。“我之前不知道这个AI产品,但这并不改变我对它的看法,”他说。“我们会使用任何可用的工具来解决犯罪,这并不具有争议性。”

这位侦探表示,证人查找提示让他感到有些不适,但补充道:“作为执法部门,我们需要使用所有可用的工具,不管‘削减预算’派的人怎么说。”

《WIRED》通过分析Flock从其自己的登录门户提供的代码,研究了该软件。加载这些页面后,记者们看到了通常只有警察用户登录后才会出现的用户界面,使他们能够重建部分经过身份验证的应用程序、提示信息、搜索字段、工具和控制功能,而无需实际访问权限。这些文件似乎包含了从头开始重建界面所需的所有内容。

在警官执行搜索之前,软件可以要求提供理由。代码显示,默认情况下警官必须输入搜索理由;但表单似乎对理由的内容或长度没有具体要求。如果某个部门还要求输入案件编号,表单仅检查该编号是否至少包含三个字符。WIRED无法确定Flock在信息提交后是否会对其服务器上进行额外的验证。

WIRED将研究结果分享给了Buchodi,他是一位匿名的独立安全与隐私研究员,拥有超过十年的消费者软件和监控技术逆向工程经验。Buchodi独立审查了Flock的代码,并重现了分析的关键部分。

WIRED审查的代码中固定了Flock提供的工具、这些工具似乎可以访问的数据,以及Flock为警方设计的提示建议。但这些代码无法展示系统在实际使用中的表现。代码中没有提供给模型本身的指令,也没有揭示Flock服务器在接收到请求后会如何处理、返回什么内容,或是否会拒绝任何指令。

Flock在公开场合对这款工具的描述很少,但其首席执行官Garrett Langley曾将其比作一位“始终清醒、始终为你留意的犯罪分析师”。去年在丹佛向警长演示时,Langley描述了系统能在一分钟内搜索城市内所有摄像头,查找尾随装甲车的车辆,调取这些车辆的注册车主信息并检查其逮捕记录的能力。

他称,尝试使用该系统的调查人员会“上瘾”。

Langley在亚特兰大创立的公司,最初的第一台摄像头是装在防水盒中的手机,如今每月记录200亿次车牌扫描。Andreessen Horowitz、Founders Fund等风投公司已向该业务注资,其最近一轮融资估值达75亿美元。公司最初的标语是“首个消除犯罪的公共安全操作系统”——Langley最近在《Vanity Fair》上表示,如果Flock的摄像头部署在Nancy Guthrie失踪的地点,它本可以解决Savannah Guthrie母亲的失踪案。

Flock目前拥有约14万名月活跃用户。在公司新落成的亚特兰大总部,一台镀金摄像头覆盖着签名,纪念了一个早期仪式:每增加100万美元收入就新增一台摄像头。“现在我们每天的收入增长已达到数百万美元,”Langley最近在《Vanity Fair》上表示。

乔治·华盛顿大学法学院教授Andrew Guthrie Ferguson表示,这样的系统是不可避免的。“要利用所有收集的数据,必须内置查询功能,”他说。“为了让无法自行开发智能工具的警官使用更便捷,系统必须预设一些自然语言提示和自动化流程。”

令他印象深刻的是预设提示的选择。“要搞清楚警方想查找特定物品或模式并不难,但看到他们预设了哪些内容还是很有趣,”他说。“有很多无辜的活动可能会被标记,尽管这对调查人员来说可能也很有用。”

因为提示菜单是一种便利工具而非限制,警官也可以自行输入任何内容。选择某个提示后,其内容会进入普通聊天框中,可以对其进行编辑、重写或直接替换。

运营ACLU“让羊群离开”活动的律师Chad Marlow表示,危险恰恰在于此。“警官说‘你看到任何犯罪模式了吗’和‘帮我找出犯罪模式’,这两种表述会产生截然不同的结果,”他说。“我认为提示内容似乎没有限制这一事实,使警方几乎可以引导AI执行特定操作。”

Marlow表示,他最担心的是警官询问AI哪些人最可能犯罪的情况。“这将形成一种AI标准,而非法律意义上的合理怀疑标准,”他说。

代码中已经描述了该问题会经过的过滤机制。Flock的软件将车辆搜索与针对警方记录的查询进行关联,这些记录会根据性别、种族、民族、身高、体重、体型、伤疤、标记和纹身等信息对人员进行分类。一个提示仅通过描述进行搜索,要求查找与“男性,约6英尺高,黑色连帽衫,前臂有纹身”在特定地点附近匹配的记录。该工具允许警官通过选择半径或在地图上绘制任意形状来限定这些条件。

Stanley表示,这与美国最高法院今年6月审理的案件非常相似,当时法院裁定人们对其行踪记录享有隐私权,当警方要求公司提供这些记录时,第四修正案适用。在此情况下,警方直接购买了这种能力,这为大规模的钓鱼调查打开了空间,这种规模此前从未有过。

“你实际上拥有了一个地理围栏,但AI还可以将其扩展到这种静态边界之外,”他说。“谁在过去一个月内与这个人近距离接触超过10分钟?谁在过去三个月内访问过这六个地点超过三次?它能够变得更为精细、复杂和灵活。”

Flock在面临警方滥用其现有摄像头的审查压力下,一直在构建AI系统。根据404媒体首次获得的搜索日志,一名得克萨斯州警官去年在寻找一名进行自我终止妊娠的女性时,搜索了全国超过83,000个摄像头。《华盛顿邮报》最近的一项分析发现,有50名警官被指控或被指控滥用车牌识别系统,其中26人用于跟踪妻子、女友、前任或希望见面的女性。去年8月,伊利诺伊州监管机构发现Flock违反了州法律,运行了一个现已暂停的试点项目,该项目向海关与边境保护局提供了该州摄像头的访问权限。

Flock将大部分规则交由客户自行决定。机构负责人决定谁可以获得凭证、是否在城市和州之间共享摄像头数据,以及是否启用公司提供的防止滥用的设置。2026年4月推出的审计工具可以扫描机构自身的搜索记录,寻找可疑模式,部门可以选择启用该功能。《华盛顿邮报》发现,许多部门几乎没有对搜索进行自我监控。

电子前沿基金会审查了超过1200万次搜索数据(覆盖10个月),发现约20%的搜索仅包含"investigation"(调查)、"suspect"(嫌疑人)或"query"(查询)等模糊术语。超过50个机构进行了数百次搜索,其理由字段涉及抗议活动相关描述。

Flock表示其最新安全措施将解决部分问题。该公司上周宣布,年底前将部署异常搜索监控系统,自动锁定可疑用户,并要求警员在搜索时附加案件编号。

与此同时,根据最近的两则职位发布信息,该公司正在招聘工程师负责"推动新系统的架构演进",将其接入Flock更大的数据平台,并构建一个可代表调查人员的框架。该职位涵盖多步骤AI工作流程和新功能,包括自动化线索生成和跨摄像头关联分析——这些功能远超《WIRED》此前测试的软件版本。

"很明显,Flock的雄心远超ALPR(自动车牌识别系统),目标是成为警务的数字平台,"费尔格森表示,"我们正站在'代理警务'时代的门槛上,创建可搜索海量数据集的自然语言聊天机器人的能力将很快成为行业标准。"