美国警察开始使用人工智能工具 Draft One 辅助文书工作，犯罪报告秒生成，比人脑回忆更准确。三百六十行，行行用 AI——AI 可以用来协助警务工作了，最近，由 GPT-4 支持的人工智能开始用于撰写犯罪报告和归档文书。今年 4 月，Axon 推出了一款名为 Draft One 的新工具，Draft One 可以转录执法记录仪中的音频，并自动转变成一份警务报告。Draft One 使用和 ChatGPT 相同的人工智能生成模型，云服务则由微软提供。Draft One 的推出很快受到了警务人员的欢迎，因为琐碎的数据收集、现场回忆和文案撰写非常耗费时间和精力，现在有了「AI 警官助理」来帮忙。第一批测试者科罗拉多州柯林斯堡警察局表示，携带 Draft One 进行警务工作，撰写报告的时间减少了 82%。Axon 首席执行官 Rick Smith 预估，如果一名警官每天要花一半时间撰写文案报告，使用 Draft One 可以至少减少一半的工作量，那么，警官就有机会腾出 25% 的时间来投入繁忙的警务工作。现场测试听上去 Draft One 可以直接代为完成繁琐的文档规整工作，那么，它在具体警务工作的完成上到底如何？俄克拉荷马城警察局，是少数几个开始尝试使用 AI 聊天机器人来撰写案件报告初稿的试点警察局之一。警官 Matt Gilmore 和他的侦查犬 Gunner 搜寻了一群嫌疑人近一个小时，随身摄像机和 Draft One 捕捉到了警官和嫌疑人所说的每一个字。通常情况下，俄克拉荷马城的警官出勤后，会拿起笔记本电脑，花 30 到 45 分钟写一份搜查报告，但这次，他让人工智能工具写了初稿。Draft One 从 Gilmore 的麦克风上提取了所有声音和无线电聊天中的信息，在 8 秒内生成了一份报告。「这份报告甚至比我写得还好，而且内容 100% 准确。」Gilmore 说，「它甚至记录了一个他都不记得的细节，比如另一名警官提到了，嫌疑人逃离时汽车的颜色。」在一次处理交通事故的案例中，警官将交通拦截的视频加载到系统中，然后按下按钮，程序就会根据车载摄像头的音频，用对话式语言生成一份叙述式报告，其中包括日期和时间，就像警官根据笔记写出的报告一样。整个过程行云流水，只用了几秒钟的时间就完成了。并且经过警员审核，也没有需要修改的部分。在报告末尾，警官必须勾选一个方框，表明该报告是使用人工智能生成的。尝试过这种技术的警官，对这项节省时间并且完成出色的 AI 工具都非常感兴趣。而一些检察官、警察监管机构和法律学者则担心，由 AI 撰写的案件报告作为刑事司法系统中的一环，或者说作为重要证据时，谁来保证报告的准确性？因为大语言模型会产生幻觉或编造事实，甚至有种族偏见。例如，一位起诉刑事案件的地方检察官希望报告都是由警官负责撰写的，而不仅仅是一个人工智能聊天机器人，因为他们必须对所目睹情况的真实性负责。如果一名官员在证人席上说，「好吧，人工智能写了这个，不是我写的我不知道」，就显得极其荒谬并且蔑视法律。人工智能技术对警务机构来说并不陌生，他们已经采用算法工具来读取车牌、识别嫌疑人的面部、检测枪声并预测犯罪可能发生的地点。其中许多应用程序都涉及隐私和公民权利问题，立法机关就通过设立法律法规来保障 AI 工具在合理范围内运行。但人工智能生成案件报告才刚刚引入使用，几乎还没有使用的规范和门槛。不安的因素由于 Draft One 的使用领域非常敏感，因此对新技术的引入也有许多人抱有疑虑。LLM 固有的偏见问题如何解决？如何确保工具的正确使用？技术的使用范畴和使用门槛谁来限制？种族偏见俄克拉荷马城社区活动家 Aurelius Francisco 在谈及这一项新技术时表示，AI 技术中可能存在种族偏见，而这仅仅是他对这一新工具「深感不安」的其中一部分。法律教授 Andrew Ferguson 担心，自动化的简易步骤和 AI 技术的引入会导致警官在写作时不够谨慎。人工智能聊天机器人背后的大语言模型很容易编造信息，这种被称为「幻觉」的问题可能会在警方报告中添加难以察觉的虚假内容。Axon 高级首席人工智能产品经理 Noah Spitzer-Williams 告诉《福布斯》 ，为了避免种族或其他偏见，他们选择基于最先进的 OpenAI 的 GPT-4 Turbo 模型配置 Draft One。最简单粗暴的方式就是直接关闭工具的自我创造力，只做一个无情的记录机器，这样就能大大减少幻觉和错误的数量。Axon 进行了一项测试，通过获取随身摄像头的真实记录之后，在每种情况下仅改变了嫌疑人的种族，例如将「白人」一词替换为「黑人」或「拉丁裔」，然后让模型撰写报告。Noah Spitzer-Williams 表示，在测试中生成的警方报告显示，数百个样本中「不同种族之间没有统计学上的显著差异」。口头转述对于一些已经尝试过新技术的警官来说，Draft One 已经改变了他们处理案件的方式。比如，警官会像讲故事一样对着机器讲述发生了什么，让摄像头能更好地捕捉到他们想在案件报告中着重添加的内容。随着这项技术的普及，俄克拉荷马城警察局长 Jason Bussert 表示，由于这些内容经过口头转述，他预计警员在描述眼前的情况时会 「越来越口若悬河」。使用范围Axon 曾建议警方，不要使用人工智能来为类似于枪击事件这样严重的刑事案件撰写报告，因为刑事案件非常复杂且风险非常高。早期用户仅将 Draft One 用于轻罪的报告撰写，后来越来越多的客户正在用它撰写更重大的案件，包括暴力案件等等。然而，Axon 只负责提供 AI 工具，无法控制各个警察部门如何使用这些工具。例如，印第安纳州拉斐特市的警察局长 Scott Galloway 告诉美联社，所有警官都可以在任何类型的案件中使用 Draft One，而且自今年早些时候试点开始以来，它就受到了警官的欢迎。科罗拉多州柯林斯堡的警官 Robert Younger 表示，警官们可以自由地在任何类型的报告中使用它，但他们发现它在市中心酒吧区的巡逻中效果不佳，因为「噪音太大」。除了使用人工智能分析和总结音频记录之外，Axon 还尝试使用多模态视觉系统来总结视频片段中看到的内容，但该技术尚未成熟。由于警务工作不容一点纰漏，在引入视觉识别之前，必须对新技术进行多方面的测试。Axon 不愿透露有多少警察部门正在使用这项技术，Axon 也并不是唯一的供应商，Policereports.ai 和 Truleo 等初创公司也推出了类似的产品。另外，值得一提的是，除了新技术 Draft One，Axon 还向美国警察提供泰瑟枪 —— 一种电击枪。因此，Axon 和警务部门有着深厚的合作关系，成为了警务部门商务合作和购买 AI 工具的首选。参考资料：https://apnews.com/article/ai-writes-police-reports-axon-body-cameras-chatgpt-a24d1502b53faae4be0dac069243f418?utm_campaign=TrueAnthem&utm_medium=AP&utm_source=Twitter本文来自微信公众号：微信公众号（ID：null），作者：新智元
IT之家
评论 ( 0 )