警察最喜欢的 AI 工具会自动删除 AI 使用时间的证据

快速阅读: 据《Ars Technica》称，一个数字权利组织称，Axon的Draft One AI警方报告工具被设计成难以审计，可能助长警察说谎。该工具不保存草稿或记录AI生成内容，引发对透明度和问责的担忧。

本周，一个数字权利组织“电子前沿基金会”发布了一项广泛的调查。该调查显示，该组织声称这些AI生成的警方报告是被有意设计成几乎无法审计的，并可能使警察在宣誓作证时更容易说谎。Axon的Draft One去年夏天在科罗拉多州的一个警察局推出，立即引发了人们对AI撰写警方报告可能带来的负面影响的担忧。该工具基于一种类似ChatGPT的变体，根据执法记录仪的音频生成警方报告，然后由警察需要编辑以纠正错误、评估AI输出中的偏见或添加关键背景信息。但电子前沿基金会发现，这项技术“似乎被设计成妨碍任何审计、透明度和问责的努力。”警察部门并不需要在所有部门披露AI的使用情况，而Draft One也不会保存草稿或保存记录显示报告哪些部分是AI生成的。此外，各部门也不保存不同版本的草稿，这使得很难评估一个AI报告的版本与另一个版本之间的差异，从而帮助公众识别该技术是否是“垃圾”。电子前沿基金会表示，这引发了他们提出的问题：“为什么机构不希望保留能验证该技术准确性的记录呢？”目前尚不清楚警察是在编辑报告，还是“草率通过草稿以便尽快完成工作”，电子前沿基金会表示。电子前沿基金会指出，这尤其令人担忧，因为Axon曾向至少一个警察部门透露，“已经有过一次工程师发现了一个漏洞，允许警官在至少三次情况下突破‘防护机制’，这些防护机制本应阻止警官在没有先阅读的情况下提交AI生成的报告。”

(以上内容均由Ai生成)