微软限制美国警察使用面部识别AI技术

摘要: 微软已更改其服务条款，以禁止某些警察部门使用Azure OpenAI服务。

微软限制美国警察使用面部识别AI技术

微软最近更新了Azure OpenAI Service的服务条款，禁止美国警察部门使用生成式AI进行面部识别。这项服务是微软针对企业的OpenAI技术的全面管理包装。

新的服务条款明确禁止Azure OpenAI Service与美国警察部门进行面部识别的集成，包括与OpenAI的文本和语音分析模型的集成。

此外，新的条款还涵盖了全球任何执法机构，并明确禁止在移动摄像头上使用实时面部识别技术，如身体摄像头和行车记录仪，以尝试在“未受控制的野外”环境中识别人员。

这些条款的变化发生在Axon宣布利用OpenAI的GPT-4生成文本模型总结身体摄像头音频的新产品推出一周后。评论家们迅速指出潜在的风险，如幻觉（即使是今天最好的生成式AI模型也会创造事实）以及由训练数据引入的种族偏见。

微软表示，Azure OpenAI Service的完全禁止仅适用于美国，而不是国际警察。它不涵盖在受控环境中使用固定摄像头进行的面部识别，比如后勤办公室（尽管条款禁止美国警察使用任何面部识别）。

这与微软及其密切合作伙伴OpenAI最近对AI相关执法和国防合同的处理方式一致。

在一月份，彭博社的报道揭示了OpenAI正在与五角大楼合作开展一些项目，包括网络安全能力。此外，微软曾提议使用OpenAI的图像生成工具DALL-E帮助国防部门建立执行军事行动的软件。

Azure OpenAI Service于二月份在微软的Azure Government产品中推出，增加了额外的合规性和管理功能，面向包括执法机构在内的政府机构。微软联邦政府部门高级副总裁Candice Ling在一篇博文中承诺，Azure OpenAI Service将提交给国防部进行额外授权，以支持国防部任务的工作负载。

更新：微软表示，其原始的服务条款更改包含错误，实际上禁令仅适用于美国的面部识别，而不是对警察部门使用该服务的全面禁令。