微软修改政策 禁止美国警察部门使用企业人工智能工具

微软已经修改了其政策，禁止美国警察部门通过AzureOpenAI服务使用生成式人工智能，该服务是该公司围绕OpenAI技术推出的全面管理、以企业为重点的服务包。周三，AzureOpenAI服务的服务条款中增加了禁止美国警察部门"或为"使用AzureOpenAI服务的内容，包括与OpenAI文本和语音分析模型的集成。

另外一个新的要点涵盖了"全球范围内的任何执法部门"，并明确禁止在移动摄像头上使用"实时人脸识别技术"，如车载摄像头和仪表盘摄像头，以试图在"不受控制的野外"环境中识别一个人。

在条款发生变化的一周前，为军事和执法部门提供技术和武器产品的制造商Axon公司发布了一款新产品，该产品利用OpenAI的GPT-4生成文本模型对来自车载摄像头的音频进行总结。批评者很快就指出了其中的潜在隐患，比如幻觉（即使是当今最好的生成式人工智能模型也会编造事实）和从训练数据中引入的种族偏见（鉴于有色人种被警察拦下的几率远远高于白人同胞，这一点尤其令人担忧）。

目前还不清楚Axon是否通过AzureOpenAI服务使用GPT-4，如果是，更新政策是否是为了应对Axon的产品发布。OpenAI此前曾限制通过其API使用其模型进行面部识别。

不过，新条款还是为微软留出了回旋余地。

全面禁止使用AzureOpenAI服务仅涉及美国警方，而非国际警方。它也不包括在后台办公室等受控环境中使用固定摄像头进行的面部识别（尽管条款禁止美国警方使用任何面部识别技术）。

这与微软和亲密合作伙伴OpenAI最近在人工智能执法和国防合同方面的做法不谋而合。

今年1月，彭博社（Bloomberg）的报道披露，OpenAI正在与五角大楼（Pentagon）就包括网络安全能力在内的多个项目展开合作--这与该初创公司早前禁止向军方提供人工智能的禁令有所不同。另据《TheIntercept》报道，微软已提出使用OpenAI的图像生成工具DALL-E，帮助国防部（DoD）构建执行军事行动的软件。

AzureOpenAI服务于今年2月在微软的Azure政府产品中推出，为包括执法部门在内的政府机构增加了额外的合规性和管理功能。在一篇博客文章中，微软政府部门MicrosoftFederal高级副总裁CandiceLing承诺，AzureOpenAI服务将向国防部"提交额外授权"，用于支持国防部任务的工作负载。

微软和OpenAI没有立即回复置评请求。