OpenAI宣布将阻止利用其工具发布虚假选举信息

今天，2024年美国总统大选正式开始，爱荷华州将率先举行党团会议。生成式人工智能公司OpenAI决定利用今天来概述其计划如何防止一些团体利用其工具（如ChatGPT和DALL-E）来创建和传播"深度伪造"和其他虚假信息，这些信息可能会被用来破坏美国总统大选，甚至是今年全球各国密集举行的大选。

OpenAI在一篇博文中表示，它将确保其工具被用于"准确的投票信息、执行有节制的政策和提高透明度"。它补充道：

我们有一个专门负责选举工作的跨职能部门，汇集了我们的安全系统、威胁情报、法律、工程和政策团队的专业知识，以快速调查和解决潜在的滥用问题。

OpenAI表示不会允许其工具被用于任何政治活动或游说目的。此外，它还表示不允许使用其工具和服务创建任何旨在模拟与真实候选人或政府团体聊天的聊天机器人。

该公司表示，它将阻止使用其工具散布歪曲人们在选举中的投票方式或劝阻人们投票的信息。它还将允许人们向OpenAI报告可能的违规行为。

此外，OpenAI还在开发相关工具，以帮助识别人工智能通过DALL-E制作的深度伪造图像。目前正在开发一种名为"出处分类器"的新工具，该工具可以帮助发现人工智能制作的图像，"即使图像经过了常见类型的修改"。包括记者在内的一组测试人员"很快"就能试用这一工具。

最近的一份报告称，微软的Copilot聊天机器人使用了OpenAI开发的技术，经常对有关2023年选举的一些问题提供错误的答案。11月，微软宣布计划提供一款新工具，帮助各政党证明其创建的图像（如广告和视频）是真实的，没有经过人工智能工具的修改。

了解更多：

https://openai.com/blog/how-openai-is-approaching-2024-worldwide-elections