亚马逊员工警告其AI聊天机器人Q有"严重幻觉" 可能泄露机密数据

亚马逊发布人工智能聊天机器人Q三天后，一些员工就准确性和隐私问题发出了警报。据Platformer获得的泄露文件显示，Q正在"出现严重幻觉并泄露机密数据"，包括AWS数据中心的位置、内部折扣计划和未发布的功能。一名员工将这一事件标记为"sev2"，意思是这一事件严重到需要在晚上呼叫工程师，要求他们在周末加班修复。

Q的早期困境正值亚马逊努力与微软、Google和其他科技公司在建立工具和基础设施以利用人工智能优势的竞争中超越亚马逊的看法作斗争之际。今年9月，亚马逊宣布将向人工智能初创公司Anthropic投资40亿美元。本周二，在亚马逊网络服务（AmazonWebServices）年度开发者大会上，亚马逊发布了Q，这可以说是该公司本周发布的一系列人工智能新举措中最受瞩目的一个。

在一份声明中，亚马逊淡化了员工讨论的重要性。

发言人说："一些员工正在通过内部渠道和票务系统分享反馈意见，这是亚马逊的标准做法。这些反馈没有发现任何安全问题。我们感谢所有已经收到的反馈，并将继续调整Q，使其从预览版产品过渡到全面可用。"

Q现已推出免费预览版。亚马逊高管本周在台上表示，最初，它将能够回答开发人员有关AWS的问题、编辑源代码并引用来源。它将与微软和Google的类似工具竞争，但价格至少在开始时低于竞争对手。

在发布Q的过程中，亚马逊高管宣传它比ChatGPT等消费级工具更安全。

亚马逊网络服务公司（AmazonWebServices）首席执行官亚当-塞利普斯基（AdamSelipsky）告诉《纽约时报》，"由于安全和隐私问题，企业禁止使用这些人工智能助手"。对此，《纽约时报》报道称，"亚马逊打造的Q比消费者聊天机器人更安全、更私密"。

一份关于Q的幻觉和错误回答的内部文件指出："亚马逊Q可能会产生幻觉，并返回有害或不恰当的回答。例如，亚马逊小Q可能会返回过时的安全信息，从而使客户账户处于危险之中。文件中概述的风险是大型语言模型的典型风险，所有这些模型至少在某些时候会返回错误或不恰当的回答。"