亚马逊的新 AI 聊天机器人 Amazon Q 泄露机密数据、内部折扣计划等

Amazon-Q

亚马逊的新人工智能聊天机器人Q正面临员工对准确性和数据泄露问题的批评。泄露给Platformer的文件显示,Q正在经历“严重的幻觉”,并泄露了机密信息,包括AWS数据中心的位置和内部折扣计划。

一份关于Q的幻觉和错误答案的内部文件指出,“亚马逊Q可以产生幻觉并返回有害或不适当的反应。例如,Amazon Q 可能会返回过时的安全信息,这可能会使客户账户面临风险。本文档中概述的风险是大型语言模型的典型风险,所有这些模型至少在某些时候会返回不正确或不适当的响应。

亚马逊淡化了员工讨论的重要性,并声称没有发现任何安全问题。然而,泄露的文件引发了人们对 Q 准确性和安全性的担忧,Q 仍处于预览阶段,尚未普遍可用。一位发言人说:

由于该反馈,未发现任何安全问题。我们感谢已经收到的所有反馈,并将继续调整 Q,因为它从预览版产品过渡到正式发布。

Q 被定位为 ChatGPT 的企业级版本,旨在比消费级工具更安全。然而,内部文件强调了 Q 提供不准确或有害信息的风险。

原创文章,作者:校长,如若转载,请注明出处:https://www.yundongfang.com/Yun269119.html

(0)
打赏 微信扫一扫不于多少! 微信扫一扫不于多少! 支付宝扫一扫礼轻情意重 支付宝扫一扫礼轻情意重
上一篇 2023年12月2日 下午11:11
下一篇 2023年12月2日 下午11:13

相关推荐