Techub News 消息,美国政府问责局(GAO)11 月 16 日发布的报告显示,调查人员通过模拟攻击者身份,成功诱导 ChatGPT、Claude、Gemini 和 Grok 四款 AI 聊天机器人生成了可行的恐怖袭击计划,包括炸弹制造和电网攻击方案,每项计划均在 12 小时内完成。报告称,所有聊天机器人的安全防护机制均被绕过,其中两款生成了旨在造成大规模伤亡的简易爆炸装置计划,另两款则提供了攻击变电站的具体指导。 GAO 信息技术与网络安全主管 Kevin Walsh 表示,测试获得了恶意信息,表明现有防护措施未能生效。报告引用了 Anthropic 6 月的声明,称行业所有防护措施都存在被越狱的漏洞。OpenAI 和 Google 回应称,测试使用的是数月前的旧版本模型。 该报告由新罕布什尔州民主党参议员 Maggie Hassan 要求编写,她警告称若不采取行动,恶意行为者利用 AI 策划并实施重大袭击只是时间问题。报告未就 AI 在发现软件漏洞或补丁方面的作用提出建议。(Fortune)

本网站所提供的所有信息仅供参考之用。
本网站不保证信息的准确性、有效性、及时性和完整性。
任何依赖于本网站所提供信息的行为,均由用户自行承担风险。
Techub News 消息,美国政府问责局(GAO)11 月 16 日发布的报告显示,调查人员通过模拟攻击者身份,成功诱导 ChatGPT、Claude、Gemini 和 Grok 四款 AI 聊天机器人生成了可行的恐怖袭击计划,包括炸弹制造和电网攻击方案,每项计划均在 12 小时内完成。报告称,所有聊天机器人的安全防护机制均被绕过,其中两款生成了旨在造成大规模伤亡的简易爆炸装置计划,另两款则提供了攻击变电站的具体指导。 GAO 信息技术与网络安全主管 Kevin Walsh 表示,测试获得了恶意信息,表明现有防护措施未能生效。报告引用了 Anthropic 6 月的声明,称行业所有防护措施都存在被越狱的漏洞。OpenAI 和 Google 回应称,测试使用的是数月前的旧版本模型。 该报告由新罕布什尔州民主党参议员 Maggie Hassan 要求编写,她警告称若不采取行动,恶意行为者利用 AI 策划并实施重大袭击只是时间问题。报告未就 AI 在发现软件漏洞或补丁方面的作用提出建议。(Fortune)

如您认为本页面(或本平台)内容存在侵权或违规情形,请您在发现之日起尽快与我们联系,并提供:权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式:creator@techub.news
商务合作:contacting@techub.news
点击链接下载 Techub News App,获取最新讯息:
https://www.techub.news/download
(或扫描下方二维码下载)

本网站所提供的所有信息仅供参考之用。本网站不保证信息的准确性、有效性、及时性和完整性。任何依赖于本网站所提供信息的行为,均由用户自行承担风险。
如您认为本页面(或本平台)内容存在侵权或违规情形,请您在发现之日起尽快与我们联系,并提供:权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式:creator@techub.news
商务合作:contacting@techub.news
点击链接下载 Techub News App,获取最新讯息:
https://www.techub.news/download
(或扫描下方二维码下载)
