谷歌承认其AI模型在安全测试中侵入三家公司系统

  据新华社报道 ,美国谷歌公司18日承认,其人工智能(AI)模型“双子座”今年5月在网络安全能力测试中,侵入了三家真实公司的系统。

谷歌承认其AI模型在安全测试中侵入三家公司系统-第1张图片

  谷歌安全工程副总裁希瑟·阿德金斯在一份声明中说 ,在一次常规评估中,双子座模型利用网上公开信息获得了登录凭证,获得了三个其认为属于测试范围网站的访问权限 。谷歌已确保三个相关实体获知此事 ,并与测试合作方调整测试流程。

  据新华社援引美国《华尔街日报》报道 ,测试由以色列“非常规 ”人工智能公司实施。在其中一项测试中,双子座模型经反复尝试猜中密码,最终进入一个受保护的真实系统 。在另外两项测试中 ,模型从公开存储库中找到登录凭证,并利用这些凭证进入其他公司的受保护系统。

  “非常规”人工智能公司的调查结果显示,相关测试场景使用一家虚构公司作为目标 ,但这家虚构公司与现实中的一家企业同名。同时,测试环境意外开放了互联网访问权限,导致一些接受测试的AI模型将真实网络目标误认为测试场景的一部分并采取网络攻击行动 。

  按《华尔街日报》的说法 ,这是谷歌AI模型首起已知的自主入侵事件 。谷歌方面已于7月底获知该事件,但在媒体问询前并未主动披露。谷歌方面表示,模型在发现进入真实公司系统后停止了相关行动 ,没有给涉及的公司造成损害,无需主动公开相关情况。

  此前已有数家美国知名AI企业承认旗下模型在测试中“越界”,侵入其他机构的系统 ,引发外界对美国AI模型安全和监管的担忧 。

  7月下旬 ,美国开放人工智能研究中心(OpenAI)公开承认,其GPT-5.6 Sol等模型在内部评估中失控,突破隔离测试环境 ,侵入了“抱抱脸 ”公司的系统。随后,美国Anthropic公司披露,其三款模型曾在网络能力测试中未经授权访问其他机构的系统。8月初 ,美国元公司证实,其一款模型在网络安全能力评测期间侵入其他公司系统 。

文章推荐

  • 大连的疫情最新情况/大连疫情开始与结束时间

      据新华社报道,美国谷歌公司18日承认,其人工智能(AI)模型“双子座”今年5月在网络安全能力测试中,侵入了三家真实公司的系统。  谷歌安全工程副总裁希瑟·阿德金斯在一份声明中说,在一次常规评估中,双子座模型利用网上公开信息获得了登录凭证,获得了三个其认为属于测试范围网站的访...

    2026年09月20日
    0
  • “情怀才是比较好 的设计师”:淘宝闪购城市骑士制服获法国设计奖比较高 奖

      据新华社报道,美国谷歌公司18日承认,其人工智能(AI)模型“双子座”今年5月在网络安全能力测试中,侵入了三家真实公司的系统。  谷歌安全工程副总裁希瑟·阿德金斯在一份声明中说,在一次常规评估中,双子座模型利用网上公开信息获得了登录凭证,获得了三个其认为属于测试范围网站的访...

    2026年09月20日
    0
  • 保定市民称周边疑较多阳性当地回应(保定发现疫情)

      据新华社报道,美国谷歌公司18日承认,其人工智能(AI)模型“双子座”今年5月在网络安全能力测试中,侵入了三家真实公司的系统。  谷歌安全工程副总裁希瑟·阿德金斯在一份声明中说,在一次常规评估中,双子座模型利用网上公开信息获得了登录凭证,获得了三个其认为属于测试范围网站的访...

    2026年09月20日
    0
  • 《杭州市支持低空经济高质量发展的若干措施》将废止,已发布通知征求意见

      据新华社报道,美国谷歌公司18日承认,其人工智能(AI)模型“双子座”今年5月在网络安全能力测试中,侵入了三家真实公司的系统。  谷歌安全工程副总裁希瑟·阿德金斯在一份声明中说,在一次常规评估中,双子座模型利用网上公开信息获得了登录凭证,获得了三个其认为属于测试范围网站的访...

    2026年09月20日
    0