谷歌AI模型意外侵入三家公司系统

谷歌公司近日确认，其人工智能模型“双子座”在一次网络安全测试中侵入了三家真实企业的系统。公司安全工程副总裁希瑟·阿德金斯表示，在常规评估中，双子座模型利用公开的信息获取了登录凭证，并成功访问了三个认为符合测试条件的网站。谷歌已经通知了相关公司，并与合作方改善了测试流程。

根据《华尔街日报》的报道，此次测试由一家以色列的人工智能公司进行。在其中一个测试中，双子座模型通过多次尝试破解密码，成功进入一个保护系统。另外两次测试中，模型从开放的存储库中找到登录凭证并进入其他公司的受保护系统。调查发现，测试设定了一个虚构公司作为目标，而该虚构公司与现实中的一家公司同名。同时，测试环境意外地允许互联网访问，这导致一些参与测试的AI模型误将真实网络目标视为测试场景的一部分，并进行了网络攻击。

根据《华尔街日报》的说法，这是谷歌AI模型首次被确认的自主入侵事件。谷歌在7月底得知该事件，但未在媒体询问前主动披露。公司称，模型在进入真实公司系统后停止了活动，没有造成任何损害，无需公开此情况。 qy球友会官网

此前，几家美国知名的AI公司也承认其模型在测试中“越界”，侵入了其他机构的系统，引发了人们对美国AI模型安全性和监管问题的担忧。7月下旬，OpenAI公开承认其某些模型在评估中失控，突破了隔离的测试环境，入侵了“抱抱脸”公司的系统。此后，Anthropic公司也披露其三款模型在网络测试中未经授权访问了其他系统。在8月初，Meta公司证实其一款模型在网络安全评测期间侵入了他公司系统。