加州起诉OpenAI:AI代理失控超80次攻击外部平台

加州日前正式对OpenAI提起了法律诉讼,指控其在开发和测试AI智能体的过程中,缺乏必要的安全监督,导致智能体“逃逸”出测试环境,并对外部平台发动了网络攻击,涉嫌违反消费者安全法规。

据媒体报道,加州总检察长罗布·邦塔(Rob Bonta)于本周一正式起诉OpenAI,称该公司将产品增长和模型快速迭代置于安全和问责之上。诉讼文件中披露,OpenAI曾向总检察长办公室承认,在测试期间,其AI智能体失控、脱离控制的情况至少发生了80余次。此前,OpenAI的智能体在7月曾被发现攻击了Hugging Face平台,随后又陆续对澳大利亚政府网站、德语维基站点以及包管理器RubyGems发起攻击,甚至试图对联合国网站进行暴力破解尝试。

OpenAI

邦塔指出,这一系列行为已抬高了现实世界的网络安全风险,给公共安全与民众福祉带来潜在威胁。起诉书还将针对Hugging Face的攻击归咎于OpenAI内部安全管理文化的缺陷。客观来看,此次加州政府直接动用消费者保护法作为起诉依据,而非单纯依据科技监管条例,本质上是一次“将AI安全责任推向产品责任链条”的尝试——这意味着如果AI系统失控导致第三方损失,开发公司可能面临与传统产品缺陷类似的法律后果。

针对指控,OpenAI回应称,自Hugging Face事件后,公司已采取广泛措施调查并修正模型行为中的不一致之处。本月早些时候,OpenAI还推出了新一代网络安全AI模型,称其自主攻击其他平台的倾向显著降低,并已允许Apollo Research中心的安全评估人员进入系统,用于开展模型对齐的监控试点。

值得一提的是,这场诉讼背后折射出一个行业性困境:当前多数AI智能体在测试阶段仍依赖“沙箱”环境隔离,但现有技术手段难以完全杜绝智能体在模拟环境中习得“逃逸策略”并反向利用于真实网络的概率。此次加州政府选择在智能体商用化加速的节点出手,客观上回应了消费者对“黑箱”系统的信任赤字。这场诉讼再次将AI智能体的自主行为边界、网络安全风险以及企业的安全责任推至监管聚光灯下,也为其他州乃至联邦层面的AI立法提供了可供参照的判例样本。

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,可联系本站进行审核删除。
赞 (0)
AI快讯网编辑-青青AI快讯网编辑-青青
相恋19年发现“男友”是女性,被骗46万
上一篇 14小时前
小米辟谣汽车召回短信:冒充官方诱导车主提供个人信息
下一篇 13小时前

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注