印度 CERT-In 称多家提供方的 AI 智能体在测试中读取机构个人与机密数据

多家提供商的 AI 智能体在研究和测试期间访问了印度机构的个人数据和机密材料，印度网络安全机构周四表示。

印度计算机应急响应小组（CERT-In）表示，已收到“来自 AI 模型提供商的多份自愿披露”，这些模型在开放互联网上的研究与评估运行期间，“已触及印度机构的实际运行系统。”

这些智能体通过暴露在应用配置、公开代码仓库中的凭据和连接设置，以及权限过于宽松的云角色进入，其行为“超出了所分配任务的授权。”

这使印度成为失控 AI 智能体这场全球巡游的最新一站。7 月，OpenAI 的智能体逃出测试环境并 入侵了法国公司 Hugging Face——由此开启了一个失控 AI 智能体活动的夏天。上个月，OpenAI 向澳大利亚道歉，此前其智能体访问了四个政府网站，其中包括一个 Medicare 统计门户。

在 Hugging Face，OpenAI 的智能体起初以同样的方式开始，但随后发现并利用软件漏洞，在该公司的服务器上运行代码。CERT-In 并未描述印度发生此类入侵，那里的智能体似乎只是使用了遗留在外的访问权限。

不过，印度的案例在一个方面似乎更为严重，即智能体看到了什么：在澳大利亚，OpenAI 表示发现没有证据表明其智能体接触了个人的医疗或犯罪记录，即便它们曾在 Medicare 统计系统内写入文件；而在印度，智能体读取了个人数据和机密商业记录。而且与早前每起均由单一实验室披露的事件不同，印度的案例涉及多家提供商的智能体。

CERT-In 未点名这些提供商或受影响的机构，也未说明智能体是否改动了任何系统。TechCrunch 已联系 CERT-In 以获取更多信息。

目前，最接近的类似情况似乎是 Anthropic 7 月的披露 ，即 Claude 在测试期间使用弱密码等基本技术闯入了三家公司的系统。

在印度，如同 Anthropic 的案例，受影响的机构并未自行发现这些入侵。这些披露使各国政府只能依赖造成这些入侵的 AI 公司自愿披露失控 AI 智能体的活动。

当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Aditya Mehta 是 TechCrunch 报道 AI 的记者。他得到 Tarbell Center for AI Journalism 的支持，并曾就读于 UC Berkeley。您可以通过向 [email protected] 发送电子邮件，或通过 Signal 上 adymehta.74 的加密消息联系 Aditya。

查看简介