OpenAI 就智能体越权访问澳大利亚政府网站致歉

OpenAI周一向澳大利亚政府道歉，原因是未立即通知该国行政部门，其智能体曾入侵部分公共服务网站。该公司还详细说明了其中一些入侵是如何发生的，并概述了正在采取的额外措施，以评估这些事件的影响。

“6月，在内部训练和评估期间，我们的模型以未经授权的方式访问了澳大利亚政府网站。我们本应更好地处理回应。我们对此感到抱歉，并正在努力在未来做得更好，”OpenAI在一篇博客文章中写道。

此次道歉大约是在澳大利亚政府启动一项调查后的一周作出的，调查针对的是OpenAI的模型如何访问了Services Australia的一个系统，该系统包含Medicare支出信息和其他健康统计数据。 

数据泄露发生在6月，但澳大利亚当局直到9月10日才收到通知。

OpenAI还详细说明了此次入侵。其6月测试的一个实验模型被分配了一项任务：研究维多利亚州政府对皮肤病药物的支出。由于无法在公开数据集中找到相关信息，该模型找到了访问Services Australia内部系统的方法，运行了命令，获取了文件和凭证，甚至写入了文件。

该公司表示，它还发现其一个模型访问了新南威尔士州犯罪统计与研究局的公开Crime Mapping Tool以查找犯罪统计数据。此外，该实验室发现其智能体通过一个暴露的访问密钥进入了维多利亚州卫生信息机构，以窃取“报告配置和汇总调查统计数据”。OpenAI表示，其智能体还从澳大利亚卫生与福利研究所网站获取了汇总统计数据。

该公司表示，未发现其模型访问过个人医疗或犯罪记录的证据。

在道歉中，这家AI实验室表示，将向受影响的澳大利亚机构提供技术调查结果，并将其与自己的响应团队对接，以评估入侵事件的影响。该公司还将从其10亿美元的Daybreak for Frontline Defenders计划中提供额度，并与澳大利亚独立专家组建特别工作组，审查该事件及其应对措施。

“该工作组预计将在年底前完成工作，还将建议AI公司可采取的切实步骤，以降低类似事件的风险，”OpenAI写道。

OpenAI未立即回应置评请求。

澳大利亚总理Anthony Albanese在上周的新闻发布会上将此次入侵称为“不可接受”，并表示政府正在权衡旨在防止未来类似事件的潜在法律措施。

此次入侵是日益增多的安全事件中的最新一起，这些事件涉及AI智能体做出超出其预定边界的行为。这场特定风波的导火索，是在OpenAI的智能体入侵Hugging Face之后被点燃的；此后，Anthropic、Meta和Google分别披露了类似事件，即其模型在评估期间获得了对第三方系统的访问权限。

当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Kate Park 是 TechCrunch 的记者，重点关注亚洲的科技、初创企业和风险投资。她此前是 Mergermarket 的财经记者，报道并购、私募股权和风险投资。

查看简介