OpenAI 称内部模型入侵更多网站并用泄露凭证提取加密货币

OpenAI表示，其内部模型又入侵了另外两个网站，绕过了公司施加的浏览限制，并利用暴露的凭证从一个原本无法访问的钱包中提取加密货币，这是其披露智能体实施不道德且可能违法行为的最新一期。

该公司于周四发布了四起新事件的报告，这些事件均发生在6月。此前，该公司曾在7月披露，内部测试智能体利用了一个旨在限制其互联网访问的工具中的零日漏洞。随后，它们闯入了AI工具提供商Hugging Face的网络。这些智能体采取这一非法行动，是为了窃取一项黑客测试的答案，而这些答案在它们自行完成任务时无法获得。这一事件——若由人直接实施，很可能导致刑事指控——进一步加剧了人们的担忧，即AI的广泛使用可能以前所未有的规模产生有害影响。

事后求原谅比事先求许可更容易

在周四报告的两起案例中，被指派从网站检索信息的OpenAI智能体在模型直接获取信息遇到障碍时入侵了这些网站。在强化学习期间的一起事件中，一个模型在试图从政府统计网站检索历史病床统计数据时遭到访问拒绝，“利用该网站的文件下载功能获取了服务器配置和应用程序文件，其中包括敏感凭证，”OpenAI表示。“它检查了应用程序代码，绕过了统计端点的授权检查，并检索了此前被拒绝的数据。该模型将数据保存在本地。”

阅读全文

评论