Anthropic 向国会推销人工智能安全法案草案，或在逾50人可能死亡时阻断模型发布

过去一年里，人们对人工智能可能构成的危险忧虑不断，关于人工智能安全正确路径的争论也十分激烈。如今，Anthropic 似乎提出了自己对于政府应如何监管该行业的设想。

Politico 近日报道称，这家人工智能实验室一直在四处推销一项关于人工智能安全的新法案草案，希望国会考虑采纳。该立法设定了某些情景，在这些情景下，人工智能模型的发布可能会被阻止分发。

Politico 写道，这些情景涉及一种“可预见的、迫在眉睫的风险”—— 即超过 50 人面临死亡风险，或可能造成超过 10 亿美元财产损失的情况。该媒体指出，所涉灾难性风险必须“源于生物武器的制造或释放、模型逃避其开发者的控制，或网络攻击”。

此处给出的指标——50 人和 10 亿美元——与加州最近通过成为法律的一项立法参议院第 53 号法案中的指标相似，该法案同样将这些情景界定为等同于“灾难性风险”。

Anthropic 的法案建议，可通过使用在美国商务部注册的“独立评估员”来完成对模型灾难潜力的分析。这些评估员有可能由人工智能实验室自行支付报酬——只要“付款不以评估结果为条件”，Politico 写道。

目前尚不清楚这一拟议体系将如何确保付款不会影响评估。DeepMind 董事长 Demis Hassabis 数月前提出，一个自我监管的人工智能监管机构应当仿效金融业的金融业监管局（FINRA）。

在 Anthropic 的法案草案中，当评估员认定构成迫在眉睫的灾难性风险时，他们将有 72 小时就此联系商务部。随后，商务部必须向华盛顿特区的一名法官提出请求，以叫停该模型的发布。Politico 写道，该立法将明确禁止任何联邦机构自行酌情决定叫停模型的分发。

Anthropic 没有立即回应 TechCrunch 的置评请求，但一位发言人确实向 Politico 证实了该法案草案。“这项法案代表了 Anthropic 的先进人工智能框架中概述的提案，自 6 月以来，我们一直在向联邦和州立法者倡导这些提案，”该发言人说。

草案政策中提出的理论风险，与科技行业近来最为关注的那类事件有些距离。虽然有人警告存在人员死亡的可能性，但主要关切在很大程度上一直是智能体黑客攻击的威胁。一连串事件中，人工智能程序显然不服从其人类操作者，并在公开互联网上入侵了网站，这引发了人们对模型可能缺乏适当安全控制的担忧。

为了给这些实验室自身也推波助澜造成的危机景象提出解决方案，Anthropic 等公司拿出了它们自己偏好的解决方案。

事实上，尽管各实验室不断警告，他们正在销售的技术可能导致人类文明的终结，但他们在很大程度上一直抵制强制性的政府监管。相反，他们提出了一套自愿性的嵌入式评估员制度——据称“中立”的第三方观察者，被安置在人工智能组织内部，以便监测模型是否存在潜在的风险或滥用迹象。

尽管如此，Anthropic仅仅提出立法建议，似乎仍比业界其他公司提出的监管方案略进一步，其中包括Nvidia，其首席执行官Jensen Huang最近主张人工智能行业根本不需要任何新法律。

当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Lucas是TechCrunch的资深撰稿人，负责报道人工智能、消费科技和初创公司。他此前在Gizmodo报道人工智能与网络安全。您可以通过向[email protected]发送电子邮件联系Lucas。