美国批准 Anthropic 让《克劳德寓言 5》重新上线

Anthropic 表示，在美国当局取消出口限制后，该公司将恢复公众对《克劳德寓言 5》和《神话 5》的访问，这些限制自 6 月 12 日以来一直使该公司的两种最先进的人工智能模型处于离线状态。

根据 Anthropic 的说法，这一决定是在与美国政府进行了“一系列富有成效的对话”之后做出的，此后该公司开始使用新的分类器重新部署模型，旨在识别和阻止更多与网络安全相关的任务。

该公司表示，最新的安全措施旨在解决政府对通过越狱方法绕过系统可能被滥用的担忧。

本月早些时候，在美国政府出口管制指令指示 Anthropic 禁止所有外国人使用《神鬼寓言 5》和《神话 5》之后，这些限制迫使 Anthropic 暂停了所有用户对《神鬼寓言 5》和《神话 5》的访问。 

在 6 月 13 日的声明中，Anthropic 表示该命令还涵盖了公司内部工作的外籍员工，促使其完全禁用这些模型以确保合规性。

美国政府审核后批准重新部署

美国美国商务部长霍华德·卢特尼克周三在 X 上表示，官员们在过去两周与 Anthropic 合作审查和批准《神鬼寓言 5》，同时保持该模型符合美国政府的要求。

白宫幕僚长 Susie Wiles 也在 X 上表示，政府的首要任务是“尽可能快速、安全地”部署最好的人工智能技术。

官员们得知一份报告后采取了干预措施，其中亚马逊研究人员发现了一种绕过《神鬼寓言 5》安全措施并让模型识别软件漏洞的方法。 

然而，Anthropic 辩称所报告的问题并非《神鬼寓言 5》所独有，并表示较弱的模型也可以识别相同的漏洞并产生类似的与漏洞利用相关的输出。

在早些时候对该命令的回应中，该公司表示，当局仅提供了其所说的狭隘、非普遍越狱的口头证据。 Anthropic 表示，与通用越狱不同，这种方法并没有消除模型在各种任务中的安全保护。

“我们不同意，小范围潜在越狱的发现应该成为召回部署到数亿人的商业模型的理由。如果这个标准在整个行业中应用，我们相信它将基本上停止所有前沿模型提供商的所有新模型部署。”

该公司还警告说，将狭隘越狱作为召回商业前沿模型的理由，如果作为通用标准应用，可能会影响整个人工智能行业。

对 Anthropic 的限制也引起了美国以外的政策担忧。 6 月 29 日，奥地利敦促欧盟探索在欧盟内建立 Anthropic，数字化国务秘书 Alexander Proell 在一封信中表示，欧洲不应该因为其他地方的决定而失去获得主要人工智能进步的机会。

Anthropic扩大人工智能安全方面的合作

除了模型重新部署外，Anthropic 表示正在加强与美国政府在模型测试、保障措施和滥用跟踪方面的合作。该公司表示，这将包括对模型和安全系统进行预发布访问以进行评估、越狱和滥用信息共享以及用于联合研究的专用资源。

Anthropic 还开始通过 4 月份宣布的网络安全合作项目 Project Glasswing 与亚马逊、微软、谷歌和其他合作伙伴起草一个框架，以评估人工智能越狱的严重性。该公司表示，该框架的开发是为了对越狱风险进行分类的共识。

这场准入争论发生之际，Anthropic 继续推动更严格的前沿人工智能监管。在 6 月 11 日的“人工智能指数政策”提案中，该公司呼吁针对先进人工智能系统制定测试要求、独立评估、网络安全标准和执行措施，并列举了潜在的生物、网络安全和运营风险。