上周五，美国商务部以国家安全为由，下令限制非美国公民使用Anthropic最新模型Fable和Mythos，致使该公司暂停其最新发布的工具。讽刺的是，一向夸口在科技领域“少干预”的特朗普政府，此番却出手阻拦高调主张加强监管的Anthropic。更令AI行业警惕的是，此次措施执行时给Anthropic的合规期限只有90分钟。如果缺乏明确、一致的前沿模型监管框架，美国有可能拖累这一manbetx app苹果 最关键技术的发展。
据报道，美国政府向Anthropic下达这一命令之前，亚马逊(Amazon)研究人员对Fable中可能存在的漏洞发出警报，这些漏洞可能被用来绕过防护措施，让用户获取其他软件安全缺陷的信息。Anthropic表示，其并未获悉美国政府担忧的具体细节，但坚称范围有限的“越狱”不足以成为召回已向数亿人部署的商业模型的理由。该公司补充说，包括竞争对手OpenAI等公司开发的其他系统也具备类似能力。
最新一代尖端模型功能强大，其潜在的国家安全威胁也的确存在。有必要建立一套适当的框架来审查最先进的技术。特朗普政府最近发布行政命令，为美国各机构建立了一个可以自愿参与的框架，使其能够更早接触AI模型。尽管这一框架较早先版本有所弱化，但仍然是迈向更连贯治理方式的重要第一步。
您已阅读46%（531字），剩余54%（616字）包含更多重要信息，订阅以继续探索完整内容，并享受更多专属服务。