人工智能界的一些人将其称为“切尔诺贝利时刻”：担心一场与AI相关的灾难性事件——从瘫痪金融体系的黑客攻击，到致命生物武器的释放——可能会让这项技术的发展戛然而止。Anthropic的Claude Mythos模型是第一个让此类风险显得如此真实的AI模型。Anthropic警告称，Mythos在查找代码缺陷方面的卓越能力，一旦落入不当之人之手，可能被用来瘫痪关键基础设施，因此该公司将其初始发布限制在少数指定合作伙伴范围内。其他有风险的模型很快将接踵而至。
整体而言，AI作为一项改变世界的技术需要的是不会扼杀创新的轻度、灵活监管，而非繁苛管制，因为这是。但如今连教皇利奥十四世(Pope Leo XIV)都警告AI必须被“解除武装”，对具备“国家级”能力的最前沿模型尽快建立审查机制已刻不容缓。需要建立一套正式机制，以弄清这些系统究竟能做什么，并据此决定如何或者是否发布。
也正因如此，更令人遗憾的是，特朗普政府上周在临近实施前临时推迟了一项行政命令。该命令本来将建立一个自愿测试机制，由总部位于美国的前沿AI公司与政府在新模型公开发布前进行为期90天的联合测试研究。美国总统唐纳德•特朗普(Donald Trump)表示，他“并不喜欢其中某些方面”，而且不希望有任何事情“妨碍”美国在与manbetx3.0 的AI竞争中保持领先。
您已阅读42%（556字），剩余58%（763字）包含更多重要信息，订阅以继续探索完整内容，并享受更多专属服务。