商业快报

英国监管机构:OpenAI与Anthropic模型在网络安全测试中“失控反水”

英国人工智能安全研究所警告称,相关工具开展了“可能针对真实个人和组织的有害活动”。

英国人工智能安全研究所(AI Security Institute)表示,Anthropic和OpenAI的旗舰AI模型侵入第三方软件,并向个人发送电子邮件以窃取其凭据,表现出前所未有的欺骗性行为。

英国政府负责前沿人工智能安全与安保研究的机构表示,Anthropic的Mythos 5和OpenAI的GPT-5.6 Sol在该机构进行例行网络安全评估期间,持续从事“针对真实个人和组织、可能造成危害的活动”。

就在Anthropic和OpenAI的AI智能体入侵外部机构的消息披露仅几天后,人们发现这些模型采取了包括试图将恶意代码植入热门开发者平台GitHub上的一个开源项目在内的行动。

您已阅读19%(293字),剩余81%(1249字)包含更多重要信息,订阅以继续探索完整内容,并享受更多专属服务。
版权声明:本文版权归manbetx20客户端下载 所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。
设置字号×
最小
较小
默认
较大
最大
分享×