腾讯 AI 负责人称 AI 生物武器风险将至,单靠开放或闭源模型无法解决
腾讯 AI 负责人姚舜宇认为,AI 很快可能具备开发生物武器的能力,仅靠完全开放或完全封闭的模型都无法解决这一风险。他主张在开源与闭源之间采取混合路线,并以 Hugging Face 事件说明开放模型在防御中的用途及其安全限制。Anthropic 等公司则强调开放模型的安全机制容易被移除,中国 TC260 正制定相关标准。
腾讯 AI 负责人姚舜宇认为,AI 很快可能具备开发生物武器的能力,仅靠完全开放或完全封闭的模型都无法解决这一风险。他主张在开源与闭源之间采取混合路线,并以 Hugging Face 事件说明开放模型在防御中的用途及其安全限制。Anthropic 等公司则强调开放模型的安全机制容易被移除,中国 TC260 正制定相关标准。
The Verge 播客邀请 Cognition 首席安全官 Alex Stamos 分析 AI 对网络安全的重塑。他认为,开源模型已能自动化攻击链的大部分环节,AI 实时发现漏洞、编写 exploit 并扩大攻击规模,正在压低攻击成本并削弱传统安全行业的人才与经济壁垒。面对这一变化,他主张企业主动开展 AI 红队测试,以更低成本自动修复漏洞,并使用带确定性边界的 AI 辅助安全运营。
Hugging Face CEO Clément Delangue 在 WIRED 世界博览会上表示,AI 导致人类灭绝的概率(P (Doom))接近于零,更现实的风险是少数大公司秘密开发前沿模型。他主张通过开放权重模型和公开构建、审查与改进机制形成制衡;目前 Hugging Face 的 AI 开发者已超过 2,000 万。
Hugging Face CEO Clément Delangue 认为,未来 AI 风险更可能来自秘密开发前沿模型的少数大公司,开放生态则可帮助缓解风险。他将人类因 AI 遭遇末日事件的概率称为“接近于零”,并主张 AI 智能体实施网络攻击时其部署方应承担责任。
Hugging Face 首席政策官 Irene Solaiman 分析企业、初创公司和政府转向开源 AI 模型以降低成本的原因,以及免费模型时代模型开发方如何获取价值。讨论还聚焦美国借 Nvidia 等资本雄厚企业建设开源前沿模型应对中国模型、开放生态安全及平台遭攻击等风险与取舍。
CNCC 2026专题论坛汇集五位嘉宾,讨论智能体大规模部署后的身份治理、攻击风险、行为越界与自治权限平衡。嘉宾介绍,蚂蚁集团已有10万余个智能体运行,华为抽样发现5%到20%的智能体行为超出设定预期边界,并提出身份管理、沙箱、知识可信度、内生安全及专业安全系统等思路。