腾讯 AI 负责人称 AI 生物武器风险将至,单靠开放或闭源模型无法解决
腾讯 AI 负责人姚舜宇认为,AI 很快可能具备开发生物武器的能力,仅靠完全开放或完全封闭的模型都无法解决这一风险。他主张在开源与闭源之间采取混合路线,并以 Hugging Face 事件说明开放模型在防御中的用途及其安全限制。Anthropic 等公司则强调开放模型的安全机制容易被移除,中国 TC260 正制定相关标准。
腾讯 AI 负责人姚舜宇认为,AI 很快可能具备开发生物武器的能力,仅靠完全开放或完全封闭的模型都无法解决这一风险。他主张在开源与闭源之间采取混合路线,并以 Hugging Face 事件说明开放模型在防御中的用途及其安全限制。Anthropic 等公司则强调开放模型的安全机制容易被移除,中国 TC260 正制定相关标准。
闫俊杰在《Invest in Progress》播客中表示,MiniMax将以降推理成本、扩大后训练和多模态融合推进AGI,并计划持续开源模型直至AGI实现。他称中国顶尖模型已达到美国顶尖模型约95%的性能、成本约为十分之一,但最后5%的追赶可能更困难。MiniMax目前拥有500人,模型分为聚焦编程与智能体的M系列和以视频生成为主的H系列,截至8月年化收入运行率已超过8亿美元。
高通在第九届进博会展示端侧 MoE 智能体 Demo,并与 Infris AI、江波龙、阶跃星辰协同优化模型、推理、存储和芯片平台。现有端侧模型通常为20亿至30亿参数,复杂任务完成度和准确度约为60%、70%或80%,MoE 通过仅调用部分专家模块提升效率。
The Verge 播客邀请 Cognition 首席安全官 Alex Stamos 分析 AI 对网络安全的重塑。他认为,开源模型已能自动化攻击链的大部分环节,AI 实时发现漏洞、编写 exploit 并扩大攻击规模,正在压低攻击成本并削弱传统安全行业的人才与经济壁垒。面对这一变化,他主张企业主动开展 AI 红队测试,以更低成本自动修复漏洞,并使用带确定性边界的 AI 辅助安全运营。
Hugging Face CEO Clément Delangue 在 WIRED 世界博览会上表示,AI 导致人类灭绝的概率(P (Doom))接近于零,更现实的风险是少数大公司秘密开发前沿模型。他主张通过开放权重模型和公开构建、审查与改进机制形成制衡;目前 Hugging Face 的 AI 开发者已超过 2,000 万。
Hugging Face CEO Clément Delangue 认为,未来 AI 风险更可能来自秘密开发前沿模型的少数大公司,开放生态则可帮助缓解风险。他将人类因 AI 遭遇末日事件的概率称为“接近于零”,并主张 AI 智能体实施网络攻击时其部署方应承担责任。
Hugging Face 首席政策官 Irene Solaiman 分析企业、初创公司和政府转向开源 AI 模型以降低成本的原因,以及免费模型时代模型开发方如何获取价值。讨论还聚焦美国借 Nvidia 等资本雄厚企业建设开源前沿模型应对中国模型、开放生态安全及平台遭攻击等风险与取舍。