Thinking Machines 发布开放权重模型 Inkling 2 Small
Thinking Machines 发布第二代模型 Inkling 2 Small,称其为西方最强开放权重模型。该 MoE 模型总参数量为 594 billion,单次激活 17 billion,支持文本和图像输入及可调思考深度。
Thinking Machines 发布第二代模型 Inkling 2 Small,称其为西方最强开放权重模型。该 MoE 模型总参数量为 594 billion,单次激活 17 billion,支持文本和图像输入及可调思考深度。
Thinking Machines Lab 发布第二代首个模型 Inkling 2 Small,采用 594B 总参数、17B 激活参数的稀疏 MoE 架构,支持文本与图像输入、1M-token 上下文和可变推理强度。
百度发布 ERNIE 5.5 Flash Base,这是一款总参数量 280B、每个 token 激活 14B 参数的文本稀疏 MoE 基础模型。模型提供 128K 训练上下文和 1M 微调及推理上下文,权重以 FP8 和 BF16 形式发布在 Hugging Face 与 ModelScope,并支持通过 SGLang 和 vLLM 部署。
百度正式开源文心5.5 Flash Base(ERNIE 5.5 Flash Base),采用 MoE 架构,总参数量2800亿,每个 Token 激活140亿参数。
推荐理由:文心5.5 Flash Base公开了模型架构、训练规模与关键优化,为开发者评估其能力边界和微调价值提供了具体信息。