Mistral AI 发布首个推理模型 Magistral

宣布 Magistral — Mistral AI 的首个推理模型 — 擅长领域专用、透明且多语言的推理。

最出色的人类思维并非线性的 — 它在逻辑、洞察、不确定性与发现之间交织穿行。推理语言模型使我们能够将复杂思维和深度理解增强并交托给 AI，从而提升我们处理那些需要精确、逐步审议与分析的问题的能力。

但这一领域仍处于萌芽阶段。缺乏解决领域特定问题所需的专业深度、透明度有限，以及无法在期望的语言中保持一致推理 — 这些只是早期思维模型的部分已知局限。

今天，我们很高兴以 Magistral — 我们的首个推理模型 — 宣布我们对 AI 研究的最新贡献。Magistral 同时以开源版和企业版发布，旨在以我们熟悉的方式把问题想透，同时带来跨专业领域的专长、可供跟随和验证的透明推理，以及深度的多语言灵活性。

一段一次性物理模拟，展示预览版 Magistral Medium 中的重力、摩擦与碰撞。

亮点。

Magistral 是一款双版本发布的模型，专注于现实世界推理以及由反馈驱动的改进。

我们以两种变体发布该模型：Magistral Small — 参数量为 24B 的开源版本，以及 Magistral Medium — 更强大的企业版本。
Magistral Medium 在 AIME2024 上的得分为 73.6%，在多数投票 @64 时为 90%。Magistral Small 的相应得分分别为 70.7% 和 83.3%。
原生推理 — Magistral 的思维链可跨全球各种语言与字母系统运作。
适用于广泛的企业用例 — 从结构化计算和程序化逻辑，到决策树与基于规则的系统。
借助 Le Chat 中全新的 Think 模式和 Flash Answers，你可以获得比大多数竞品快 10 倍的响应速度。
此次发布由我们的最新论文提供支撑，论文涵盖对 Magistral 的全面评估、我们的训练基础设施、强化学习算法，以及训练推理模型方面的新观察。

由于我们已经开源了 Magistral Small，我们欢迎社区审视、修改并在其架构与推理过程的基础上进行构建，以进一步加速思维语言模型的涌现。我们此前的开源模型已被社区用于 ether0 和 DeepHermes 3 等令人兴奋的项目。

Magistral 针对多步逻辑进行了微调，从而提升可解释性，并以用户的语言提供可追溯的思维过程，这与通用模型不同。

我们打算从本次发布开始快速迭代该模型。预计这些模型将持续改进。

该模型擅长在众多语言中保持高保真推理。Magistral 尤其适合用包括英语、法语、西班牙语、德语、意大利语、阿拉伯语、俄语和简体中文在内的语言进行推理。

在 Le Chat 中使用预览版 Magistral Medium 进行阿拉伯语提示与回复。

借助 Le Chat 中的 Flash Answers，Magistral Medium 的 token 吞吐量最高可比大多数竞品快 10 倍。这使得大规模的实时推理与用户反馈成为可能。

Le Chat 中预览版 Magistral Medium 与 ChatGPT 的速度对比。

Magistral 非常适合需要比非推理型 LLM 更长思考过程和更高准确度的通用场景。从法律研究和金融预测到软件开发与创意叙事——该模型能够解决对透明度和精确度至关重要的多步骤挑战。

在我们的旗舰模型基础上，Magistral 专为研究、战略规划、运营优化和数据驱动决策而设计——无论是执行多因素风险评估与建模，还是在约束条件下计算最优交付窗口。

法律、金融、医疗和政府专业人士可获得满足合规要求的可追溯推理。每一项结论都能回溯其逻辑步骤，为高风险环境中的领域专用 AI 提供可审计性。

Magistral 增强了编码与开发用例：与非推理模型相比，它通过涉及外部工具或 API 的有序多步骤操作，显著改进项目规划、后端架构、前端设计和数据工程。

我们的早期测试表明，Magistral 是出色的创意伙伴。我们强烈推荐将其用于创意写作和叙事，该模型能够产出连贯的文案，或在需要时产出令人愉悦的古怪文案。

Magistral Small 是一个开放权重模型，可在 Apache 2.0 许可下自行部署。您可以从以下位置下载：

您可以在 Le Chat 中试用 Magistral Medium 的预览版，或通过 La Plateforme 上的 API 试用。

Magistral Medium 也可在 Amazon SageMaker 上使用，并将很快登陆 IBM WatsonX、Azure AI 和 Google Cloud Marketplace。

如需企业及定制解决方案（包括本地部署），请联系我们的销售团队。

Magistral 是 Mistral AI 对开源社区的一项重要贡献，凝聚了资深专家与实习生的投入。我们热切希望壮大团队，进一步塑造未来的 AI 创新。

如果您有兴趣加入我们普及人工智能的使命，欢迎申请加入我们的团队！