Apertus 1.5 发布说明写明 8B 与 70B 新增图像音频理解及 262144 token 上下文

我们的最新版本 Apertus 1.5 在 8B 和 70B 的 Apertus 1.0 模型基础上扩展了图像/音频理解、可选的思考模式、四倍更长的上下文窗口、改进的指令遵循能力以及更好的工具使用。更新后的 8B 和 70B 模型权重 已于 2026 年 7 月 24 日以 Apache 2.0 许可证发布到 Hugging Face。更多细节现可从项目 技术报告 获取，并在此进行总结。

Apertus 1.5 是对第一代模型的持续预训练：为 8B 模型增加 4 万亿 token 的文本与多模态训练数据，为 70B 模型增加 2 万亿 token，总量分别达到 19T 和 17T。与每一次 Apertus 发布一样，这些模型完全开放：开放的 权重、开放的 数据、开放的 价值观，以及完整的训练 细节。

关键增强

• 原生多模态理解： Apertus 1.5 可在文本之外接受图像和音频，将文档、图表和照片纳入对话。这些模型也能处理口语，不过这一能力仍处于实验阶段。
• 思考模式： 可将模型切换到思考模式，在作答前对输入进行推理，从而提升推理问题上的表现。
• 长上下文： 上下文窗口增至 262,144 个 token，较 Apertus 1.0 提升 4 倍。
• 改进的指令遵循： 相比 Apertus 1.0 更好地遵循指令，从而给出更可预测、更准确的回答。
• 改进的工具使用： 这些模型经过训练以实现更好的工具集成，从而更有效地使用外部工具和 API。
• 开放价值观： 更严格地遵循 Apertus 章程，使模型的价值观与原则更加透明。

训练过程

完整的 Apertus 1.5 训练流程

通过分词器实现多模态

我们以早期融合的方式在 v1.5 模型中引入多模态：图像和音频作为离散 token，与文本 token 进入同一序列，而不是使用单独的视觉编码器。图像使用 Emu3.5 分词器进行分词（一张 512×512 的图像变为 1,024 个 token），音频使用 WavTokenizer（每秒 40 个 token）。我们只扩展词表，因此架构保持不变，训练以纯文本的速度运行。这些模型能够理解图像和音频，但只生成文本。

预训练

从 Apertus 1.0 出发，我们分四个阶段继续预训练：

1. 非配对： 文本加上独立的图像和音频，使模型学习新的模态。
2. 配对： 图像–描述与音频–转写配对，使其与语言对齐。
3. 冷却： 更高质量的数据，包含更多数学与代码。
4. 长上下文： 窗口从 8k 逐步增长到 262k token。

总体而言，超过一半的训练 token 仅为文本，从而保留了 Apertus 1.0 的语言能力。文本数据用来源进行了更新，例如 FineWeb2-HQ+、FinePDFs 和 Nemotron-CC。所有新数据（包括多模态数据）都达到与以往相同的标准：公开可得、采用宽松许可证，并追溯尊重 robots.txt 的退出选择。每个来源都列在 apertus-data-transparency 中。

后训练

后训练分五个阶段进行：SFT → 长上下文 SFT → RL → DPO → 章程对齐（SDPO）。

1. SFT 在 3.7M 条文本样本以及图像和语音数据上进行。推理轨迹仅添加到模型在没有这些轨迹时无法解答的提示上。工具使用数据仅限于经执行验证的轨迹。我们在 Hugging Face 上发布了所使用的 文本 SFT 混合。
2. 长上下文 SFT 在完整的 262k 窗口上进行，恢复了短上下文 SFT 所削弱的长上下文能力。
3. 带可验证奖励的 RL（RLVR） 在约 350k 条数学、代码、指令遵循、多语言和视觉提示上进行，混合开启与关闭思考。
4. DPO 使用由评判打分的偏好对，提升对话质量、工具使用和安全性。我们发布了 偏好池 和 训练对。
5. SDPO 通过评判反馈和自蒸馏，使模型与 Apertus 章程 对齐。

评估结果

在扩展模型能力的同时，我们也大幅扩大了评估范围。在 Apertus 1.0 所用的现有基于文本的评估之外，我们增加了多模态评估（图像 & 音频）以及思考模式评估。

多模态评估通过 MLLM-eval-suite 流水线完成，合并了两个主要的多模态评估框架 lmms-eval 和 VLMEvalKit。我们还增加了一系列基于文本的基准测试，并扩展了针对翻译与多语言能力、安全性及工具使用的基准测试。这些可在我们的后训练 评估仓库 中找到，该仓库基于 lm-evaluation-harness 分支。

尽管仍落后于前沿开源权重模型，新版本在编程和指令遵循能力上也有显著提升，Apertus 1.5 8B 在 IF 和多语言任务上优于同等规模的开源权重模型。思考进一步提升了在 AIME 等具有挑战性、偏重推理的基准上的表现。该模型的多模态表现更接近 Gemma 4 12B 及其他当前开源权重模型。Apertus 1.5 的多模态表现在开源权重模型中的空间理解方面具有竞争力，在开源模型中的文档/图表理解方面同样具有竞争力。

我们也感谢合作者与外部评估人员协助高效地对 Apertus 的能力进行基准测试。特别是，Apertus 1.5 在瑞士法律任务上表现强劲，与领先的开源权重模型相当（博客, 代码）。此外，在 Last Translation Benchmark 上，Apertus 1.5 8B 展现的机器翻译能力与 GPT-OSS-20B 相当，并优于 Claude Haiku 4.5 或 Google Translate 等模型（排行榜, 论文）。

评估卡片：Apertus ❤️ EvalEval

Apertus 与 EvalEval Coalition 合作，以确保基准评测完全透明且可复现。我们以 Every Eval Ever (EEE) 模式发布 Apertus 1.5 的结果，这是一种共享格式，不仅记录分数，还记录评估由谁运行、模型如何被访问、生成设置，以及每项指标应如何解读：这些细节在排行榜中通常缺失，也常常能解释为何看起来相近的分数会有所不同。

结果展示在下方的评估卡中，它将运行数据与基准测试及模型元数据合并为一条可解读的记录，也可通过 Hugging Face Community Evals 获取。这与 英国人工智能安全研究所用于公开其评估结果 的基础设施相同。由于我们的文本评估运行在我们公开的 lm-evaluation-harness fork 上，而 EEE 通过专用转换器予以支持，任何人都可以重新运行这些评估，并在相同设置下将自己的数字与我们的结果进行比较。

结构化评估报告的意义也超出研究本身。EvalEval 已将 Evaluation Cards 映射到人工智能治理要求，包括《欧盟人工智能法案》第55条以及 GPAI 实践准则，并发现 EEE 模式能够表示这些框架所要求的 60 项评估报告要素中的 56 项。这与我们发布 Apertus 的既有方式相符：在模型之外，我们发布训练内容的公开摘要，并自愿发布一份实践准则文件。机器可读的评估记录是自然的下一步：使监管机构、部署者和研究人员更容易查找、解读和比较模型背后的证据。

我们致力于通过评估卡和 EEE 模式推动可复现且透明的评估，并鼓励其他模型开发者以同样的方式报告其结果，以便跨模型、跨组织比较分数。

Apertus 1.5 可复现性

所有配方、消融实验和数据配比均记录在 技术报告 中。我们希望通过使 v1.5 的训练过程公开且易于获取，推广开放模型开发。中间检查点托管在我们的 Apertus 1.5 Hugging Face 合集 中，包括基础权重、SFT、RLVR 和 DPO，以及 Apertus 1.5 数据集合集 中我们整理的训练数据配比/自定义数据集。分享这些内容，使研究人员能够探究每个阶段如何改变模型行为。

该报告涵盖了关于后训练数据在不同阶段影响的大量消融实验，我们观察到，在 SFT 期间将多模态数据与文本数据混合在一起，有助于在所有模态上取得提升。我们还发现，多模态推理轨迹的收益在随后的纯文本强化学习中仍然保留：从使用多模态轨迹训练的 SFT 检查点出发，RL 对数学能力的提升大于从纯文本检查点出发时的提升，并且在推理任务上的优势贯穿整个训练过程。

模型可用性

Proton Lumo 和 Infomaniak Euria 是两款近期已集成 Apertus 1.5 的常用应用。这些部署及其他内容的链接见社区展示——预览请见此讨论帖。

多家提供商已宣布以面向开发者的 API 形式提供 Apertus 1.5 访问，其中包括 Swisscom、Infomaniak、Phoeniqs，以及我们的正式发布指南中列出的其他公司。报告还详细说明了我们如何与外部评估方合作，以测试并准备这些模型。

运行这些模型的技术说明见 Hugging Face 上 Apertus 发布版本的模型卡，以及我们的快速入门指南。

如何参与

感谢阅读这篇博文并成为我们社区的一员！我们刚刚在 Hugging Face 分析数据中庆祝了五百万次下载 🤗，并且不会放慢脚步。在苏黎世近期举办的 AI+X Summit 上，我们的团队公布了 Apertus 2.0 的路线图：稀疏/MoE 架构、总参数量约 600B、延长的训练日程，并以智能体、数学和编程为重点。

总之：我们邀请您阅读我们的报告、下载模型、探索中间检查点、微调权重并复现我们的评估。尚未在我们的出版物或网站常见问题中涵盖的问题始终欢迎提出，我们也非常希望了解哪些主题对社区未来的深入探讨最有帮助。

如果您基于 Apertus 进行构建或使用 Apertus，请填写展示表单，并通过我们联系页面上的选项与我们联系。我们期待展示更多工作成果、了解您正在构建的内容，并听取如何改进 Apertus 的意见！

引用

Project Apertus 等。“Apertus 1.5：从开放文本模型到开放多模态推理模型。” arXiv:2610.15542。预印本，arXiv，October 11, 2026。https://doi.org/10.48550/arXiv.2610.15542。

@misc{apertus2026apertus15opentext,
      title={Apertus 1.5: From Open Text Models to Open Multimodal Reasoners}, 
      author={Project Apertus and Yixuan Xu and Yassine Turki and Vinko Sabolčec and Valentina Pyatkin and Tommy Chu and Sven Najem-Meyer and Sean F. Carroll and Robert Smith and Raphael Kreft and Oscar Alessandro Tazza and Oleg Lavrovsky and Nicola Irmiger and Matteo Santelmo and Marian Schneider and Juan García Giraldo and Hanna Yukhymenko and Eduard Ďurech and Davit Melikidze and Dani Tamayo and Bettina Messmer and Aryan Ahadinia and Anunay Yadav and Allen Huang and Ahmad Fraij and Alessandro Bombarda and Alex Padula and Alexander Hägele and Alexander Sternfeld and Anna Hedström and Anna Kosovskaia and Arthur Wuhrmann and Arundhati Balasubramaniam and Badr Al Mahouri and Barna Pasztor and Bartosz Szostakiewicz and Bich Ngoc Doan and Bryan Schmid and Burak Sezen and Camille Challier and Clément Charmillot and Dana Shayakhmetova and Daniel Perruchoud and David Brüggemann and David Isztl and Elia Palme and Emma Anastassova and Fabian Bösch and Faruk Zahiragić and Fawzi Roberto Mohamed and Fiona Panicali and Florian Kolly and Flynn Guerra and Francesco Monti and Frederike Lübeck and Gennaro Oliva and Haofeng Yang and Haoliang Shang and Helen El Khoury and Henrique Mendonça and Jannis Vamvas and Jérome Landolt and Jessica Lam and Jingchun Xiao and Jonathan Coles and Joshua Oyebanji and Khanh Nguyen and Konstantinos Pitas and Lasse B. Strand and Li Mi and Loïc Deslarzes and Lorenzo Baggi and Lorenzo Noci and Luca Baumann and Luca Sartori and Lukas Drescher and Marco De Negri and Marco Passerini and Mark Klein and Marko Stojanovic and Martin Majsec and Matin Ansaripour and Mattea Busato and Mauro Pellonara and Max Neuwinger and Michael Graber and Michal Tešnar and Michelle Wastl and Miguel Gila and Mikolaj Boronski and Morgane Magnin and Moritz Reihs and Mukhammadali Sayfiddinov and Nathan Ranchin and Nicolas Cuveillier and Oscar Wohlfahrt and Qianqian Zou and Rada Kamysheva and Rita Sevastjanova and Roman Machacek and Sebastian Keller and Simon Matrenok and Simon Pierre and Stefano Schuppli and Suei-Wen Chen and Szabina Horváth-Mikulas and Taliesin Perez and Thilo Spinner and Thomas Kleine Buening and Tim Robinson and Tymoteusz Kwiecinski and Vilém Zouhar and Vinzenz Thoma and Xiaozhe Yao and Yannick Metz and Yuhei Fukuhara and Yusif Askari and Zixuan Chen and Alexander Ilic and Ana Klimovic and Andreas Krause and Andrei Kucharavy and Elliott Ash and Joost VandeVondele and Martin Rajman and Mennatallah El-Assady and Thomas Schulthess and Timo Kehrer and Torsten Hoefler and Antoine Bosselut and Martin Jaggi and Imanol Schlag},
      year={2026},
      eprint={2610.15542},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2610.15542}, 
}