Mistral · 大模型
Mistral 发布 Pixtral 12B 多模态模型
Mistral 推出 Pixtral 12B，一款 120 亿参数的多模态模型，能同时处理文本与图像。该模型在视觉问答、文档理解等任务上表现高效，采用 MoE 架构平衡推理速度与资源消耗。Pixtral 12B 为中小规模多模态模型提供了新的选择，便于开发者灵活部署。
- 域名
mistral.ai- 评分
- 5 · 重大发布
- 发布
- 2026-03-02
导读
Mistral 推出的 Pixtral 12B 是其首款原生多模态模型，以 Apache 2.0 协议开放，可在 La Plateforme 与 Le Chat 上调用。模型由两部分组成，一个从零训练的 400M 参数视觉编码器，一个基于 Mistral Nemo 的 12B 参数多模态解码器；上下文窗口 128K，可在长对话中容纳多张图像，并支持任意分辨率与长宽比的输入。
架构上的关键改动在视觉编码器。图像按原始分辨率送入，每 16x16 像素块转为一个 token，行与行之间插入 [IMG BREAK]，整张图末尾添加 [IMG END]，让模型在 token 序列中保留宽高比信息。这一设计令同一模型既能精细解析高分辨率图表、文档，也能在小图标、剪贴画上保持较快推理。Pixtral 在 MMMU 基准上取得 52.5%，在指令跟随类的 MM-IF-Eval 与 MM-MT-Bench 上相对最接近的开源模型有约 20% 的提升，并在与 Qwen2-VL 7B、LLaVA-OneVision 7B、Phi-3.5 Vision 的对比中胜出，部分指标上压过更大的 LLaVA OneVision 72B 与闭源的 Claude 3 Haiku。
对开发者来说，Pixtral 12B 是 Mistral Nemo 12B 的视觉版本替代品，在保持纯文本能力（代码、数学、指令跟随）的同时具备图表理解、文档问答、多图推理能力。Mistral 同时开源了 MM-MT-Bench 以便复现。官方现已将该模型标注为 deprecated，建议迁移到后续视觉模型，但其架构思路尤其是变分辨率视觉编码器仍是这一规模段值得参考的工程范本。