DeepSeek新模型专为下一代国产芯片设计　国产AI软硬体将要联手？

软件+硬件的全链路国产 AI 体系来了？

这几天，不论国内国外，人们都在关注DeepSeek发布的V3.1新模型。

它采用了全新的混合推理架构，让模型能在一个统一框架内支援“思考”与“非思考”两种模式。V3.1 通过训练后优化，在工具使用与编程、搜索等智能体任务上表现均获得了较大提升。

Deepseek V3.1的很多基准测试结果已经陆续在SWE-bench等榜单上出现。此外，新模型在Aider多语言编程基准测试中得分超越了Anthropic的Claude 4 Opus，同时还有显著的成本优势。

与DeepSeek自己此前的模型相比，V3.1的性能提升显著，它解决问题需要更多步骤，但经过了思维链压缩训练，在任务表现持平的情况下，token消耗量可以减少20-50%，因此有效成本与GPT-5 mini相当。

除了模型性能的提升之外，值得关注的是，DeepSeek在其微信公众号文章介绍 DeepSeek V3.1的时候，特意回复指出，UE8M0 FP8是针对即将发布的下一代国产芯片设计的机制。

这就引发了人们的很多猜想。

根据Hugging Face的介绍文档，DeepSeek V3.1的模型参数量为685B，其在训练过程中采用了UE8M0 FP8缩放浮点格式，以确保与微缩放浮点格式的兼容性。

其中，E和M分别代表指数（Exponent）和尾数（Mantissa）的位数，U表示无符号（Unsigned），可能针对激活值的非负特性优化。因此，UE8M0可能是指新模型应用的特殊量化策略。

所谓FP8，其全称为8-bit floating point（8 位浮点数），是一种超低精度的数据表示格式，用于深度学习中的训练与推理。相较于FP32（单精度）或FP16（半精度）等传统浮点格式，FP8的主要优势包括如下，因此可以在尽量保持数值稳定性和模型精度的前提下，进一步降低存储和计算开销：

1. 显著节省显存，比如FP32占4字节，FP16占2字节，而FP8仅占1字节。当推理规模达到百亿甚至千亿参数时，节省极为可观；

2. 提升计算效率，FP8 可以在硬件上实现更高的并行度，比如 NVIDIA Hopper GPU 的 FP8 Tensor Core 吞吐量是 FP16 的两倍；

3. 保持模型精度，FP8 通过缩放因子以及混合精度训练，在多数场景下能接近 FP16/FP32 的精度。

近年来，除了NVIDIA之外，Meta、Intel、AMD等也都开始研究FP8训练与推理，有成为业界“新黄金标准”的趋势，核心思路在于“两个格式配合使用”。此次，DeepSeek V3.1此次采用UE8M0 FP8，意味着其开始在 FP8 技术栈上做自主创新。

从传统浮点数的表示来看，UE8M0没有符号位和尾数位，8bit全部用在了指数位。

根据很多人的猜测，UE8M0只能表示非负数，将覆盖非常大的正数范围或者零；8bit 全部用于指数，代表了极宽的范围，尤其适合处理梯度、激活值等跨数量级变化极大的数据；没有尾数，代表了数值精度极低（在某个指数范围内无法表达中间值），误差也可能非常大。

此外，根据前文提到的要兼容微缩放浮点格式，这种格式的思路是在小块数据中引入外部缩放因子来补偿精度。因此UE8M0也可能采用这种思路，从而在国产芯片中实现低比特宽度存储和快速计算。

而在国内，包括华为、寒武纪在内多家厂商的新一代AI芯片都可以支援FP8格式，这也让它们再次成为业界和资本圈关注的焦点。其中华为提出的HiFloat8（HiF8）方案通过“单一格式 + 锥形精度（tapered precision）”的思路，能够兼顾精度和范围，覆盖正向和反向传播。

最后，很多人可能依然好奇，DeepSeek V3.1是使用国产芯片训练的吗？

毕竟DeepSeek R2越来越近了，前几天英国《金融时报》的报道刚刚“预热”过一波：

目前看来，在DeepSeek V3.1上使用国产芯片训练的概率还比较小，UME8 M0应该是为国产推理芯片优化所使用的机制。

不过既然DeepSeek这回已经明确指出了，我们可以期待未来国产开源大模型，针对华为升腾、寒武纪等AI芯片实现专门优化，并大规模应用。

延伸阅读：微信AI助手元宝登场混元与DeepSeek双引擎智能互动提升生活效率（点击连结看全文）

【本文转自“机器之心”，微信公众号：almosthuman2014】