Montline.

博客 · 行业动态

边缘 AI 技术进展

2026 年机载推理已成为默认架构,而用来卖它的那个数字 TOPS,恰恰是采购方最容易读错的数字。

8 / 10方法笔记

本页介绍

  • TOPS 是理论峰值算力。它不能告诉你帧率、延迟,也不能告诉你模型能不能装下。两个标称相同 TOPS 的模块,量化后的实际精度可能相差很远。
  • 2026 年公开的工程预算:6 TOPS 模块在 1080p 输入下跑一个小型检测模型约 60 Hz,推理延迟 20–30 ms,端到端约 40–50 ms。1 TOPS 模块要达到实时,只能降帧率、降分辨率或减模型深度。
  • 真正的约束是重量与功耗。常见量级为 1 TOPS 约 40–70 g、3–5 W;6 TOPS 约 80–120 g、5–9 W。而且导致任务中途降频的是持续负载,不是峰值。
  • 供电质量与功耗本身同等重要:NPU 电流是脉冲式的,峰值可达平均值的 2 至 3 倍。供不出这个脉冲的电源系统,会在持续负载下把模块拉垮。
资料为 2026 年 10 月 9 日从公开的模块厂商与集成指引收集,其中包括 2026 年 9 月 30 日发布的一款 12 TOPS、功耗低于 10 W 的伴飞计算机。Montline 发布算力数据时,一并给出模型、量化方式与实测延迟。

相关页面

同类主题

告诉我们系统需要做什么

我们会告知可行方案、所需条件,以及需要你提供的信息。

咨询您的项目