MLOps at the edge: Running AI models at the edge
边缘AI部署需应对硬件异构性、资源竞争和延迟挑战,需采用ONNX等通用格式及特定硬件优化工具。
入选理由:边缘设备硬件异构性要求模型需适配多种格式(如TensorRT、OpenVINO)
模型
也叫:Open Neural Network Exchange
跨平台神经网络表示格式
最近变化
2026-10-08 · 边缘设备硬件异构性要求模型需适配多种格式(如TensorRT、OpenVINO)
ONNX 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
已收录 6 篇与「ONNX」相关的 AI 资讯和分析。
边缘AI部署需应对硬件异构性、资源竞争和延迟挑战,需采用ONNX等通用格式及特定硬件优化工具。
入选理由:边缘设备硬件异构性要求模型需适配多种格式(如TensorRT、OpenVINO)
本文提供ROS 2与YOLOv11构建实时目标检测流水线的完整工程方案,涵盖多线程推理、ByteTrack跟踪和ONNX导出优化。
入选理由:使用YOLOv11+ByteTrack实现多目标跟踪,推理线程分离确保实时性
ONNX 是一种开放的神经网络交换格式,使模型在不同平台和设备上高效运行,Transformers.js 通过 ONNX 实现跨平台兼容性。
入选理由:ONNX 是一种开放标准,用于存储模型架构和权重。
Transformers.js 是一个将最先进的机器学习模型引入 JavaScript 的工具,通过 ONNX 格式实现高效推理。
入选理由:Transformers.js 使用 ONNX 格式存储模型计算图和权重,支持多种执行环境。
This article introduces the motivation, challenges, and solutions behind Superlinked's development of inference infrastructure for small models.
入选理由:现有基础设施对小型模型支持不足,存在性能与灵活性问题。
Transformers.js implements efficient machine learning inference in JavaScript using ONNX, automatically handling model download, caching, and tensor conversion to simplify Web AI integration.
入选理由:Transformers.js 使用 ONNX Runtime 在 JavaScript 中运行模型推理,支持多种执行提供者。
与「ONNX」经常一起出现的 AI 术语。
💡 想追踪「ONNX」的长期趋势?去 实体雷达 · ONNX 查看详细分析和跨材料问答。