MLOps at the edge: Running AI models at the edge
边缘AI部署需应对硬件异构性、资源竞争和延迟挑战,需采用ONNX等通用格式及特定硬件优化工具。
入选理由:边缘设备硬件异构性要求模型需适配多种格式(如TensorRT、OpenVINO)
模型
别名:Open Neural Network Exchange
跨平台神经网络表示格式
已跟踪 6 条高相关材料
最近变化
2026-10-08 · 边缘设备硬件异构性要求模型需适配多种格式(如TensorRT、OpenVINO)
为什么值得关注
ONNX 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
MLOps at the edge: Running AI models at the edge
Red Hat AI · 8.5 分
边缘AI部署需应对硬件异构性、资源竞争和延迟挑战,需采用ONNX等通用格式及特定硬件优化工具。
How to Build a Real-Time Object Detection and Tracking Pipeline with ROS 2 and YOLOv11
freeCodeCamp.org · 8.5 分
本文提供ROS 2与YOLOv11构建实时目标检测流水线的完整工程方案,涵盖多线程推理、ByteTrack跟踪和ONNX导出优化。
What Is ONNX? (And Why Transformers.js Uses It)
Hugging Face · 8.5 分
ONNX 是一种开放的神经网络交换格式,使模型在不同平台和设备上高效运行,Transformers.js 通过 ONNX 实现跨平台兼容性。
已收录 6 条与 ONNX 相关的内容,按评分排序。
边缘AI部署需应对硬件异构性、资源竞争和延迟挑战,需采用ONNX等通用格式及特定硬件优化工具。
入选理由:边缘设备硬件异构性要求模型需适配多种格式(如TensorRT、OpenVINO)
本文提供ROS 2与YOLOv11构建实时目标检测流水线的完整工程方案,涵盖多线程推理、ByteTrack跟踪和ONNX导出优化。
入选理由:使用YOLOv11+ByteTrack实现多目标跟踪,推理线程分离确保实时性
ONNX 是一种开放的神经网络交换格式,使模型在不同平台和设备上高效运行,Transformers.js 通过 ONNX 实现跨平台兼容性。
入选理由:ONNX 是一种开放标准,用于存储模型架构和权重。
Transformers.js 是一个将最先进的机器学习模型引入 JavaScript 的工具,通过 ONNX 格式实现高效推理。
入选理由:Transformers.js 使用 ONNX 格式存储模型计算图和权重,支持多种执行环境。
This article introduces the motivation, challenges, and solutions behind Superlinked's development of inference infrastructure for small models.
入选理由:现有基础设施对小型模型支持不足,存在性能与灵活性问题。
Transformers.js implements efficient machine learning inference in JavaScript using ONNX, automatically handling model download, caching, and tensor conversion to simplify Web AI integration.
入选理由:Transformers.js 使用 ONNX Runtime 在 JavaScript 中运行模型推理,支持多种执行提供者。