AiDBox 模型移植指南

目标:学会将第三方模型转换、上传并接入系统,完成"模型移植 + 场景任务接入 + 效果验证"的完整闭环。
Pipeline 编排解决的是"怎么组织已有能力";本章解决"怎么把新的能力带进来"。学完后你将具备:
-
将 ONNX 模型转换为设备可运行的
bmodel; -
将模型上传到 AiDBox 并配置元数据、验证可用性;
-
将第三方模型接入新的场景任务。
学习路径
准备模型 → Docker 中完成转换 → 上传系统并补全元数据
→ 图片验证 → 接入场景任务并做端到端测试
第一步:准备第三方模型
AiDBox 使用 ONNX 作为统一模型交换格式。主流来源:
| 来源 | 路径 |
|---|---|
| Ultralytics(YOLO) | yolo export format=onnx 导出,再导入模型仓库;NPU 部署可进一步转换为 bmodel |
| Roboflow | 在 Roboflow 上训练后导出 ONNX,再导入 AiDBox |
| 自定义模型 | 任何兼容 ONNX 的检测/分类模型,按本指南接入 |
| SOPHGO Model Zoo | sophon-demo 仓库中的模型可通过后处理适配 + 流水线节点注册接入 |
教程示例使用公开可获取的 VisDrone-YOLOv8 检测模型(无人机目标检测),完整覆盖转换与验证流程。
第二步:Docker 中完成转换
ONNX → bmodel 转换由 AiDBox 内置的模型转换服务完成(Sophon TPU-MLIR 工具链随系统提供):
# 在安装了 Docker 的电脑上(x86),使用 AiDBox 提供的转换环境
docker compose -f docker-compose.x86.yml run --rm \
aibox convert /path/to/model.onnx
提示:转换产物 .bmodel 与目标芯片绑定(BM1684X/BM1688/CV186X),跨芯片需重新转换。
第三步:上传并补全元数据
-
进入「模型仓库」→ 上传模型文件(ONNX / bmodel);
-
填写元数据:名称、版本、输入尺寸、类别列表、后处理类型等;
-
系统自动校验格式与可加载性。
第四步:图片验证
使用「图片分析」功能上传测试图片,确认模型输出(检测框、类别、置信度)符合预期后再进入场景任务。
第五步:接入场景任务
-
在 Pipeline 编排中替换/新增推理节点,选择刚导入的模型;
-
配置后处理与逻辑链(类别筛选、区域判定等);
-
绑定视频通道做端到端测试:实时画面叠加 + 事件中心告警。
模型仓库能力
-
版本管理:同一模型的多个版本并存,可回滚;
-
热替换:运行中更新模型无需重启服务;
-
元数据驱动:类别、输入规格、后处理策略随模型走。