AidLite SDK 是 APLUX 面向端侧 AI 应用的统一推理工具包。开发者可以通过一致的接口加载模型、设置输入输出并执行推理,按模型和设备条件调用 CPU、GPU 或 NPU。它适合需要在不同硬件与推理后端之间适配的视觉、语音及其他 AI 应用。

| 环境 | 接口与获取方式 |
|---|---|
| 支持的 Linux 设备 | 提供 C++、Python 接口,APLUX 部分开发板已预装。 |
| Android | Java 集成通过企业服务获取,需结合设备环境确认支持范围。 |
CPU、GPU、NPU 并非对所有模型后端都可互换。使用前应核对开发指南中的支持矩阵,尤其是目标芯片、模型格式与 QNN 等运行时依赖的对应关系。
在已配置 APLUX 软件源、支持 aid-pkg 的 Linux 环境中,可按指南安装:
sudo aid-pkg update
sudo aid-pkg install aidlite-sdk
sudo aid-pkg install aidlite
python3 -c "import aidlite; print(aidlite.get_library_version())"
python3 -c "import aidlite; print(aidlite.get_py_library_version())"
随后选择匹配设备的模型,确认输入形状和数据类型,配置推理后端与计算单元,完成推理器初始化和模型加载;应用负责前处理、输入数据、执行推理、读取输出与后处理。完整接口和示例以对应语言文档为准。
模型无法加载时,优先核对路径、后端依赖与设备授权;结果异常时检查输入输出形状、数据类型、节点名和前后处理。Android API 页面仍在建设中,不能据此假定已有完整的公开接口说明。