模型广场 (Model Farm) 用户指南

简介

为了加快开发者针对 AI 模型在目标端侧硬件平台上进行性能评估，阿加犀构建了模型广场 (Model Farm) 平台。模型广场包含了数百个不同功能的主流开源模型，针对不同硬件平台进行了适配优化，并提供了经过实测的基准性能指标作为参考。开发者可根据实际要求，快速完成评估，而无需投入大量成本和长时间等待。

同时，模型广场还提供了可直接运行的模型推理示例代码，极大的降低了开发者在已有硬件设备上测试模型性能及 AI 功能代码开发的难度和工作量，并缩短了整个流程时间，加速了方案的落地。

功能介绍

具体来说，Model Farm 能够帮助开发者完成以下几个事情：

• 查询指定 AI 模型在指定高通硬件上的 AI 性能
• 下载适配优化后的 AI 模型 (可以调用 NPU 硬件计算单元进行推理加速)
• 下载模型对应的前后处理 + 模型推理示例代码
• 查看模型适配优化步骤，方便开发者参考并适配优化自己微调的模型

Model Farm 模型测试流程

用户微调模型测试流程

Model Management Service (MMS)

阿加犀提供了模型管理服务 (Model Management Service) 组件，开发者可以不需要通过网页即可访问 Model Farm，在端侧设备上通过该服务直接获取模型信息及相关文件代码包。

准备开发者帐户

开发者可以免登录 Model Farm 浏览模型信息和性能指标。

当开发者下载模型及示例代码时，需要登录开发者账号才能进行下载。

• 注册成为阿加犀开发者
  • 请访问：开发者帐户注册
  • 按照注册表单提示及要求，填写开发者相关信息
  • 信息填写无误后，提交帐户创建请求

快速开始

开发者通过 Model Farm 完成一个 AI 模型在端侧设备的推理需要经历以下步骤：

• 通过 Web 快速开始: 使用 Web 快速开始
• 通过 MMS 快速开始: 使用 MMS 快速开始 (推荐)