高通AI Hub面向中国开发者开放，内置230个预优化模型

做端侧AI开发的开发者们有新工具可以用了。高通今日宣布，旗下AI Hub现已面向中国开发者开放，合作伙伴和开发者可以借助这个平台打造终端侧生成式AI和智能体AI应用。

这次推出的中国版集成了几个核心模块：Models模型库、Workbench模型工作台、Apps示例应用以及GenieX端侧推理框架，覆盖了从模型选择、优化到应用集成的完整流程。

先看模型库。AI Hub Models目前提供超过230个预优化模型，并且还在持续扩展，其中也包括一些中国市场模型。开发者可以浏览模型、对比各模型在支持设备上的性能指标，然后直接下载集成进应用；如果想用自己的模型，也可以上传上去做量化和格式转换。

Workbench则解决的是另一个问题——它支持在真实的云托管设备上进行模型调优，开发者可以在上面选择偏好的骁龙或高通跃龙平台，完成量化、编译、性能分析和验证。模型准备就绪之后，Apps模块提供示例应用和参考代码，帮助开发者把模型集成到应用里，GenieX则负责端侧生成式AI的推理部分，可在Hexagon NPU、Adreno GPU或CPU上本地运行语言模型和视觉语言模型，目前标注为开发者预览版。

云端服务方面，中国版由亚马逊云科技中国（宁夏）区域提供，该区域由宁夏西云数据科技有限公司运营。开发者还可以借助高通设备云在中国的真实设备集群，远程验证模型部署情况并分析端侧运行性能。除此之外，配套资源还包括官网和开发者论坛。

回看这个产品的历史，高通AI Hub最初是在2024年2月的MWC巴塞罗那期间发布的，当时提供了超过75个AI及生成式AI模型，两年多过去，模型库规模已经扩充到了230个以上。

从宣传资料来看，高通也在强调端侧AI的几个代表性进展，比如全球首个在Android手机上运行的多模态大模型、高通首个在Android手机上运行的LoRA模型，以及全球首个在Windows PC上运行的音频推理多模态大模型。

对国内开发者来说，这次开放的意义其实挺实在的。过去做端侧部署，光是不同芯片、不同内存规格下的量化适配就要耗费大量精力，预优化模型库加上配套的推理框架，等于把这段重复劳动接了过去，开发者的精力可以更多放在应用本身。

随着AI智能体越来越多地往手机、PC这些终端侧迁移，本地推理的即时性、隐私和离线可用性优势也越来越明显。工具链是否顺手，会直接影响开发者选不选这个平台。

你最近在做端侧AI相关的项目吗？欢迎评论区聊聊你的看法。