iPhone 17 Pro有望本地跑270亿参数大模型，苹果正在跟这家初创公司谈合作

数码前线

最近看到一条挺有意思的消息，美国初创公司PrismML把阿里巴巴开源的Qwen 3.6模型270亿参数版本压缩到了不到4GB，成功在iPhone 17 Pro上完整运行。更关键的是，苹果已经跟这家公司开过会，讨论怎么把这项技术用到iPhone的端侧AI上。
先说说这家公司什么来头
PrismML是从加州理工学院（Caltech）出来的，创始人哈西比是该校电气工程教授，核心技术是Caltech的专利，独家授权给了PrismML。这家公司今年刚结束隐身状态，种子轮融资1625万美元，投资方包括Khosla Ventures，就是那个早年投OpenAI的VC。
他们的核心技术叫原生1-bit模型压缩，简单说就是把模型权重从传统的16位浮点数压缩到只用-1和+1两个值表示，配合分组缩放因子。不是传统意义上的量化，号称没有"高精度逃生通道"。按他们自己的说法，模型体积能压缩到全精度版本的1/14左右，内存占用降低超过90%，推理速度提升最高8倍，能耗降低75%到80%。
这次具体做了什么
他们把Qwen 3.6的270亿参数版本从大约54GB压缩到了4GB以下，然后在iPhone 17 Pro上完整跑起来了。注意是"完整运行"，不是那种只激活部分参数的稀疏架构。
这里有个值得关注的点。苹果在今年WWDC上发布的端侧主力模型AFM 3 Core Advanced也有200亿参数，但用的是稀疏架构，每次推理只激活10亿到40亿个参数。而PrismML的方案是让全部270亿参数同时处于活跃状态，在相同硬件条件下能调用更多计算资源。从原理上来说，稠密激活的模型在处理复杂任务时应该比稀疏架构更有优势。
苹果为什么感兴趣
苹果一直把端侧AI当成隐私和安全的核心策略，基本不参与微软、亚马逊、Meta那种动辄几百亿美元的数据中心军备竞赛。但尴尬的是，苹果今年6月宣布的那个Siri大升级，用的还是Google的Gemini模型，最高级的功能还得靠Google Cloud上的NVIDIA芯片来跑。这跟苹果一直倡导的"端侧优先"理念明显有落差。
PrismML的技术如果真能落地，对苹果来说是个挺实际的补充。哈西比本人的判断是，未来三年内用户所需的绝大部分AI计算都会在本地完成，"95%的智能服务可以在手机、笔记本或家电上本地完成，只有5%的高端功能需要依赖云端"。这个方向跟苹果的路线是吻合的。
开源计划
PrismML计划7月14日开放这款压缩模型的下载，是开源的。对开发者来说，这意味着很快就可以在iPhone上本地跑一个270亿参数的稠密大模型，做复杂对话、深度推理、代码编写这些高阶任务，不需要联网。
一些值得观望的地方
当然，这种极端压缩技术在实际应用中的表现还需要验证。压缩模型在标准benchmark上表现不错，但在真实用户场景下，尤其是多步推理、工具调用这些复杂任务中，能不能保持稳定性，还得等开源后社区的大规模测试。另外，PrismML的压缩方法论是封闭的，虽然模型权重开源了，但核心算法没开源，独立验证需要时间。
总的来说，这件事的意义不在于"iPhone能跑大模型了"——这个早就不是新闻。关键在于，它可能标志着端侧AI从"能跑小模型"向"能跑大规模稠密模型"的跨越。如果苹果真的把这项技术整合进iOS生态，Siri的体验可能会有实质性变化。7月14日开源模型上线后，值得持续关注社区的实际跑分和使用反馈。