苹果评估PrismML量化AI技术,让 iPhone 15 及后续机型运行 27B 模型

苹果正在与硅谷一家小型公司进行谈判,该公司表示其可以将强大的AI模型缩小到足以直接在iPhone上运行的程度。PrismML周二公开发布了阿里巴巴开源 Qwen 模型的压缩版本。该公司表示其将该模型从大约 54GB 减小到不到4GB,使其全部270亿个参数能够在iPhone 15或后续机型上运行。

PrismML CEO ​巴巴克·哈西比告诉记者,苹果和其他公司一直在评估这家初创公司的模型,并测量这些模型在设备上的速度、能效和性能。​哈西比谈及苹果时说道:“他们现在确实在评估我们的技术。”他将这些讨论描述为非常早期的阶段,并表示尚不清楚它们将走向何方,但“事情进展顺利”。

—— CNBC模型下载链接
 
 
Back to Top