第163章 联发科携手阿里云:实现ai大模型芯片级适配(1/2)
在数字化浪潮席卷全球的今天,智能手机作为我们日常生活中不可或缺的一部分,正逐步迈向更加智能化、个性化的新时代。nianliu近日,全球领先的智能手机芯片厂商联发科宣布,已成功在其旗舰芯片天玑9300上部署了阿里云自研的通义千问大模型,实现了大模型在手机芯片端的深度适配。这一突破性的合作不仅意味着手机芯片与大模型的融合迈出了坚实的一步,更预示着端侧ai即将迎来黄金增长期。
联发科,作为全球智能手机芯片出货量最高的半导体公司,其技术实力和市场影响力不言而喻。联发科在2023年第4季度的出货量超过了117亿部,稳坐行业头把交椅。而阿里云作为国内领先的云计算服务提供商,其自研的通义千问大模型在人工智能领域同样具有举足轻重的地位。此次双方的合作,可谓是强强联合,为智能手机行业注入了新的活力。
在c2024展会上,联发科携多款人工智能应用亮相,其中天玑9300和8300两款芯片备受瞩目。据悉,天玑9300芯片不仅在国外实现了对ta l 2的70亿参数大模型的支持,而且在国内vivo x100系列手机上也成功落地了端侧70亿参数大语言模型。更令人振奋的是,该芯片在端侧实验环境下已经成功跑通了130亿参数模型,这标志着手机芯片在处理大规模ai任务方面的能力得到了显着提升。
而此次与阿里云的合作,更是实现了通义大模型的芯片级软硬适配。阿里巴巴通义实验室业务负责人徐栋表示,端侧ai是大模型应用落地的重要场景之一,但面临着软硬件难适配、开发环境不完备等诸多挑战。通过与联发科的深度合作,双方共同攻克了一系列底层适配及上层开发的技术难题,成功将大模型“装进”手机芯片中,探索出了端侧ai的del-on-chip部署新模式。
这一模式的成功落地,不仅提升了手机在离线情况下的ai对话能力,使得多轮对话成为可能,更为未来端侧ai的发展奠定了坚实基础。随着云端大模型规模的指数级增长,端侧计算将逐渐承担起支撑大规模用户使用的重任。云端协同将成为未来的重要趋势,由云侧计算建立天花板,端侧计算将为用户提供更加流畅、高效的服务体验。
除