最新版的联发科5g生成式ai移动芯片天玑9300已发布，其新颖的全大核架构设计和新一代ai处理器apu以及联发科独有的尖端技术，为生成式ai应用提供了强大的性能支持，让使用者享受多彩丰富的生成式ai体验。比此，联发科还与大量ai行业企业加强合作，以在移动端打造丰富的ai生态。
全新第七代ai处理器apu 790，为生成式ai而生
随着用户对生成式人工智能应用的需求不断增长，端侧生成式人工智能的便捷性和安全性等优势也显露出来。当然，要部署端侧的人工智能大型语言模型，需要强大的人工智能计算能力的支持
天玑9300搭载联发科第七代ai处理器apu 790，为生成式ai而设计，拥有硬件级的生成式ai引擎，可以实现更加高速且安全的边缘ai计算，深度适配transformer模型进行算子加速，速度是上一代的8倍。
同时apu 790的性能和能效得到显著提升，整数运算和浮点运算能力提升至前一代的2倍，苏黎世ethzv5.1 ai-benchmark mobile soc跑分2109 分，ai性能成功霸榜，功耗更是降低了45%。在强大的ai性能支持下，1秒以内即可生成图片。天玑9300强悍的ai算力、创新的全大核cpu架构和immortalis-g720 gpu都为端侧运行生成式ai打下坚实的性能基础。
同时，基于亿级参数大语言模型的特性，联发科开发了混合精度 int4 量化技术，结合联发科特有的内存硬件压缩技术neuropilot compression，可以更高效地利用内存带宽，大幅减少ai大模型占用终端内存，为端侧运行ai大语言模型突破手机内存限制，助力更大参数模型在端侧落地。
基于以上，天玑9300首次在vivo旗舰手机端侧落地70亿参数ai大语言模型，处理速度可达20 tokens每秒。不仅如此，联发科突破了行业极限，已经与vivo成功在端侧运行了130亿参数的大语言模型。甚至，天玑9300已率先实现在移动芯片上成功运行330亿参数的ai大语言模型，领跑业界。
天玑9300还支持多模态生成式ai大模型，打造出“文生诗”“文生图”“文生趣图”等丰富有趣的端侧体验。
可见，天玑9300的ai算力和端侧生成式ai能力已领先行业，足以让用户随时随地ai创造力全飙。
生成式ai模型端侧技能扩充，带来全面、丰富的端侧生成式ai体验
与云端生成式ai解决方案不同，由于硬件环境的差异，部署端侧生成式ai也需要考虑手机内存、存储容量、负载上限等因素。因此，联发科率先提出了先进的解决方案
apu 790 支持生成式ai模型端侧技能扩充技术neuropilot fusion。该技术能够在端侧持续进行低秩自适应（lora，low-rank adaptation）融合，基于基础大模型，通过云端训练，实现n个功能的融合，从而赋予基础大模型更全面、更丰富的生成式ai应用能力
例如，通过基于ai模型端侧技能扩充技术开发的“图生gif动图”功能，用户可以根据一张照片更换不同的风格和表情，创造出独特的个性化表情包，瞬间成为表情包达人
ai开发平台neuropilot加速端侧生成式ai生态布局
天玑9300的apu 790通过强大的ai算力和先进的内存硬件压缩技术，以及ai模型端侧技能扩充等技术，将端侧生成式ai的速度和广度提升到了全新的水平。同时，联发科凭借其ai开发平台neuropilot构建了丰富的ai生态，从底层硬件到工具链、模型中心以及开发生态，助力生态快速、高效地部署端侧生成式ai应用，加速其在端侧的部署和普及
neuropilot是一款ai开发平台，它可以支持android、meta liama 2、百度文心一言大模型、以及百川智能百川大模型等领先的ai大模型
neuropilot的另一个重要优势在于其先进的工具链，其中包括neuropilot compression低秩自适应融合、speculative decoding推测解码加速以及模型优化与转化技术，这些都是非常完整的
联发科的天玑开发者中心还提供端侧生成式ai落地一站式开发者资源，分享端侧模型部署案例以提升开发效率。目前已有20多个生成式ai合作伙伴加入生态共建
联发科还携手业界合同伙伴打造精彩的生成式ai应用体验。虹软的生成式ai超级分辨率技术基于天玑9300 apu 边缘计算能力，相比前代，性能可提升30%。在25倍放大的拍摄时，利用生成式ai超级分辨率技术，可以拍出细节更真实的图像效果。
极感科技的生成式ai语意搜索技术也基于天玑9300 apu边缘计算能力，对比前代，性能可提升260%。比如在手机的相册中搜索照片，描述照片的内容即可在毫秒内精准搜到对应的照片。而且在断网状态下也能搜索，隐私也不会泄露。
morpho的视频通话实时数字分身生成技术，利用天玑9300 apu边缘计算能力，性能比前代提升了26%。一般的虚拟人像生成器需要手动选择容貌样式，耗费时间。但是基于视频通话实时数字分身生成技术，用户操作简便，只需打开摄像头拍摄一帧照片，即可瞬间生成数字分身
慧鲤生成式ai防眩光技术能够在基于天玑9300 apu边缘计算的支持下，提升60%的性能。使用该技术时，无论在室内还是室外拍摄时，只需稍稍调暗光线，即可消除眩光干扰
可以看到，在ai端云融合的趋势下，天玑9300在ai算力、生成式ai用户体验和生态方面展现出全面的优势，为新一代旗舰级端侧生成式ai体验树立了新的标杆，强大生成式ai就要用天玑。
同时，以联发科为引领的生成式ai开拓者们正在通过持续技术创新和生态布局大力推动混合式ai计算的发展，为端侧生成式ai部署展开了一条独特且高效的道路，全力将生成式ai在端侧进行普及，以实现更多用户享受到端侧ai的个性化体验，开创全新的全场景智能体验，将科技的优势充分惠及大众。
以上就是联发科天玑9300：引领行业，支持规模最大的330亿参数ai大语言模型的详细内容。