IC设计大厂联发科技宣布,将运用Meta最新世代大型语言模型Llama 2以及联发科技最先进的人工智能处理单元(APU)和完整的AI开发平台(NeuroPilot),建立完整的终端运算生态系统,加速智能手机、汽车、智能家庭、物联网等终端设备上的AI应用开发,为终端设备提供更安全、可靠和差异化的使用体验。预计运用Llama 2模型开发的AI应用将在年底最新旗舰产品上亮相,为使用者带来突破性的生成式AI应用体验。
联发科技无线通讯事业部总经理徐敬全表示:「生成式AI的浪潮是数字转型的重要趋势之一,我们的愿景是为Llama 2的开发者和终端使用者提供开发工具,带来更多令人振奋的AI创新机会和产品体验。通过与Meta的伙伴关系,联发科技可提供更强大的硬件和软件整体解决方案,赋予终端设备更胜以往的强大AI性能。」
目前大部分的生成式AI处理都是通过云端运算进行,联发科技将生成式AI直接部署在终端设备,让开发者及使用者能直接在设备上使用Llama 2模型,借此提升性能、加强隐私保护、提高安全性及可靠性、降低延迟,能离线运算,并拥有节省成本的多项优势,让每个人都能享受到生成式AI带来的便利与创新。
要真正在设备上释放生成式AI的潜力,制造商需采用高运算、低功耗的AI处理器,以及更快、更可靠的联网性能,以增强整体运算能力。目前每一款由联发科技系统单晶片驱动的5G智能手机皆配有APU,已有广泛执行多项生成式AI功能的成功实例,例如AI-NR噪音抑制、AI-SR超高分辨率、AI -MEMC动态补偿等。
联发科技将于今年年底推出最新一代的旗舰芯片组,并采用针对Llama 2模型而优化的软件堆叠架构(NeuroPilot),与搭配支持Transformer模型做骨干网络加速的升级版AI处理单元,降低DRAM存储消耗及频宽占用,进一步强化大型语言模型和生成式AI的性能,以利于开发者打造令人期待的全新AI应用,加速终端应用的落地扩展。