数码影音频道 频道

AI Hub领衔 高通这一系列操作为其合作伙伴带来了更多可能

  MWC2024 大会近日正式开幕,高通除了推出X80 5G 调制解调器、FastConnect 7900芯片一系列重磅新品。对于当下备受关注的AI领域,高通发布了全新的高通AI Hub,为开发者和终端厂商提供全面优化的AI模型库,支持跨骁龙和高通平台部署,方便为不同平台打造AI应用。

  早在2022年针对跨平台AI的难题,高通就推出了AI Stack(AI软件栈),以便手机、PC、汽车、XR,物联网、机器人乃至云端的跨端AI部署。而在去年初高通便领先行业地落地了端侧生成式AI。可以说AI应用开发的需求是与日俱增,而高通AI Hub将赋能开发者充分发挥这些前沿技术的潜力,打造具有吸引力的AI应用。

  高通AI Hub 提供了全面优化的 AI 模型库,提供超过 75 个 AI 模型,包含传统 AI 模型与生成式 AI 模型。所有模型均经过优化,以充分利用高通AI引擎内所有核心(NPU、CPU和GPU)的硬件加速能力,可以提升 4 倍运行 AI 推理的速度。同时优化后的模型还会占用更少的内存带宽和存储空间,提升能效表现和电池续航。

  开发者在其中可以选择应用所需的模型与开发应用的框架,随后确定目标平台(比如第三代骁龙 8),高通 AI Hub 就可以为开发者提供面向其指定应用和平台专门优化之后的模型。从获取到集成进应用程序,这个过程仅需数行代码即可完成,极大减少了开发者的工作量。

  高通在AI方面的领先性布局,使其在极短时间内推动了生成式AI的落地。如今一系列搭载第三代骁龙8移动平台的AI智能手机,展示了令人兴奋的生成式AI新特性。包括小米14系列的图像扩充,荣耀Magic6 系列的智慧成片和智慧创建日程,以及OPPO Find X7系列的AI消除。

  更多让人期待的新特性还在后面,高通在大会上展示了前沿的AI研究成果,包括首个在Android智能手机上运行的大语言和视觉助理大模型(LLaVA),这是一个超过70亿参数的大型多模态语言模型(LMM)。通过文本和图像,能够与AI助手生成关于图像的多轮对话。得益于它的端侧部署性质,它可以保障数据的安全性和可靠性,并且有着及时的响应速度。

  首个在Android手机上运行的LoRA模型也进行了演示,利用LoRA适配器支持定制化体验,可根据个人喜好生成高质量图片。高通技术公司产品市场高级总监Ignacio Contreras在分享时提到,LoRA是面向终端侧生成式AI的关键技术,它能够提升效率,可扩展性以及定制化能力。这一技术不仅能够运用于图像生成,也可以应用于大语言模型等多种生成式AI模型,是实现个性化生成式AI的高效方式。

  此外,高通展示了搭载骁龙X Elite平台的Windows PC,该平台具备高达45TOPS的NPU运算能力。在与搭载X86芯片的笔记本电脑对比中,骁龙X Elite平台运行Stable Diffusion生成图片10张,相同时间内X86平台只生成了1张,效率可以说领先太多。

  高通还在搭载骁龙X Elite平台的Windows PC上,运行首个音频推理多模态大模型。该模型能完成对音频、音乐等声音的理解并进行推理。例如,分析音乐类型和风格,为用户提供音乐的历史以及相似的音乐推荐,或通过对话的方式为用户调节周围的音乐。

  除了在 AI 模型方面提供支持,高通还在这一领域进行了深度的探索。在高通看来,终端AI具有在成本、隐私、可靠性等方面的优势,但若想实现生成式AI在终端侧的规模化扩展,离不开跨云端、终端和边缘侧的协同,混合AI才是AI的未来。不过这种跨越式的 AI 布局,自然也就需要更强大的连接能力。

  对此,在高通最 新的骁龙 X80 5G 调制解调器及射频系统,能支持 5G 毫米波和 Sub-6GHz 的通信,可以实现下行 6 载波聚合和面向智能手机支持 6Rx。值得注意的是,这也是高通首次在 5G 调制解调器之中集成 NB-NTN 卫星通信的尝试。

  骁龙X80还支持首个基于AI的多天线管理,首次面向CPE支持AI赋能的增程通信,并首次在5G调制解调器中集成NB-NTN以实现对卫星通信功能的支持。同时,骁龙X80采用第三代高通5G AI套件,带来AI增强的5G-A用户体验。CPE服务获取速度提升60%(毫米波),联网模式下功耗降低10%(毫米波),定位精度提高30%,选择最 佳基站时间减少20%,链路获取速度提升30%。

  “智能计算无处不在”

  通过持续不断地技术创新,高通又一次引领未来通信技术的发展方向。高性能的端侧AI芯片,更先进的通信芯片,以及不断优化的AI大模型以及AI Hub,为不同设备的高性能运算提供更好的助力。可以预见,包括AI、PC、汽车、智能手机、Wi-Fi设备、网络基础等不同领域,都将获得更好的性能和更低的功耗。高通在MWC期间的这一系列操作,将为开发者和其生态伙伴带来更多可能性,从而赋能产业的整体发展。

0
相关文章