设为首页 加入收藏
您当前位置 > 江门热线 > 资讯 > 正文
>
分享
新浪微博
腾讯微博
微信
QQ空间
QQ好友
手机阅读分享话题

终端侧生成式AI的技术革命,骁龙8gen3,将AI推向更高的方向

2024-04-30 22:24:09阅读:- 来源:


随着骁龙8gen3的发布,一个新词条越来越多的出现在人们的视野中,那就是终端侧生成式AI。高通公司CEO安蒙说:“我们正在进入AI时代,终端侧生成式AI对于打造强大、快速、个性化、高效、安全和高度优化的体验至关重要。”那什么是终端侧生成式AI呢,骁龙8gen3率先带来的终端侧AI能够为我们的工作生活带来怎样的影响呢?

所谓终端侧AI,就是指将AI的处理和数据存储、计算等任务放在终端设备,例如智能手机、PC、笔记本、平板上面执行,不需要借助云端算力。而终端侧生成式AI,简单说,就是在智能移动终端上本地运行AI大模型。和在网络服务器和云端运算的AI不同,终端侧AI的优势在于低延迟、低功耗、高隐私保护、低成本以及运行可靠等几个方面。正是终端侧AI这些显著优势,让它越来越受欢迎,成为现阶段AI的主流趋势。

高通公司全球副总裁侯明娟在《混合AI是AI的未来》白皮书线下发布会上表示:“终端侧 AI 是实现混合式 AI 架构、扩展生成式 AI 至全球更广泛范围的关键。”高通公司CEO安蒙也在骁龙8gen3的发布会现场发言:“我们正在进入AI时代,终端侧生成式AI对于打造强大、快速、个性化、高效、安全和高度优化的体验至关重要。骁龙在助力塑造和把握终端侧生成式AI机遇方面独具优势,未来骁龙赋能的生成式AI体验将无处不在。”

目前,我们正在经历一场关于终端侧生成式AI的重大变革,而在这场对未来智能手机走向有着至关重要影响作用的技术革命中,高通是吹响前进号角的第一人,是终端侧AI 变革的重要技术提供者和行业驱动者。不少专业人士对明年的智能手机做出了相同的预测:端侧AI或在制程、频率、跑分等处理器评价关键指标之后,成为最新的行业新标准之一。

高通在终端侧生成式AI方面有着卓越的领导力和技术前瞻力,骁龙8gen3是高通旗下首款专为生成式AI而打造的移动平台,这是高通十几年来不断深耕AI领域的一次集中技术爆炸,在骁龙8gen3这里,高通进一步将AI推向了更高的方向。骁龙8gen3已经可以实现在端侧运行最高100亿参数大模型,如果是面向70亿参数的大语言模型可以做到每秒生成20个 Token,在不到一秒钟的时间,通过Stable Diffusion即可生成1张图片,也就说我们点一下屏幕的时间,一张富有创造力和表现力的图片随即完成了,这让我们对“妙笔生花”这个成语在现阶段AI技术的映衬之下,有了更加深刻而具体的理解。

骁龙8gen3强大的AI计算能力,是支持端侧生成式AI运行的基础,而Hexagon NPU正是此次骁龙8gen3的AI引擎系统的核心部分,是AI性能担当,也是能耗控制的灵魂所在。骁龙8gen3全新设计的新一代 Hexagon NPU带来了比前代提升98%的AI推理速度提升,以及40%的能效提升,这为终端侧丰富多样的生成式AI新体验提供了底层算力支持。这些强大的AI能力,让手机的日常使用体验发生了翻天覆地的变化,拍摄、游戏、内容创造,或是图像、或是音频、或是文本,全都能玩出与以往大相径庭的新花样出来。

不言而喻,终端侧生成式AI已经展现出强大的力量,逐渐接管现代社会智能生活的核心。


(正文已经结束)

推荐阅读:叶紫

免责声明及提醒:此文内容为本网所转载企业宣传资讯,该相关信息仅为宣传及传递更多信息之目的,不代表本网站观点,文章真实性请浏览者慎重核实!任何投资加盟均有风险,提醒广大民众投资需谨慎!