生成式AI掀起科技时代大浪潮,在浪潮的起点,GPU与软件业者是时代弄潮儿。但很快地,人们对ChatGPT的热情消退,云端服务商承担的庞大成本压力浮现,各界开始冷静思考,生成式AI要能广泛落地,只能集中在云端运行吗? 难道这AI商机创造的大把银子,都让英伟达一人赚走不成!

当然不是如此。近日,AI大模型的发展朝端侧的方向是呼之欲出,随着连接设备和数据流量的爆增,不可能什么数据都发送到云端,这会让数据中心成本不堪负荷。日前就有调研机构预估,光是维持ChatGPT运作就使得OpenAI每天要烧掉70万美元,如果没有后续资金进来,不排除OpenAI会在2024年底前面临破产危机!
由此可知,未来生成式AI要能更广泛落地与普及,凡事“上云”绝对不是最好的解决之道。
云端AI的商机正在往边缘和侧端传递,混合AI才是真正未来。高通在几个月前就已经传道过此观念,在夏威夷举行的Snapdragon Summit 2023上,更进一步揭示了生成式AI未来朝边缘端发展的道路上,高通下了哪些功夫。各界更发现,藉由重新定义AI装置,高通抢下新一轮生成式AI的话语权。
2023骁龙峰会Snapdragon Summit无疑是高通这十年来最重要的一场发布会。在此之前,高通一直“骁龙”困于智能手机高库存中,这次要借力AI*局破**而出。
峰会上,高通带来了几项重要产品:手机市场的三代骁龙8移动平台、PC市场的骁龙X Elite平台、第一代高通S7和S7 Pro音频平台,更因为生成式AI的魔力加持,新品展现了强大的竞争力。

有别于过去的峰会都由手机处理器担任主角,这次峰会最大亮点,是高通揭露了进军PC领域的旺盛企图心。
这次针对PC重新定位的骁龙X Elite平台,加上导入4nm制程自研的Oryon CPU,在性能、功耗上都表现都胜过竞品。尤其高通点名与苹果Arm架构CPU、英特尔i9 CPU较劲,以及GPU与超微的Ryzen 9比较,直面竞争彰显自信。
日前传言英伟达也计划推出Arm架构PC CPU,AMD也有意从x86转往Arm架构,显示众处理器巨头都在尝试跳脱舒适圈,扩大自己的战场。
高通要成为端侧生成式AI的领军者,不能只是靠一颗芯片独立打仗,生态系讲求的是团体作战。建立生态系是一项巨大且艰难的任务,高通做到了,成功集结ODM厂商、独立BIOS供应商IBV、独立硬件供应商IHV、独立软件供应商ISV,以及更大云端平台等,打造属于自己的AI生态系统。
在AI PC笔记本厂商中,第一批持者有联想、三星、宏碁、华硕、戴尔、惠普、荣耀等,2024年可以看到这些品牌推出X Elite PC。另外,在云端平台巨头上,更有微软、Google、Meta现身加持。

在此要特别谈谈高通是如何拿下生成式AI领域的话语权。
AI始于云端,但手机是世界上和云端连接最频繁的终端,在终端和云端中间的这一部分称为“混合AI”。
在4G时代,当4G将宽带接入移动终端时,就可以拥有一个手掌大小的电脑,之后更有智能手机象征个人移动计算终端设备的诞生。未来5G和个人移动计算的发展,AI也会经历同样的历程。
回想早在2018年,高通就开始谈5G进入移动市场,2019年5G进入商用终端,为什么高通早早就开始大谈5G和AI? 当时很多人不理解,为什么高通要把5G和AI摆在一起看?
试着想想,有计算能力与技术的发展、有成熟的AI模型、有现成的云端和终端,这些条件与优势组合起来,会形成什么样貌吗? 这是高通一直在做的一件事:重新定义移动终端设备。
一直以来我们习惯的终端运行,是以应用程序为中心。例如高通有一个计算平台,在上面运行操作系统,然后是操作系统里的应用程序,人在触控界面上点击触摸使用应用程序,在不同应用程序间转换。与此同时,数据从一个应用传输至另一个应用。
但AI进入终端后,一切已经发生变化,可称之为“AI转型”。 AI在终端上无处不在,无时无刻都在运行,围绕着使用者作出预测,因此AI要了解你的行为,让终端、操作系统都变得智能,改变使用者和终端互动的方式,这还不仅限于智能手机,在PC端、汽车,很多个不同的终端上都能实现。
这个转型也让AI引擎在终端运行与云端交互,这一切都是靠5G和AI连接到一起。

在AI领域,不同于英伟达的优势在云端计算能力,高通正在通过具备优势的通信连接和算力能力,围绕着骁龙平台展开工作,这当中包括Oryon CPU、Adreno GPU,以及NPU神经网络处理器Hexagon,从边缘侧端进攻,迎接这一波AI时代的大潮流。
其中,NPU不仅仅能实现支持生成式AI的手机,也能让PC支持生成式AI。Stable Diffusion模型过去可以在智能手机上运行拥有10亿参数的Stable Diffusion模型,从给出文字生成一张图片要15秒,在搭载下一代骁龙旗舰平台的终端上,其运行速度已经快到0.6秒。
此外,还有Meta的Llama 2模型、Android基础模型,以及很多来自中国合作伙伴的模型,都将搭载到商用终端上,带来全新的体验。
这次的骁龙峰会上,高通也宣布三代骁龙8,是高通首款以生成式AI为核心的行动平台能,首发装置是小米14,峰会上更由小米总裁卢伟冰亲自站台。三代骁龙8是采用台积电4nm制程,采1+3+2+2 全新四丛集8核心架构,并携手Meta整合其Llama 2的大型自然语言模型,能在终端对应超过100亿组参数,平均每秒可执行15组代码指令。
生成式AI爆发性成长以来,AI战局丕变,有两个变化非常值得观察。一个是生成式AI商机初期是英伟达在云端称霸,但随着模型参数的急剧增加,要处理和传输大量的数据因此对GPU需求巨大,使得侧端有追上的机会。高通从边缘端使力,利用其边缘端侧的优势,以及连接与计算能力,要*攻反**AI市场。
英伟达与高通,一个从云端出发,另一个从边缘端施力,在AI世界互相碰撞。
另一个变化是,PC与手机市场的竞争态势进入到另一阶段,高通这次的骁龙X Elite平台宣示进军PC领域的企图心,也传出英伟达可能与联发科一同攻克Arm架构CPU市场。这对于疲弱已经的PC和手机市场,无疑是再好不过的消息。有竞争才有创新,市场才有活水,AI PC时代到临,消费者有很棒的换机动能了。
在生成式AI爆发初期,看似是英伟达一个人的武林,现在高通在PC和手机双战线启动,从边缘端出发。高通更是集结上下游、软硬件合作伙伴,形成自己的AI生态系供应链,在复杂的AI时代,技术领先只是基本功,团体战术打群架才是致胜关键。