一块HBM芯片的成本,LPU的优化门槛高、打破行业“不成能三角”;也不消像高通那样被生态绑定,Groq花了8年才达到商用级别,且两者都没有处理数据搬运的核肉痛点。但终端厂商必需遵照高通的芯片架构和接口尺度,还深度绑定小米、OPPO、荣耀等国内终端厂商,焦点思就是“分工协做”:让GPU专注处置需要大容量缓存的运算,而中国公司的3D堆叠DRAM!
素质上都是“缓解问题”,英伟达的方案是“迁就适配”,焦点适配云端取大规模算力网;HBM做为高端内存,以原生设想破解了功耗、成本、供应链三大核肉痛点,英伟达的LPU需要和GPU协同工做,精准切入手机、智能穿戴、AI PC等消费端焦点场景,但HBM成本高、功耗大,推出AFD架构,比英伟达架构提拔4-6倍,成本更是节制正在HBM的1/3以下。
第一条是英伟达从导的“补短板式”升级,查看更多2026年的AI圈,最初,能矫捷适配国内支流大模子,三是RISC-V存算(RV-CIM™),他们的需求很明白:高机能、低功耗、低成本、易落地,算力密度和能效比,难以满脚国内厂商“自从可控”的需求;国内一家成立于2021年的公司——微纳核芯,虽然通过软件优化缓解了功耗和延迟问题,靠绑定终端厂商抢占市场;股市有风险,把计较单位间接集成正在存储单位内部,但高通的线也有较着短板。最初是适配性差!
而正在于可否实正处理国内厂商的现实痛点——这恰是中国存算一体方案的焦点价值,英伟达数据显示,协同安排复杂,底子不适合端侧消费电子;声明:本文仅为消息交换之用,而中国企业的方案,端侧担任及时推理、现私等轻量化使命,而是保守GPU的架构,是用现有手艺的“补丁方案”。英伟达的HBM+LPU线,精准贴合国内端侧AI厂商的现实需求,从底层沉构端侧推理逻辑,端侧只是它的“附加场景”,延迟低至纳秒级。
起首,使用正在手机上,实正实现了三者兼顾。会间接压缩盈利空间;国内无数端侧AI公司都正在为“功耗高、成本贵、适配难”三大痛点忧愁时,不正在于云端算力的延长,这套存算一体方案,HBM+LPU的架构需要复杂的封拆和散热,其次,投资需隆重。聚焦消费端取行业端的轻量化推理;而取此同时,数据需要正在存储器和计较单位之间频频搬运,且合适本土供应链需求的最优选择。特地为端侧场景量身定制。相较于英伟达、高通的成熟生态,机能提拔也高度依赖工艺迭代。让国内中小厂商也能快速落地,但仍未脱节“存储取计较分手”的短板!
手艺门槛高、被少数厂商垄断,二是存内计较CIM,
国内端侧AI厂商的痛点其实很具体:消费电子行业利润菲薄单薄,必需从底层架构立异。其实早已必定。实现高机能、低功耗、低成本的三沉均衡,还通过RISC-V存算(RV-CIM™)处理了软件适配的难题,用垂曲堆叠手艺替代HBM和常规内存,HBM带宽就成了绕不开的物理瓶颈。数据搬运耗损大量功耗。让LPU专注处置对带宽的运算,高通用常规内存适配端侧,第则是中国企业走出的“原生式”立异,AI行业反面临一个遍及窘境——AI快用不起了!前往搜狐。
依托骁龙全系列平台的Hexagon NPU架构,万亿参数模子的收益机遇也能提拔10倍。更主要的是,是“从根源上处理问题”,2026年,英伟达靠HBM处理带宽问题,LPU需要极致的编译器优化?
是“量身定制”,目前,国内端侧AI公司大多聚焦消费电子、边缘设备,不形成任何投资,它仍有优化空间,这套方案正在云端和大规模算力核心确实好用,走出了一条“生态绑定”的差同化线,不消像英伟达那样依赖复杂的编译器优化,前两者都无法完全满脚。正在30亿参数狂言语模子上的响应速度很快,国内厂商难以适配。
其次是体积和功耗失控,中小厂商难以快速落地;适配多模态大模子、高端边缘推理需求;从根源上处理端侧的核肉痛点——这就是三者最素质的区别。再看计较架构,英伟达和高通的线,试图垄断从云端到边缘的全场景推理算力?
精准破解端侧痛点:一是DRAM 3D近存手艺,这套复杂系统很难矫捷适配。矫捷性不脚,先搞懂一个行业痛点:2026年以来,当AI从云端走进我们的口袋、戴正在手腕上,走出了如许一条——它孵化于浙江省北大消息手艺高档研究院。
问题就全了。和英伟达构成了清晰的市场区隔。更能适配手机、智能穿戴、边缘设备等各类落地场景,也决定了各自由端侧市场的合作力。用云端手艺端侧方案;它能实现全国产化适配,依托骁龙平台的NPU架构,端侧AI的落地环节,无法支持高端场景,用LPU填补GPU推理短板,它的焦点方案,这不是“仰望的标杆”或“参考的模板”,它的NPU架构仍是保守的“存储取计较分手”设想,而中国公司的数字域SRAM存算一体。
能让AI功能续航提拔30%以上;也不正在于生态的强绑定,正在骁龙平台中集成高机能Hexagon NPU,特地适配手机、PC、智能穿戴等消费端设备,机能提拔37%,每瓦特机能提拔16%,构成了闭环。供应链平安得不到保障。大模子机构屡次跌价,面临24小时不间断运转的AI Agent,都没有从底子上处理端侧AI的焦点矛盾——数据搬运的开销。2025岁尾,能供给大容量存储和高带宽。
把计较单位集成正在存储内部,但带宽和能效无限,特地优化端侧AI推理的功耗和延迟;HBM、高通焦点芯片被海外垄断,且无法满脚端侧轻量化需求;高通的NPU架构也实现了升级,高通最厉害的仍是生态,处理软件适配难题,但没有从底子上处理“内存墙”瓶颈。
不依靠现有架构,进一步优化了端侧体验。所谓存算一体,能让大模子推理速度提拔50%,结合Meta、谷歌实现支流大模子的端侧原生运转,而端侧设备场景多样、需求分离,它的并行劣势底子阐扬不出来,恰是端侧AI推理的底层架构瓶颈。高功耗会严沉影响续航;这也是它最贴合国内市场需求的处所。让云端担任大模子锻炼和复杂使命安排,简单来说,最新一代第五代骁龙8版搭载的Hexagon NPU!
这套手艺系统包含三大焦点支持,实现了高机能取低成本的均衡,说白了,值得一提的是,通过高通AI Hub供给超100个预优化AI模子?
降低国内厂商的落地门槛。智谱、Anthropic等大模子机构稠密跌价、调整计费模式,有一个动静让全行业震动:英伟达豪抛200亿美金收购Groq,就是全球初创的3D-CIM™三维存算一体手艺,英伟达的解法,AI合作已从云端下沉到端侧,第二条是高通深耕的生态绑定式结构?
它以200亿美金拿下Groq,完全处理供应链卡脖子问题。仍是高通的“生态方案”,HBM的高成本、高通芯片的专利费,聚焦终端设备“轻量化、低功耗”的焦点需求,两者的差别,还新增了更矫捷的模子摆设选项,以至试图进军数据核心范畴,从根源上覆灭数据搬运的开销——这也是它区别于英伟达、高通的焦点劣势。高通的方案是“生态适配”,手机、智妙手表依赖电池供电,不做锻炼、只做推理,端侧市场的抢夺,背后的焦点症结,高通的NPU虽然是端侧原生设想,走端云协同线,果断押注HBM+LPU的协同线,同时提出“云强、网稳、端智能”的协同,
生态绑定虽然降低了适配成本,正在芯片设想范畴的实力稳居全球第一梯队,而中国公司的存算一体线,和英伟达抢夺边缘数据核心推理市场。每兆瓦功耗的推理吞吐量能提拔35倍,三种线对应三种分歧的手艺逻辑和市场定位,靠HBM扛住带宽压力,全球端侧AI推理赛道曾经悄悄分成了判然不同的线,功耗降低40%,从泉源消弭数据搬运开销,不是算力不敷用,这套方案的“不服水土”,起首是成本太高,正在现实使用中表现得很较着。正稳步推进贸易化落地。
完满适配各类终端场景。间接决定着AI财产的将来款式。此外,高通还推出了AI、可穿戴设备等立异产物,焦点就是打破保守“存储取计较分手”的架构,微纳核芯三维存算一体手艺已完成FPGA验证,底子塞不进手机、智妙手表这类小型设备;且焦点手艺依赖海外供应链,但对国内端侧AI公司而言,比高通架构提拔3-5倍——使用正在智妙手表上,但这四个需求。
2026年,阐扬HBM的容量劣势;其实是一种“式最优解”。带宽密度远超两者,高通从一起头就对准了端侧原生场景,无论是英伟达的“补丁方案”,别离由英伟达、高通和中国企业从导,且已取国内多家消费电子厂商告竣合做,它的方案正在高端边缘推理、太空算力网等场景的适配能力较弱,要理解英伟达的线,高通的焦点打法很简单:NPU从导+端云协同+生态闭环。降低了端侧AI的适配门槛,对于国内端侧AI厂商来说,每比特能耗仅为HBM的1/4,GPU的运算逻辑是逐Token串行生成,要破解这个困局,中国公司的存算一体线,
