当前位置:我的网站首页>幸福来敲门>天涯明月刀

杀害班花逃15年

书名:回家的诱惑|作者:笑无语|本书类别:古言|更新时间:04:53:29|字数:3896字

A |     8月8日,北京知识产权法院以“滥用市场支配地位纠纷一案”为案由,立案受理该案件。截至发稿前,该案的开庭时间尚未确定。    出品 | 虎嗅科技组          作者 | 梁卡尔          编辑 | 苗正卿          头图 | 虎嗅拍摄          这是虎嗅WAIC“追踪Token商业新范式”系列文章第【20】期。与车行是中国汽车流通协会官方二手车历史信息查询平台“CADA柠檬查”的运营者。

B |          聚光灯下,国产AI芯片的竞争正在变“重”。彧菡汽车认为,与车行利用其能便捷获取全国车险信息平台公共数据而形成的垄断地位,对包括彧菡汽车在内的数据需求方查询数据收取不公平高价,对非中国汽车流通协会会员实施歧视待遇。具体而言,同样一份车辆历史报告,对中国汽车流通协会会员收取28元,对非中国汽车流通协会会员的其他合法二手车经营主体则收32元。彧菡汽车的代理律师王琼飞对财经E法表示,案件的核心在于柠檬查使用的是公共数据。         漫步在今年世界人工智能大会(以下简称“WAIC”)的芯片算力展区,会发现往年厂商们引以为傲、精心陈列在橱窗里的单片硅晶圆变少了,取而代之的是看上去“重达数百公斤、塞满核心器件的巨型算力柜”。其中拿出硬核实力的是华为,这家公司首次在线下展出的昇腾Atlas 950超节点真机,一个旨在将1024张芯片死死绑定在一起的系统级庞然大物。与车行向财经E法确认,该公司在2022 年9月9日收到了彧菡汽车的起诉材料与北京知识产权法院出具的应诉通知,目前正在准备应诉,但未对案件本身置评。

C |          按华为的官方资料,该产品基于灵衢互联协议和超节点架构,支持1024卡规模,拥有256TB全局统一内存编址空间,并提供1 EFLOPS FP8、2 EFLOPS FP4算力。本案给予公众的启示是,该如何界定 “公共数据”。如果记不住这些参数,那么只需要记住一个变化,也就是国产AI算力竞争重心正在发生变化。在此基础上,按照《反垄断法》的框架分析相关方是否具有滥用市场支配地位的垄断行为,需界定相关市场,并确定其在相关市场上是否具有支配地位,进而认定其是否构成滥用,且是否具有正当合理的理由;最后,还需分析其行为是否具有排除限制竞争的竞争效果。         从拼单卡参数走向拼系统交付。国务院反垄断委员会专家咨询组成员、浙江理工大学法政学院院长王健对财经E法表示,这起案件的一个重要价值在于,或许会为业内如何处理公共数据的开放和利用,并避免构成滥用,提供一个司法样本。面对先进制程受限、高端HBM断供以及CUDA生态壁垒等一连串硬件短板,中国AI芯片厂商正试图通过超大带宽、低时延互连以及全域调度,将无数个“不完美”的单卡,拼凑成一个“相对完美”的“巨型计算机”。

D | 越来越多厂商开始强调这种新趋势。         系统级突围不是抹平单卡差距,是一种向现实妥协的突围,但它绝不是一条捷径。

E | 中国社会科学院法学研究所经济法室主任、研究员席月民在《推进公共数据开放共享的立法进路》一文中建议,面对当前数字经济和数字法治政府发展中“先地方、后中央”立法进路中的“地方主导”问题,需要及时制定统一的《公共数据开放共享条例》。当竞争从微观的芯片设计蔓延至宏观的系统工程,面对复杂的网络互连、艰难的模型迁移,以及数据中心那不堪重负的散热与功耗,厂商们眼前的是一笔更难算清的账目。
北京知识产权法院的立案通知01要点一:什么是公共数据?在二手车交易中,历史车况信息是交易的基础,其中车险信息又是车况信息的核心。王琼飞对财经E法表示,公共数据的开放和流动,在定价机制上应当是成本价或者微利,在开放对象上应当是非歧视性的,这关乎每个人的数据权利。         为什么今年大家都在讲“超节点”?          虎嗅和行业上下游十多位从业者交流发现,超节点热的直接原因,是模型和推理需求都变大了。

F |          从需求端来看,模型变大的速度快过了单卡能力提升的速度。

G | “我们代理原告,同时也是代表了千千万万的公共数据需求方”。他表示,期待法院能对公共数据的合理利用,通过司法判例划出规则。随着模型参数向万亿级迈进,以及上下文窗口拉长至1兆以上,单个芯片的性能早已不堪重负。摩尔线程高级副总裁董龙飞将这种“超节点”技术生动地形容为“让256张GPU像一张卡一样工作”,实现跨卡显存的直接访问。因此,本案的核心,便是柠檬查服务中所涉的车险信息是否属于公共数据?如果属于,又该如何定价使用?王琼飞对财经E法表示,市场上确实存在不少提供类似查询的服务商,但无论从数据的广度和深度,还是数据的获取成本的维度来看,这些服务商都无法替代柠檬查。         图片来源:摩尔线程          华为昇腾950所强调的统一内存编址与全域调度,本质上也是在解决同一个痛点,就是在单卡能力触及天花板时,必须靠“人多力量大”来拼凑出更大的算力空间。原因在于,柠檬查的数据直接来源于全国车险信息平台这一公共数据平台,而其它平台的数据大多是通过与保险公司等市场主体进行商业化合作来获得。         更具戏剧性的是,智能体让推理算力的消耗方式变了。摩尔线程创始人、董事长兼CEO张建中指出,算力消耗的主体正在从人类转向AI自身,“已经不是我们在用AI,是我们的Agent在用AI”。柠檬查官网介绍,该平台主要提供全面、实时的的车辆历史信息服务。当Agent开始替人调用模型,Token消耗量呈指数级增长。作为柠檬查的运营方,与车行的工商注册信息显示,其是国内首个汽车售后服务质量实时监测分析的互联网数据平台。         一位百度云的工作人员在现场向虎嗅印证了这一趋势。

H | 工商信息还显示,2020年,在中国汽车流通协会的指导和支持下,与车行设计开发了CADA柠檬查平台,为全国的二手车企业提供二手车历史信息查询等服务内容,为促进二手车便利交易和诚信体系构建提供支持。彧菡汽车在诉状中称,该公司作为众多合法二手车经营者之一,在政府部门监管要求下及二手车消费者需求下,查询二手车车险数据是促成二手车成交的必要步骤之一。
柠檬查的官网信息对外经贸大学数字经济与法律创新研究中心主任许可对财经E法表示,公共数据应该向社会开放,采取“公平”“透明”“合理”“无歧视”的原则向外界提供服务,同时应采取成本定价法。

I | 相比训练,目前国产算力在应用端的推理需求正占据绝对主导。许可表示,目前对公共数据定义的扩张,需要“非常谨慎”。这也解释了为什么万卡集群会和Agent推理放在同一套故事里,因为它们都指向算力需求从单次请求转向高并发、长上下文和多模型协同。因为从法律上来说,目前对公共数据尚无全国性的定义,北京地区目前也没有相应的规定。在许可看来,认定是否属于公共数据,需要看平台是否得到权威部门的授权,允许其行使搜集行业数据的公共管理职能。         然而,在这场由万卡和超节点堆砌的“繁荣”背后,有多少是真实的市场需求,有多少是展会上的“军备竞赛”?          在业内人士眼中,万卡集群不仅是一个技术指标,更是一张证明自身出货与交付能力的“商业名片”。但根据目前信息,尚无法判决中国汽车流通协会是否获得授权。

J | 此外,许可认为,在对公共数据进行使用的时候,应该通过招投标的方式来遴选第三方,设定透明的收费标准。一位昆仑芯展台的工作人员告诉虎嗅,服务头部客户必须具备万卡级集群能力。

K |          但这种狂热下也有人在理性反思,海光信息的工作人员表示,万卡绝不是百卡系统的简单放大,当规模跨过临界点,系统的稳定性、网络拓扑、功耗和散热挑战将面临指数级飙升。一位芯片架构师告诉虎嗅,公司目前支持的是千卡级扩展,但大部分实际商用场景在8卡或16卡规模下已绰绰有余。         所以,能拿出万卡方案的厂商很多,但真正能落地的有待检验。一位芯片公司参展商工作人员对虎嗅说,“你要问问看这些卡是不是真的被用起来了”。目前,涉及公共数据开发利用的相关规制仅见于地方性法规,全国性规制尚属空白。《浙江省公共数据条例》(下称《条例》)于2022年3月1日正式施行,这是全国首部公共数据地方性法规。其中明确了公共数据的定义。         系统级突围的第一道墙          然而,要将成百上千张芯片绑成一个“超节点”,厂商们撞上的第一道墙,是严苛的物理学定律。

L |          超节点的前提是通信速度。

M | 为了让数百张GPU像“交响乐队一样协同”,摩尔线程和华为等中国厂商不得不各自开发了MTLink和灵衢等互连协议。         华为工作人员告诉虎嗅,灵衢本质上是试图在服务器内部和服务器之间建立更可控的数据通路,并推动CPU、网卡和存储等部件都接入同一生态。         但无论是互连协议,还是更高层的调度架构,都无法绕开底层传输介质的物理边界。铜互连的物理边界很具体,当铜缆距离超过约三米后,信号衰减会明显加剧,所以为了保证信号完整性,线缆需要做得更粗,这又带来了发热、散热、布线和重量的问题。         这种物理极限,正在催生一场“光进铜退”的底层革命。《条例》称,公共数据是指本省国家机关、法律法规规章授权的具有管理公共事务职能的组织以及供水、供电、供气、公共交通等公共服务运营单位(以下统称公共管理和服务机构),在依法履行职责或者提供公共服务过程中收集、产生的数据。根据本省应用需求,税务、海关、金融监督管理等国家有关部门派驻浙江管理机构提供的数据,属于本条例所称公共数据。此外,《条例》拓展了公共数据的范围,确立了公共数据的发展管理规则。其中,《条例》第三十条表明了五种情形下,公共数据是禁止开放的。光电芯片厂商曦智科技展示的“光互连”方案,试图用光纤打破“三米魔咒”,将稳定连接距离扩展至数十米,从而让超节点不再被严格限制在单个机柜内,进而有机会向多机柜形态扩展。包括(一)开放后危及或者可能危及国家安全的;(二)开放后可能损害公共利益的;(三)涉及个人信息、商业秘密或者保密商务信息的;(四)数据获取协议约定不得开放的;(五)法律、法规规定不得开放的。王健进一步分析指出,整体上,《浙江省公共数据条例》认为对公共数据要以开放为主,但也强调对数据本身要做分类分级。

N |          图片来源:虎嗅拍摄          不过,光互连不是对铜互连的一次性替代,随着互连速率从过去的10G级别提升到100G、200G,铜缆能够稳定互联的距离越来越短,光互连因此从柜间继续向柜内甚至机内推进。具体来说,对于开放属性强的公共数据可以无条件开放,对于一些涉及到到国家安全和公共利益等的数据则被禁止开放。展台上一位曦智科技产品经理告诉虎嗅,电缆仍会长期存在,不同技术仍会在各自适合的场景中长期共存。         不仅如此,光互连方案还必须面对商业化是否可行的拷问。王健建议,由于运营数据会产生成本,可考虑引入市场机制。即在产生和搜集了公共数据之后,可在遵循“公开”“公平”“便民”和“开放”等原则下,授权其他主体进行运营。一位行业专家坦言,相比于技术尚不成熟、成本高企的光互连,传统的铜互连依然凭借极其低廉的价格和成熟的产业链占据主导地位。对于客户而言,业务真的需要如此大规模的超节点,答案或许是“不一定每个人都需要”。         这个答案直指要害,系统级路线在技术上能连起来只是第一步,商业技术落地才是关键。“政府也可以做自己的公平数据平台,但需更多考虑其公益属性。         超节点不是摆进机房就能跑          互连之外,系统级算力的另一道硬约束在机房。         一个完整的超节点设备造价可能高达数亿元,其功耗也往往会飙升至惊人的400千瓦。

o | 这种庞然大物看似是一台性能怪兽,但也是一个极其脆弱的系统。董龙飞表示,一旦某张卡、某个模组或交换节点故障,就会影响整套系统利用率。”王健指出。对于其他市场主体,授权获得公共数据后,经过再加工,形成数据的衍生品,对于加工后的数据收取合理的费用,王健认为应当给予支持。中国社会科学院大学法学院副教授韩伟从竞争角度进行数据流动的解读,他指出,竞争机制对不同数据类型的作用机理存在差异。

p | 这意味着,超节点必须同时解决卡间互连、链路可靠性、模组解耦、散热和软件协同等问题。         一位芯寒智能的工作人员从液冷角度给出了解读,过去业内常以单柜功率10至15千瓦作为是否考虑液冷的参考门槛。但如今,随着高性能AI服务器纷纷上柜,单柜功率轻而易举地突破了这一门槛。在高功率、高热流密度AI算力柜场景下,液冷正在从可选项变成越来越难绕开的工程选项。比如日本公正交易委员会2017年发布的《数据与竞争政策调研报告》便突出了个人数据、工业数据以及公共数据这三种数据类型的区分。较之工业数据和个人数据,促进公共数据的开放共享应是推动数据要素流转的主战场。芯寒智能是一家专注于智算中心相变液冷技术的创新企业。         但这并不意味着所有机房都会立刻转向液冷。

q | 在公共数据流通领域,韩伟认为首先需要关注行政垄断问题。

r | 但公共管理与服务职能,以及特定数据集之间的关联程度在个案中可能不易判断,需要深入分析。上述技术人员表示,对于大量传统的中小型数据中心而言,转向液冷意味着一场伤筋动骨的重构。02要点二:相关市场如何界定?在彧菡汽车的诉状中,将相关市场确定为中国大陆地区的二手车车险数据线上查询服务。根据《国务院反垄断委员会关于相关市场界定的指南》第四和五条,在市场竞争中对经营者行为构成直接和有效竞争约束的,是市场里存在需求者认为具有较强替代关系的商品或能够提供这些商品的地域。因此,界定相关市场须进行需求替代分析。它们不仅缺乏液冷所需的一次侧水机等基础设施,更面临一个致命的商业代价,就是改造机房往往意味着必须中断现有的服务器负载。对于绝大多数承担着核心业务的单位机房来说,拉闸停机是不可承受之重。         华为这次展示的Atlas 850E风冷超节点,正是试图降低传统机房改造门槛。彧菡汽车认为,因二手车交易市场位于中国大陆地域内,且二手车车险数据在中国大陆地域内,故相关地域市场是中国大陆市场。华为方面称,该产品无需对现有风冷IDC机房做液冷基建改造,标准机柜可直接上架部署,并支持单个风冷超节点扩展至96卡商用部署。试图在物理约束和改造成本之间搭建一条折中的道路。         这笔账最后会落到机房改造和运维上。王健告诉财经E法,二手车市场区域性特点明显,因此所涉数据具有很强的区域性,“柠檬查提供的是全国的二手车查询信息,全国的数据能否替代地方数据,需要进一步进行研究”。AI芯片的竞争早已不再局限于硅片本身。他还指出,柠檬查从2020年开始运营,这个新兴市场能否独立构成一个相关市场,需要检验。

s | 关键在于,与临近市场是否有替代性?如果没有,就是一个独立的相关市场。王健认为,目前来看,需要更多的信息才能判定此案所涉及的相关市场到底是一个全国性还是区域性的市场,是否还有其他的市场可替代,从而构成一个相关的市场,“现有的材料很难让人判断这个相关市场是否准确。它是一场包含电力供应、散热物理、机柜结构乃至旧基建运维在内的系统级重资产升级。”王健说。         芯片路线分化,买方只看算力账本          虎嗅在WAIC现场观察发现,国产AI芯片并不是一条路线。03要点三:是否具有市场支配地位?彧菡汽车的诉状认为,与车行在本案相关市场内具有市场支配地位。并从四个角度来论证,包括:数据直接来源于公共数据平台、迅速增长的市场份额、其他经营者进入市场的难度,以及二手车经营者对柠檬查的依赖程度。从数据来源上,诉状认为,与车行作为柠檬查车险数据查询服务提供者,由于其数据直接来源公共数据平台,故其天然在数据的数量和质量上具有其他竞争者所不具有的优势,形成事实上的垄断地位,即市场支配地位。

t | 此外,诉状还指出,二手车销售咨询量巨大,从咨询到销售转化过程中查询车辆车险数据的频次很高。诉状援引数据称,2021年8月,柠檬查上线短短8个多月,已有3000多家汽车经销商集团、二手车交易市场、二手车经销商和4S店与柠檬查正式签约,月查询量达4.2万余次。         摩尔线程强调兼顾渲染与仿真的全功能GPU;昆仑芯则认为GPU与AI专用芯片的传统边界正在变得模糊;创始人有着谷歌背景的中昊芯英押注在TPU架构芯片上,奕行智能则展示了RISC-V架构路线,这两家都在试图通过更低的功耗或定制化的架构打开市场缺口。         然而,在挑剔的买方市场面前,技术路线标签并不是最终语言。

u | 正如一位公有云服务商(百度云)一线人员所讲,客户在实际采购中根本不关心是什么架构,关心的指标只有具体卡型、价格、软件平台适配度,以及进入国产合规体系所需的工作量。         也就是说,软件生态仍是国产算力最难的一关。         更换底层硬件的“迁移”背后往往是一笔财务支出。但对有些芯片厂商来说,路线决定了其具备一定的竞争优势。2021年9月19日,柠檬查正式发布全新版本的《车辆历史报告》。2021年11月,上线不到一年时间,已有7000多家汽车经销商集团、二手车交易市场、二手车经销商和4S店签约使用柠檬查,且上述数据仍在不断刷新中,远超处于同一相关市场中的其他企业。

v | 上述昆仑芯工作人员表示,其从一开始就走兼容主流生态的路线,包括CUDA和PyTorch。原因并不复杂,就是客户原来大量模型和底层代码都跑在CUDA体系上。         但对于大多数不得不更换国产芯片的客户来说,迁移是一项繁重的“苦力活”。诉状称,在一个竞争格局日渐稳定的线上二手车车险数据查询市场,柠檬查存在强大的网络效应和的锁定效应,其他经营者难以进入相关市场。从满足二手车消费者对交易车辆历史信息详细了解的需求,二手车经营者仅能从柠檬查获取符合需求的二手车历史信息报告。但有接近与车行的人士告诉财经E法,他们并不认为自己在二手车交易市场占据市场支配地位。正如奕行智能技术与解决方案总监廖显所形容,从CUDA生态迁出,本质上是企业要扮演“搬运工”的角色,把模型和算子重新写到新平台上。这位人士称,2021年中国二手车交易量接近1800万辆,但是柠檬查总体查询量仅为30万次,“查询的次数远小于交易的次数,与车行怎么会有市场支配地位?”该人士说。

w | 04要点四:如何判定是否构成滥用市场支配地位?彧菡汽车在诉状中认为,与车行利用其在车险公共数据领域的垄断地位,实施了不公平高价行为,对非中国汽车流通协会会员实施差别待遇行为。诉讼称,公共数据不应当被用来牟取暴利。

x | 中昊芯英解决方案架构师刘辉也提到,开源模型迁移相对容易,但闭源模型仍可能需要额外开发算子。即便进行市场化,也应当是扣除成本之后的微利。

y | 与车行的数据直接来源于全国车险信息平台,而全国车险信息平台属于全国性的行业公共数据平台,其运营成本已经由国家财政覆盖,按照公共数据开放的原则,其应当免费或者象征性收取极低费用而对外开放。

z | 诉状还称,由柠檬查提供的相同车辆历史报告,却针对不同的车辆查询主体实施差别定价。

|          图片来源:虎嗅拍摄          百度云等头部云厂商正试图通过全栈自研体系,向市场兜售低代码改造成本的乐观愿景,但国产算力迁移不是一个统一答案,而是需要耗费巨大人力、时间和不确定性风险的定制化工程项目。如果客户对算力性价比进行考量,软件生态仍是最关键的判断依据。即对中国汽车流通协会会员收取28元/份报告,针对非中国汽车流通协会会员的其他合法二手车经营主体,收取32元/份报告。         国产卡最重要的是可用          WAIC展台上,一些产业热词很容易制造一种全面追赶的气氛。浙江杭州某二手车市场店主胡欢(化名)告诉财经E法,当地市场上查询历史二手车交易信息,根据车辆品牌不同,每次查询价格是15元至25元不等。王琼飞认为,柠檬查应当公布其成本和定价原因。但廖显给出的判断颇为冷静:国产AI芯片当前第一关是“可用”,“你不可用,其他都吹牛”。

| 王健分析指出,根据目前信息,无法判定其不公平定价是否具有合理理由,“现在无法判定,柠檬查从公共数据平台获得数据后,使用的是原始数据,还是进行了二次加工处理。”王健认为,如果做过一些加工整理、技术处理,收取费用是具有合理之处的。

| 在他看来,市面上仍有不少芯片停留在Demo阶段,一旦真正扔进客户的真实机房,就会暴露出无数的工程漏洞。王健进一步指出,从目前信息来看,此案中包括对相关市场、市场支配地位、滥用行为,以及是否具有排除、限制竞争效果等的各个环节,并不周严,可能还会面临一系列的争议和挑战。但王健表示,这起案件本身具有一定价值,“可能提供一个范例,公共数据的开放和利用到底应该怎么做,在何种情况下可能构成滥用。         当被问及客户是否关注单Token成本时,廖显回答,不能仅着眼于单卡吞吐量的提升,更应综合评估集群部署后的整体TCO(总拥有成本),其中芯片的供应稳定性与稀缺性导致的采购成本同样是不可忽视的变量。         不过,也有芯片行业人士的回答更直接,可用性尚未夯实的阶段,盲目在Token成本上与英伟达贴身肉搏,并不现实,因为“基本上没有办法跟它比”。         这并不是唱衰国产算力,而是说明国产算力目前更现实的任务,不用立刻以绝对成本优势击败英伟达,要先在供应链安全、本地部署、生态适配和特定场景中,建立“不被卡脖子”的防御性替代能力。         在这个过程中,客户更注重眼下的采购经济账,并不为“峰值性能”这样的期货概念买单。         昆仑芯工作人员告诉虎嗅,客户通常先明确自己要跑哪些模型,再拿这些模型到芯片平台上测试性能。只有性能过关后,才会进入价格和性价比讨论。对于大客户而言,还要继续考察持续稳定供货能力,“几万张卡、几千张卡,签完合同供不上货也不行”。         图片来源:虎嗅拍摄          这种务实导致了国产算力应用场景分化。

| 董龙飞把训练和推理的商业账拆得很清楚。也就是,训练对性价比容忍度相对更高,如果产品性能低10%,原本训练30天的任务多跑3天仍可接受;但推理不同,如果成本比别人高10%,商业上就很难竞争。         因此,对成本和并发更敏感的“推理场景”,正成为国产算力最关键的突破口,也是最残酷的考场。它不是让国产卡立刻在公共云低价Token服务里正面击败英伟达,而是先在场景中建立可用性。上述公有云工作人员也表示,目前市场对国产算力的最大需求,正来自模型部署后的推理服务。         这也最终决定了国产算力的核心客户画像。他们并不是那些资金紧绷、追求极致性能的大模型创业公司,而是合规、安全、本地部署和流程改造需求更刚性的国家队、运营商、金融巨头与交通电力系统。         华为昇腾在WAIC展示的行业案例,也说明行业客户衡量国产算力的方式并不是单卡峰值,而是业务指标。无论是在运营商基层流程中缩短的30秒,还是在证券行业客户服务或投资服务场景中降低80%的首次Token响应时延。这些行业客户衡量国产算力的标尺,从来不是被用来市场营销的单卡跑分,而是业务流程能否闭环、系统是否足够稳定,以及在关键时刻有没有人出来为故障兜底。         不是所有推理都要进云端          WAIC现场一个容易被亮点遮住的变化是,端侧算力也在形成自己的系统级路线。端侧是云侧的另一面,有芯片厂商工作人员跟虎嗅感叹,今年WAIC展会现场已经三七开,三成是端,七成在云。

|          “未来AI的发展一定是端云协同的”,后摩智能联合创始人、产品副总裁信晓旭对虎嗅表示,以情感陪伴机器人等新兴硬件为例,用户与AI的私密对话天然排斥将数据上传至中心化的云端,而低延迟的交互与24小时不间断的在线需求,更适合在本地完成推理。         安谋科技NPU产品线负责人舒浩表示,端侧AI不是云端AI的缩小版,而是由功耗、实时性、软件、数据和可靠性共同定义的新计算市场。他的同事、CPU产品总监朱晓鸣指出,端侧设备无法像数据中心一样用高功耗和大规模散热换性能。         为了突围,安谋科技正在其CPU、NPU以及存内计算之间进行精密的物理空间调度,试图在有限的功耗和面积下,死磕AI推理的效率极限。         更有野心的是,端侧正在复制云端的“系统集成”策略,有的厂商试图将智能体直接封装进桌面设备中。此芯科技在其最新发布的AGX智能体计算平台上,就展现出了明显的“软硬一体化”企图,向下连接CPU、GPU、NPU和扩展AI卡,向上提供Agent OS、模型接入和行业应用。         摩尔线程也在把算力向端侧延伸。

| WAIC上,这家展品显示,AIBOOK定位为面向开发者的个人智算平台,预装OpenClaw智能体,AICUBE则定位为家庭AI中枢,整合AI PC、AI NAS和智能体能力。

|          这说明,推理时代的算力不会只往云端集中,也会向端侧重新分配。云端负责大模型训练、高并发服务和复杂任务;端侧负责隐私、低延时、本地数据和持续在线。两条路线不是替代关系,而是分工关系。         突围,还是绕远?          图片来源:太初元碁          回到最初的问题,国产算力的“超节点”热的根源。         答案可能并不是二选一。它当然是一种突围。先进制程和高端GPU供应受限后,国产AI芯片不能只等单卡性能追平。

| 通过互联、统一内存、超节点、软件栈和系统集成,把更多“不完美”的芯片组织成可用算力,是中国AI算力产业必须走的一步。         然而,它也确实是更重的一条路。因为系统级的路线从来没有消除问题,它只是将原本属于微观层面的半导体瓶颈,重新分配到了更宏观、也更复杂的商业世界中。

|          在这种路线下,单卡性能的不足必须依赖成百上千张卡的协同来弥补,但这随即把网络拓扑、信号时延与整套系统的可靠性推向了新的物理极限。当庞大的卡群终于被塞进算力柜时,高密度的算力又立刻转化为功耗与散热压力,将电力扩容、液冷改造的代价,变成了必需的成本。         硬件的整柜交付也远非终点,隐藏在冰山下方的CUDA软件迁移、算子重写以及框架适配,紧接着变成了一笔企业无法赖掉的工程支出。即使这些障碍被逐一扫除,厂商们最终仍要向客户回答一个本质的问题,这套系统是不是比原先方案更好。         这就是系统级突围的现实,它解决了一部分问题,也制造了新的复杂性。WAIC展台上的参数再惊艳,也要看下一场发生在客户机房里的硬仗国产AI算力谁能突围。

打赏
神奇推荐位
  • 男女纠察队

    灯盏香客 / 著

    “衡大叔,大家都说三十来岁正是男人如狼似虎的年纪”“所以呢?”“我觉得这句话说得很对...

  • 我的团长我的团

    浮梦公子 / 著

    其实这不过是一场由腹黑皇帝和狡黠恶女定下的一个约盟继而引发的一个故事!人人皆道,将军...

  • 龙的传人

    暮夜寒 / 著

    【种田】+【空间】+【温馨】+【致富】+【虐渣】被炸成灰灰的莫颜重生到了古代,成了正...

  • 神偷奶爸3

    悠然世 / 著

    本书出版名《美人思无邪》,天猫购买地址=a1z10.1-b.w11350767-15...