AI算力重心转向推理:2027年占比将超70%

在2026年6月25日举行的IDC中国ICT市场趋势论坛上,IDC中国副总裁周震刚指出,到2027年,推理任务将占据智能算力需求的70%以上,边缘基础设施的增长速度将超过核心数据中心。他还预测,全球加速计算服务器市场规模将在2029年突破1万亿美元,年复合增长率超过30%。这一判断标志着AI产业竞争逻辑正在发生根本性转变:企业优势不再单纯依赖峰值算力规模,而在于能否以最低的Token成本将人工智能能力转化为可持续的商业价值。

推理主导:智能算力需求结构的根本性迁移

然而,随着主流大模型架构趋于稳定、开源模型生态成熟,以及企业级AI应用从“技术验证”迈向“规模化部署”,算力消耗重心正快速向推理端倾斜。

推理任务具有高频次、低延迟、分布广的特征,其算力需求与用户活跃度直接挂钩。一旦模型上线服务,每一次用户交互(如搜索、对话、图像生成)都会触发一次或多次推理运算。相较之下,训练属于阶段性、集中式的资源投入。因此,当AI产品进入商业化运营阶段,推理算力的总消耗量自然会迅速超越训练。

IDC预测到2027年推理占比超70%,意味着当前以训练为中心的算力建设范式已不可持续。这将倒逼芯片设计、服务器架构、软件栈优化乃至云服务定价模式全面重构。例如,专为推理优化的低功耗AI芯片(如NPU、TPU变体)可能获得更大市场份额;混合精度计算、模型量化、动态批处理等推理加速技术将成为基础设施标配。

边缘崛起:算力部署从中心化向分布式演进

与推理需求激增同步发生的,是边缘基础设施增速将超过核心数据中心。这一趋势背后有三重驱动力:

其一,实时性要求。自动驾驶、工业质检、AR/VR等场景无法容忍云端往返延迟,必须在终端或近端完成推理。其二,数据合规与隐私。医疗、金融等领域倾向于在本地处理敏感数据,避免上传至公有云。其三,带宽成本。

因此,未来三年,边缘AI服务器、智能网关、车载计算单元等设备将迎来爆发式增长。产业链上游的芯片厂商(如英伟达、AMD、寒武纪、地平线)需调整产品路线图,强化边缘推理芯片的能效比与软件支持;中游的服务器制造商(如浪潮、戴尔、HPE)则需开发模块化、可扩展的边缘机柜方案;下游的电信运营商和云服务商(如中国移动、AWS、Azure)正加速部署边缘节点,构建“云-边-端”协同的算力网络。

值得注意的是,边缘并非完全取代中心云,而是形成分层架构:复杂模型训练与版本迭代仍在中心完成,轻量化模型部署至边缘执行高频推理。这种分工将重塑数据中心资本开支结构——超大规模数据中心建设放缓,而分布式微型数据中心(micro data center)投资加速。

成本效率成为新竞争壁垒:Token经济学驱动商业闭环

周震刚强调,“关键不再是拥有最强的算力,而是如何以最低的Token成本将AI转化为可持续的业务能力”。这一观点揭示了AI产业从“军备竞赛”转向“精益运营”的拐点。

Token成本涵盖模型调用所需的计算资源、电力、网络及软件许可费用。因此,企业开始系统性优化全栈效率:从选择更小但高效的模型(如Mistral、Phi系列),到采用缓存机制减少重复计算,再到利用批处理合并请求以提升GPU利用率。

这一逻辑正在影响资本市场对AI公司的估值框架。具备高效推理引擎和垂直场景优化能力的企业(如提供行业专用AI助手的公司)可能获得更高估值溢价。

同时,云厂商的定价策略也在调整。AWS、阿里云等已推出按Token计费的推理服务,而非传统的按GPU小时收费。这种模式将成本透明化,促使客户主动优化模型使用效率,也倒逼云服务商持续降低底层基础设施成本。

资产配置启示:关注推理芯片、边缘硬件与能效软件

对全球投资者而言,这一结构性转变带来三条明确的投资主线:

第一,推理专用芯片与加速卡。尽管训练芯片仍具战略价值,但推理市场的规模效应和多样化需求将催生更多细分机会。

第二,边缘计算基础设施。电信设备商与IT硬件厂商的跨界合作项目值得跟踪。

第三,AI编译器与推理优化软件。模型压缩、量化、编译工具链(如TensorRT、OpenVINO)虽不直接产生营收,却是降低Token成本的关键使能层。拥有自主软件栈的公司将在长期竞争中建立护城河。

需警惕的是,若全球AI应用落地不及预期,推理需求增长可能放缓,导致边缘投资过热。此外,各国对AI芯片出口管制政策若进一步收紧,可能扰乱供应链,推高硬件成本,抵消部分效率 gains。

综上,IDC的预测不仅是一个技术趋势判断,更是对AI产业价值链重心迁移的确认。未来三年,谁能以更低的Token成本、更快的响应速度、更广的部署覆盖将AI嵌入真实业务流程,谁就将主导下一阶段的市场格局。这一转变对硬件、软件、云服务及终端应用企业均构成深远影响,值得跨市场投资者系统性重估相关资产的长期价值。

发布于
免责声明:市场有风险,投资需谨慎,本文不构成投资建议
BiyaPay
BiyaPay 让数字货币流行起来
BiyaPay的电报社区BiyaPay的Discord社区BiyaPay客服邮箱BiyaPay Instagram官方账号BiyaPay Tiktok官方账号BiyaPay LinkedIn官方账号
规管主体
BIYA GLOBAL LLC
美国证监会(SEC)注册的持牌主体(SEC编号:802-127417);美国金融业监管局(FINRA)的认证会员(中央注册登记编号CRD:325027);受美国金融业监管局(FINRA)和美国证监会(SEC)监管。
BIYA GLOBAL LLC
在美国财政部下设机构金融犯罪执法局(FinCEN)注册为货币服务提供商(MSB),注册号为 31000218637349,由金融犯罪执法局(FinCEN)监管。
BIYA GLOBAL LIMITED
BIYA GLOBAL LIMITED 是新西兰注册金融服务商(FSP), 注册编号为FSP1007221,同时也是新西兰金融纠纷独立调解机制登记会员。
©2019 - 2026 BIYA GLOBAL LIMITED