2026.09.30 | AC | Datacenter | China IDC Expert: Agent-Driven Expansion
原标题:IDC调研_Token_Agent需求爆发驱动IDC持续扩容,GPU_CPU双线增长及算力瓶颈,IDC选址迁移-聚焦腾讯_阿里_百度等
摘要
1、Token/Agent需求爆发驱动IDC持续扩容; 2、GPU/CPU双线增长及算力瓶颈; 3、IDC选址迁移。
以下为专家观点:
当前IDC行业的整体发展情况如何,例如后续规划、租赁价格、能评指标的紧张程度以及是否存在涨价预期?
所有IDC的采购与建设都服务于模型和线上业务,过去两年是资源建设的高峰期,尤其在2023年增长曲线较为陡峭。当前共性的IDC需求本质上是互联网模型业务发展所带来的资源增量扩容。从国内市场来看,IDC行业呈现两极分化趋势。第一类是围绕一线城市,如北上广深等人口稠密地区,扩容节奏较快。第二类是向偏远地区发展,例如内蒙古,吸引了中金数据、中联数据、光环新网、润泽科技等公司的布局。
模型和推理业务的增长如何具体驱动IDC需求的扩张,尤其是在GPU和CPU服务器层面?
核心驱动力在于模型推理及衍生Agent应用的需求增长。预计未来两到三年,模型和推理的总量将有十倍的扩容量。以公司为例,其日均token消耗量和用卡数量在2024年至2026年这三年间基本都实现了十倍的扩容。具体数据来看,2025年1月的日均token消耗量约为4到5万亿,而到2026年1月已增长至50万亿,一年内增长了十倍。截至2026年9月,日均token消耗量已达到350万亿至360万亿,预计到2026年底将达到600万亿左右。基于此,预计到2027年,整体大盘的token消耗量可能在现有基础上再增长十倍。IDC的需求相应地来自GPU服务器和CPU服务器两个方面。在GPU服务器方面,若日均token消耗量从当前的300多万亿增长至明年的3,000万亿,所需的GPU芯片数量也将大幅增加。目前,为支撑330万亿至350万亿的日均token消耗,已使用了160万张GPU芯片。尽管通过profile、decode工程优化以及在线调度和工程仿真等技术手段可以提升算力效率,使得算力需求不会同比增长十倍,但预计用卡量仍需在现有基础上增加两到三倍。在CPU服务器方面,其增长和扩容速度超出预期。过去,行业普遍认为模型训练和推理主要依赖GPU,对CPU的重视程度不足。因此,许多扩容项目,如在内蒙古与中联数据、首都在线、光环新网等合作建设的数据中心,都以高密机房为主,主要用于部署GPU。然而,随着Agent等多轮调度应用的发展,CPU服务器的需求显著增长。在数据中心内部,GPU服务器集群与CPU服务器集群之间的“东西向流量”变得愈发重要,这表明标准功耗机房的需求同样在快速提升。因此,在关注IDC行业时,不应只聚焦于液冷、高功率密度等用于GPU的设施,CPU带来的增量同样值得关注。
在AI模型推理和Agent调度的背景下,大型互联网公司在IDC选址上有哪些新的趋势和考量,这与过去移动互联网时代有何不同?
当前IDC的选址逻辑与移动互联网时代存在显著差异。过去十年,移动互联网业务,如视频直播和点播,对时延要求极高,因此IDC选址强调“就近”原则,倾向于部署在人口稠密的地区以降低物理时延,否则可能出现音画不同步等问题。然而,AI模型推理业务改变了这一格局。模型推理任务,例如一个可能运行10分钟到半小时的办公任务,其请求交互轮次多(可能达到20、50甚至100轮),整个任务时长被拉长,用户更关注最终产出的结果而非最快的回传速度。这种业务形态的转变,使得对IDC的物理位置时延容忍度更高。因此,IDC的采购选址不再局限于人口稠密区,而是开始向内蒙古、安徽等非主流地域迁移。近期公司的招投标中,内蒙古的占比正在增多,而环京区域的比例则在缩小,这正体现了IDC选址的这一新趋势。
针对AI业务负载,当前IDC选址的核心决策因素具体包括哪些?以内蒙古为例,其具备哪些独特优势?
当前IDC选址的核心决策因素主要有三点。首先是可扩容性与绿电政策,即选址地的土地资源能否支持未来扩容,以及能否提供充足的绿电和能耗指标。其次是成本与政府支持,重点关注电力成本和地方政府的补贴政策。最后是网络条件,虽然对时延要求放宽,但基础网络不能太差。内蒙古在这些方面具备综合优势。第一,作为自治区,其地方政府在电力成本和招商引资政策上拥有高度自主权,能够提供非常有吸引力的政策支持,这是在北京、上海临港等地区无法获得的。第二,内蒙古土地成本低,为未来大规模扩容提供了便利条件。第三,运营商在过去两到三年间,已将北京到内蒙的骨干环网升级改造,如同修建了“双向八车道”的高速公路,大幅提升了链路流量和网络质量,解决了网络瓶颈问题。
对于IDC供应商,公司这类大型客户通常采用什么样的合作与定价模式?
在与IDC供应商合作时,通常会采用一种带有保底承诺的定价模式。以一个具体的例子来说明,如果协议约定租用100个机柜,会承诺一个保底使用率,比如60%。这意味着无论这60个机柜是否被实际使用,都会支付相应的费用。超出保底数量的部分,则按照实际使用量进行计费;若使用量低于保底数量,则仍按保底数量付费。这种模式为供应商提供了稳定的收入预期。
公司未来两到三年的IDC建设和扩容计划是怎样的?
未来两到三年,公司在国内和海外的IDC建设与扩容将持续进行。根据2026年9月启动的三年预算规划初步需求提报来看,无论是用于AI的高定机柜还是用于普通计算的X86算力中心,整体IDC规模和服务器绝对数量都将继续扩张。在具体的增长规模上,2025年全年新增的IDC功率大约为0.8吉瓦,到2025年底,全球(国内及海外)累计存量功率预计在4.2至4.5吉瓦之间。
公司在2026年的IDC招标策略、规模以及与供应商的合作模式是怎样的?
2026年的IDC招标策略核心是“跑马圈地”,即优先拿到能耗指标和土地资源。公司要求供应商承诺能够在内蒙古等地区获得所需资源,并接受16至17个月的交付周期。合作模式上,公司利用自身信誉为供应商背书。供应商,特别是地方城投公司或缺乏资金的央国企,可以凭借与公司签订的盖章合同向银行获取贷款,并以此为基础向地方政府申请绿电和能耗指标。这种模式下,将需求、资金(通过银行)和政府资源有效整合,确保IDC扩容项目得以实施。在规模方面,2026年计划扩产至少1.5GW,其中1GW为当年需投入使用的产能,另外0.5GW的合同则主要用于帮助供应商融资和获取资源。此外,近期可能还会有一个约1GW的新增招标计划。
公司2026年的IDC招标为何出现延期,以及在扩容决策中面临哪些不确定性?
原定于2026年8月底的招标计划已经推迟,主要原因在于公司内部尚未精确锚定最终所需的具体规模。当前面临的挑战是,如果扩容规模过大,可能导致资源闲置和成本浪费;而如果扩容不足,则无法满足未来的业务需求。这种不确定性不仅源于IDC规划本身,更是一个系统性问题,与上游芯片供应链的瓶颈紧密相关。
从公司的视角来看,当前AI算力扩张的主要瓶颈是IDC还是芯片供应?具体情况如何?
当前算力扩张的核心瓶颈在于芯片供应,而非IDC。真正的制约因素在于上游的GPU服务器,尤其是HBM的供应不足。尽管公司为GPU服务器采购规划了超过2000亿元的预算,但由于芯片供应问题,许多预算可能无法完全执行。即使计划在2027年将给寒武纪的订单增加,对方能否足量交付仍存在很大的不确定性。因此,根本问题在于即使建好了数据中心机柜,也缺少足够的服务器来填充。
在IDC选址方面,目前更倾向于哪些区域?
选址策略依据应用场景而定。对于模型批量处理(跑批)这类计算密集型任务,首选内蒙古,同时也在考察新疆。这些地区在电力、土地和能耗方面具备优势,且地方政府的招商引资政策更为积极灵活。对于需要靠近用户的业务,则会在人口稠密的地区如无锡、江苏、浙江等地进行部署,广州惠州也在考虑范围内。总体而言,北方如内蒙古、新疆等地因政策灵活,更容易推进项目;而南方地区由于自身经济发达,合作的难度相对更高。
在内蒙古区域内,对于具体的选址地点是否有特定偏好,例如和林格尔或太仆寺旗等地?
在内蒙古自治区内没有特定的地点偏好。只要候选地的气候条件(如温度)相差不大,且地方政府能够批准能评,项目就可以落地。选址的演变路径是从早期的河北张家口逐步迁移至内蒙古,例如乌兰察布等地,主要是因为内蒙古地方政府在政策上表现出更高的灵活性和可扩展性。
既然公司有自建IDC的能力和计划,为何仍需要租赁第三方IDC服务?
公司确实在逐步增加自建IDC的比例,自2022年便开始推动自建项目。然而,完全自建并不可行。一方面,对于临时的扩容需求,租赁是更灵活高效的选择。另一方面,考虑到地方性的复杂因素,在某些情况下自建项目的推进速度可能更慢,适度让渡部分项目给合作伙伴是更务实的策略。因此,公司采取自建与租赁相结合的模式,根据具体情况灵活决策。
当前IDC市场的需求状况如何?对于润泽科技、秦淮数据这类拥有能评的数据中心服务商,其业务前景怎么样?
当前IDC市场需求非常旺盛。拥有能评的数据中心服务商,基本上能在一年内完成建设并成功租出。以腾讯为例,其在2025年曾表示算力充足,但进入2026年,其在市场上表现出极强的扩容需求,甚至不惜加价获取资源,主要需求来自小微业务、会员业务以及腾讯云等。腾讯在选择IDC地点时,同样会考虑人口密度、综合地价和地方引资政策等因素,但作为南方企业,其在南方的建设项目相对更多。
在公司、阿里、腾讯这三家主要客户中,哪家在租赁IDC时给出的商务条件更好?另外,在内蒙古地区的主要客户有哪些?
腾讯给出的商务政策相对最优渥,价格稍高一些。公司和阿里的报价则大致相当,但整体而言,这几家大厂对价格的控制都非常严格。在内蒙古地区,客户群体非常多元,除了公司、阿里、腾讯外,还包括百度、快手、金山云等,市场非常活跃。
公司原计划于2026年8月底进行的招标,其内部需求主要源自哪些业务?
此次招标的需求主要来自模型推理、线上业务仿真以及火山引擎的租赁业务。具体来说,公司的业务需求分为几个层面:底层的数据和供应链需求,主要用于模型训练;中间层是方舟平台的模型推理需求和火山引擎的API接口业务;上层则是具体的业务应用,如豆包、扣子等AI应用,以及抖音、懂车帝等原有业务的搜索推荐功能,这些也需要GPU支持;最后是火山引擎的云业务,需要对外出租算力。
历史上获取的能评有效期通常是多久?对于持有存量能评但希望新建数据中心的项目,是否需要重新申请窗口指导?
历史能评的有效期据信为五年。根据当前政策,即使持有存量能评,若要启动新的数据中心建设,也必须重新申请并获得窗口指导。
在进行IDC招标时,除了价格因素,还会考虑哪些其他条件?
招标过程是综合性的,除了价格,地理位置等因素也会被纳入考量。公司会进行非常精细的成本和利润测算,甚至比供应商自身更为清楚。因此,供应商期望通过公司的项目获取高毛利是不现实的,除非在特定情况下公司没有其他选择。与公司、阿里等大型客户合作,可以为供应商提供稳定的业务基本盘,但难以获得超额收益。
对于服务于其他小厂商的IDC供应商,它们是否也能通过获取客户合同来加速窗口指导的审批流程?
小厂商的供应商在推动审批流程时,其顺畅程度通常不及与公司、腾讯、阿里等大厂合作的供应商。只要项目具备真实需求,且公司本身规模不是过小,政府在一定程度上仍会给予支持和批准,但支持力度和审批效率通常无法与大厂相比。
对于本地部署的端侧AI一体机,其市场需求和应用场景是怎样的?
端侧AI一体机的市场需求取决于其模型场景的覆盖能力,例如3B、7B或13B等参数规模的模型。尽管市场上有观点认为,出于企业信创和数据安全本地保存的需求,企业有动力购买此类一体机,但这种说法并不完全成立。端侧模型能解决的问题终归有限,因为业界普遍认知是模型参数越大,性能越强。目前,通过AICC(机密计算)和两端非对称加密技术,可以在保证数据安全合规、不出域的前提下,让企业使用云端的大模型服务。许多过去坚持私有化部署的“顽固”主体,如部分金融机构、央国企,现在也开始接受并使用公有云服务。因此,端侧部署和云端服务是并行不悖的。端侧会占据一部分市场,而云端的业务量也在增加。目前AI模型的整体市场渗透率仅为5%至7%,未来还有巨大的增长空间,许多应用场景尚待开发。
如果客户同时使用端侧AI进行本地处理并采购公有云服务,这两者之间的数据是否无法交互?
这种看法是不准确的,端侧与云端的数据可以实现交互。在一个工作流中,例如一轮快速对话或一个意图请求,任务可以在本地和云端分别处理,处理后的数据再二次回传,整个过程不会受到影响。即使是涉及几十甚至上百轮的agent调度,数据的共通性和时延也都是可以管控的。目前的技术方案已经能够支持这种混合架构,限制因素主要在于企业传统的、较为保守的思想观念,而非技术本身存在不可逾越的障碍。事实上,许多传统的央国企已经开始采用公有云服务,并且中标量相当可观。后续会有越来越多的公司采用公有云与私有化部署双向并行的成熟架构。
桌面级的端侧AI产品是否有市场?
桌面级端侧AI的市场空间相对较弱。这类产品虽然在分工和合规方面有一定作用,但端侧模型能处理的问题终归有限,大部分任务仍需在云端处理。以广州市政府为例,其采购的WorkBuddy解决方案,其资源就部署在腾讯的CSIG云上,而非本地私有化部署。此外,从资源获取角度看,企业在本地部署也面临挑战。即使是公司这样的大厂,采购GPU也需要十几到二十个周期的等待时间,同时还要面对价格上涨和资源短缺的问题。因此,企业自行采购硬件进行本地部署的必要性并不大。
未来企业对于AI部署的思路是否会从私有化转向公有云?
目前已经出现了向公有云转变的趋势,公有云的渗透率正在增加。过去许多企业坚持完全私有化,但未来采用公有云的比例会从10%、20%逐步提升至30%甚至50%。这种转变的背后,一方面是技术上的突破,AICC等技术可以在安全上进行校验,保证数据不泄露。另一方面,随着新生代在企业中逐步掌握话语权,他们对于技术的接受度和思维方式与传统坚持私有化的管理者不同,这将加速公有云的普及。因此,未来企业会逐步放开,更多地采用公有云服务。