2026年秋天,一家自动驾驶公司的算法工程师张磊面临一个典型困境:训练大模型需要 2000张GPU 跑三周,但公司自建集群只有800张,且型号混杂——A100、H100、国产加速卡各占三分之一。过去,他只能排队等资源,或者花高价租公有云。
现在,他打开一个调度平台,输入任务需求。系统在 30秒内 自动将任务拆解,一部分跑在本地H100集群,一部分调度到西部某智算中心的国产卡上,还有一部分在夜间低价时段涌入公有云。整个过程像用电一样——他不需要知道电来自三峡还是火电厂,只需插上插头。
这背后,就是 多源异构算力调度 正在推动的“算力水电化”。
算力资源从来不是整齐划一的。一个典型智算中心里,可能同时运行着 5种以上 的加速卡:英伟达的A系列、H系列,华为昇腾,寒武纪,以及各类FPGA。它们的指令集不同、显存带宽不同、互联协议不同。
更麻烦的是,算力还分布在不同的“池子”里:企业自建机房、边缘节点、公有云、甚至合作伙伴的闲置资源。这些资源分属不同管理域,网络延迟从 0.1毫秒到50毫秒 不等。
传统调度器面对这种局面基本“抓瞎”。它只能按预设规则分配,比如“GPU任务优先给A100集群”。但一旦A100排队过长,后来任务就会阻塞,而其他类型的卡却在闲置。资源利用率往往不到40%。
核心矛盾在于:算力需求是标准化的(跑一个PyTorch任务),但算力供给是高度碎片化、异构化的。 中间缺少一个“翻译层”和“动态匹配器”。
解决思路分三步:抽象、感知、决策。
第一步:算力抽象。 把每张卡的计算能力、显存、互联带宽、甚至能耗,统一映射为标准化“算力单元”。就像把不同电压、频率的电流统一为220V/50Hz。这一步依赖对硬件底层的深度适配——需要针对每种加速卡写驱动层,暴露统一的API。
第二步:实时感知。 调度系统需要知道:当前哪些卡空闲?网络拥塞程度?任务对延迟的敏感度?这需要 秒级甚至亚秒级 的监控数据采集。一个万卡集群,每秒产生的监控指标超过 100万个。
第三步:智能决策。 这是最核心的。传统调度算法(如YARN的公平调度)基于规则,无法处理异构。现在主流方案是 强化学习+图神经网络:把任务和资源都表示为图节点,用GNN预测不同分配方案的完成时间,再用RL动态选择最优策略。
实际效果如何?某头部云厂商公开数据:引入智能调度后,异构集群整体利用率从38%提升到67%,大模型训练任务平均等待时间缩短 52%。
但挑战依然存在。跨域调度的网络开销、数据隐私、计费结算,都是硬骨头。尤其是当任务需要跨数据中心迁移时,TB级模型参数的传输 可能抵消调度带来的收益。
吉之星的核心能力,恰恰卡在了这个赛道的“物理层”与“调度层”交界处。
我们在半导体洁净室领域积累的 微环境控制技术,直接迁移到了智算中心的散热与能耗管理。一张H100满载功耗 700W,一个万卡集群就是 7MW——相当于一个小型工厂。如果散热不均,局部热点会导致降频,调度再智能也白搭。吉之星的数字孪生系统,能实时模拟每张卡的发热曲线,提前 15秒 预测热点,动态调整风扇和液冷流量。这为调度系统提供了稳定的“物理底座”。
更关键的是,我们自研的 多源异构适配中间层,已经完成对 7种主流加速卡 的驱动级适配。这意味着,调度器不需要关心底层是A100还是昇腾,只需调用吉之星的统一接口。在某国家级智算中心项目中,我们帮助客户将 3个不同厂商、5种型号 的算力池整合为单一逻辑集群,跨域任务迁移成功率达到99.2%。
我们还把数字孪生用在了调度预演上。每次下发大规模任务前,先在虚拟环境中模拟一遍,预测完成时间和资源冲突。实测显示,这能减少 约30%的调度抖动——避免任务频繁迁移导致的性能损失。
算力“水电化”的终极形态,是用户完全无感。你不需要知道任务跑在哪张卡上,就像不需要知道电来自哪个电厂。但实现这一点,需要三个条件:接口标准化、调度智能化、结算统一化。
目前,接口标准化还在早期,各家加速卡厂商的驱动仍不兼容。调度智能化已见成效,但跨域学习的泛化能力不足——在一个集群训练好的调度模型,换到另一个集群可能失效。结算统一化更是涉及商业模式的深层变革。
吉之星的选择是:先做深物理层,再做透适配层,最后开放调度层。 我们相信,没有稳定的散热和能耗管理,没有对异构硬件的深度理解,任何调度算法都是空中楼阁。
未来三年,随着国产算力占比提升,多源异构调度将从“可选项”变成“必选项”。谁能把碎片化的算力真正整合成“一张网”,谁就能定义下一代算力基础设施的规则。
算力如水,调度如渠。渠成,水自到。