Equinix联合英伟达、Together AI推分布式推理平台
2026年9月2日,美国红木城,Equinix 宣布大幅扩展与 NVIDIA 的长期合作,推出面向全球企业的分布式 AI 推理项目 Equinix Inference Exchange,同时与 Together AI 建立新的合作关系。该方案在 Equinix 首届客户与合作伙伴大会 Equinix Horizon 上发布,同场还推出了 Equinix Fabric One。
三层分工:机房、算力、模型服务
按官方与 StorageReview 的说明,整套方案在物理设施、算力与软件三层做了明确切分。
Equinix 负责底层的物理与互联基础:供电、先进液冷、日常机房运维,以及通过 Equinix Fabric 提供的到网络、公有云与 SaaS 平台的私有互联。
NVIDIA 提供算力与验证层,即经过验证的企业参考架构(Enterprise Reference Architectures)与 AI 基础设施,目标是提高 AI 工厂的 token 吞吐、降低单次查询的推理成本。
Together AI 提供推理服务软件层,支持 200 多个开源模型,并同时支持共享多租户环境与独占单租户拓扑——前者面向通用场景的算力效率,后者面向对隔离与容量确定性有要求的负载。
据 CNBC 报道,Together AI 将作为记录卖方(seller of record)向使用该项目的终端客户计费,项目预计在第一季度可用。
为什么大家开始抢“推理放在哪”
Equinix 的论点是:当 AI 在模型、供应商与地域之间横向扩展时,推理运行在什么位置,已经从技术细节变成战略问题,因为它同时决定性能、成本与合规姿态。
这个判断在企业侧的体感很直接。训练可以集中在少数超大集群里完成,推理却必须贴近数据、用户与业务应用——延迟直接影响体验,数据跨境直接影响合规,而调用量一旦上规模,单位 token 成本就会主导整体账单。
Equinix 的底牌是其互联网络:目前在 77 个都市拥有 280 多个数据中心、230 个云接入点、10,500 多家互联企业。官方还提到,前十大 AI 模型提供商中有 8 家、前十大 AI 云提供商中有 9 家已在 Equinix 部署。
Equinix CEO 兼总裁 Adaire Fox-Martin 表示,企业今天做出的基础设施决策将在未来数年定义其竞争位置。NVIDIA 全球 AI 云与基础设施生态副总裁 Raj Mirpuri 则称,该项目把 Equinix 的互联平台转化为面向 AI 推理的全球化织网。
消息公布当日,Equinix 股价上涨约 2%。
这类"推理即服务"方案的出现,实际上把一个问题摆到了所有企业面前:算力到底该放在离数据近的地方,还是离便宜的地方近?
我们的观察是,多数中小企业并不需要一开始就做这道题。更常见的情况是先把结构分清:
先分清训练、推理与常规业务。训练需要高密度 GPU 集群与高速互联,推理需要低延迟与稳定吞吐,而 Web、数据库这些常规负载对 GPU 完全没有需求。把它们混在同一批高价机器上,是最常见的成本浪费来源。
推理节点按用户分布选址,而不是按价格选址。如果用户主要在东南亚,把推理放在北美再回传,省下的机器成本很可能被延迟带来的转化损失抵消。
关注节点间网络与显存,而非只看 GPU 型号。同样的卡,在不同的互联架构与存储吞吐下,实际可用性能差异很大。
需要弹性 GPU 加速能力的用户,可参考 SellBGP 的 香港 GPU 服务器,部署于香港 T3+ 数据中心,搭载 GeForce RTX 系列计算单元,适用于实时渲染、深度学习与 HPC 场景;对存储吞吐要求较高的推理与数据预处理环节,可搭配 高存储服务器。
声明:本文由SellBGP编辑部依据主办方及公开渠道信息独立撰写。转载请注明出处。