扩展AI算力:灵活的服务器架构,满足不断演进的AI工作负载需求

前言
AI工作负载持续增长,带动市场对高性能计算、内存及系统连接能力的需求呈指数级增长。为满足这些需求,企业需要具备扩展能力的服务器架构,在资源利用率、部署灵活性与总体拥有成本(TCO)之间取得平衡。
AEWIN通过模块化设计与可配置的硬件架构,提供支持多维度扩展策略的服务器解决方案,帮助客户灵活调整AI基础设施,以应对不断变化的工作负载需求。
AI 扩展策略
从服务器层面来看,AI基础设施可以通过不同维度进行扩展,包括优化单台服务器的配置、提升单一系统的计算资源,以及连接多台服务器以构建更大规模的集群。以下对比三种核心扩展策略:Scale In、Scale Up 和Scale Out。
| 扩展策略 | 主要目标 | 关键考量 |
|---|---|---|
| Scale In(服务器内部资源优化) | 优化单台服务器内部的资源配置 | 组件集成、根据工作负载需求进行配置、总体拥有成本(TCO)优化 |
| Scale Up(纵向扩展) | 提升单台服务器的计算能力 | CPU与内存扩展、通过PCIe扩展GPU、CXL内存扩展 |
| Scale Out(横向扩展) | 通过多台服务器与机架扩大集群规模 | 高速网络接口卡(NIC,OCP 3.0/PCIe)、节点间互连、机架级集成 |
Scale In:优化高密度服务器设计
Scale In侧重于优化服务器内部的资源配置与组件密度。根据实际工作负载需求,合理配置CPU、内存、存储设备及丰富的I/O接口,有助于企业充分发挥单台服务器的性能,并加快系统部署。
此外,采用模块化架构能够简化系统集成流程,降低整体建设与运维成本,进一步优化总体拥有成本(TCO)。
Scale Up:最大化单机计算能力
Scale Up通过纵向扩展提升单台服务器的处理能力与数据吞吐量,以应对高强度的计算工作负载。根据不同平台的设计,可以通过升级至更高阶的CPU型号、增加GPU加速器、引入高速内存技术(包括 CXL 3.0),以及采用超高速连接技术,满足高性能AI应用的需求。
Scale Out:扩展多服务器集群
Scale Out通过高速网络连接多个服务器节点,以横向扩展的方式提升整体计算能力。高吞吐量的网络接口卡(NIC)与先进交换机,能够促进不同节点及机架之间的高效通信,支持大规模 AI 集群的运行。
随着部署规模不断扩大,网络带宽、传输延迟及流量管理也成为保障整体系统性能的重要考量。
AEWIN 助力AI基础设施扩展
通过灵活的模块化设计实现 Scale In
AEWIN采用符合OCP DC-MHS架构设计理念的模块化服务器设计,提供灵活的配置选项,加快定制化开发并简化部署流程。通过在设计初期充分考虑不同的配置需求,AEWIN帮助客户根据目标工作负载量身打造平台,同时提升资源利用效率。
通过可配置硬件实现 Scale Up
AEWIN服务器提供灵活的计算配置,支持多种CPU型号、内存插槽配置,以及可用于GPU和其他加速器的PCIe扩展插槽。此外,支持CXL 3.0的平台能够进一步扩展内存容量,满足更高的容量需求。
这些硬件配置能力使客户能够根据关键数据处理、AI推理及模型训练等应用需求,构建具备扩展能力的硬件解决方案。
通过高速连接实现 Scale Out
AEWIN服务器支持高速网络接口卡,可作为构建大型AI部署环境的计算基础。结合集团生态系统的先进技术,AEWIN服务器可集成先进的1.6T交换机与双相直接液冷(2P DLC)解决方案,提升散热管理效率,打造适用于高密度计算的机架级AI基础设施,兼顾性能与可持续发展需求。
总结
Scale In、Scale Up和Scale Out分别从服务器配置、单机计算能力及集群连接等不同维度,满足AI基础设施的扩展需求。
凭借灵活的服务器架构与集团生态系统的技术整合能力,AEWIN帮助客户根据不断演进的工作负载需求,灵活扩展AI计算资源,在计算性能、部署灵活性与总体拥有成本(TCO)之间实现最佳平衡。

