打造新世代AI工作負載的高效能資料管線
前言
AI基礎架構過去主要著重於運用高效能 CPU、GPU與AI加速器來提升運算效能。然而，隨著 AI 工作負載持續處理規模更大、類型更多元的資料，單靠運算能力已不足以滿足需求。新世代AI基礎架構必須從運算能力進一步延伸至資料處理，建構高效能資料管線，讓AI工作負載能夠持續以高效率、順暢且穩定的方式運行。
建構 AI 資料管線
生成式AI(GenAI)資料管線會將資料依序經過多個階段，從多元資料來源與資料擷取開始，經歷前處理、Embedding生成、儲存、資料檢索、推論，到最終的服務部署。這些資料管線需要處理大量非結構化資料，包括文件、圖片、音訊與影片，以及即時互動資料，以支援RAG、內容生成及更多創新AI應用。
即時AI應用需要持續進行資料擷取與快速處理，以提供即時回應與支援AI驅動的決策；另一方面，RAG與推論工作負載則需要頻繁且並行地存取資料集、Embedding、知識庫及模型資料。隨著資料管線持續擴展，系統必須在分散式環境中有效管理大量資料，以及高吞吐量的I/O。為滿足這些需求，高效能儲存已成為AI基礎架構中的關鍵要件，也進一步推動新世代儲存標準的採用。
E3.S NVMe SSD：滿足高吞吐量 AI 資料需求
E3.S是Enterprise and Datacenter Standard Form Factor(EDSFF)家族的一員，專為現代資料中心儲存環境的效能、儲存密度與擴充性需求而設計。其緊湊的外型尺寸能夠提升儲存密度，並更有效率地運用機箱內部空間。此外，E3.S亦支援新世代PCIe介面，包括PCIe Gen6，為日益增加的資料處理工作負載提供更高的頻寬。
E3.S結合高儲存密度與新世代PCIe頻寬，為持續成長的 AI 環境提供可擴充的儲存基礎。其能夠在緊湊的空間內提供高效能儲存，有助於滿足AI資料管線對吞吐量、儲存容量，以及高效率資料傳輸日益增加的需求。
AEWIN AI 資料管線全快閃儲存伺服器
AEWIN以BS28-A10710全快閃儲存伺服器擴展其基礎架構產品組合。這款 2U1P平台支援16個E3.S Gen6 NVMe SSD，搭載AMD EPYC™ 9006系列伺服器CPU，提供卓越的運算效能與高密度儲存能力，滿足資料密集型作業的需求。
BS28-A10710支援16個DDR5 RDIMM/MRDIMM插槽，可提供高效能資料處理工作負載所需的高記憶體頻寬。同時，透過PCIe Gen6 CEM插槽與OCP 3.0插槽，平台具備良好的擴充能力，可支援高效能網路、加速器及I/O擴充，實現基礎架構內更高效率的資料傳輸。
透過在單一平台中整合高密度E3.S Gen6 儲存、高效能運算與充足的記憶體資源，AEWIN提供驅動新世代AI工作負載所需的均衡基礎架構，協助建構高效能且可擴充的AI資料管線。
總結
隨著AI工作負載在運算與資料規模上持續成長，基礎架構也必須從以運算為核心的架構進一步演進。高效能儲存與更快速的資料傳輸，正逐漸成為維持AI資料管線高效率、即時回應能力與可擴充性的關鍵。
透過高密度E3.S NVMe儲存、高效能運算，以及PCIe Gen6的連接能力，AEWIN採用整合式架構，協助企業支援新世代AI工作負載所需的可擴充高效能資料管線。
