生成式 AI 可以採取多種形式的輸出,包括文字、圖像、音樂甚至電腦程式碼。生成式 AI 已廣泛應用於各個行業,包括藝術、寫作、軟體開發、產品設計、醫療保健、金融、遊戲、行銷和時尚。
麥肯錫預測,在我們分析的 63 個案例中,生成式 AI 每年可以增加相當於 2.6 兆至 4.4 兆美元的收入。相較之下,英國 2021 年的 GDP 總量為 3.1 兆美元。若是我們也把尚未嵌入生成式 AI 的案例和軟體考量進去,此一估計大約會翻倍。
AI 的應用幾乎是無限的。而許多大企業已經意識到這些應用,並且已經開始使用生成式 AI。
雖然 CPU 和 GPU 是 AI 伺服器的核心零組件,但它們並非是唯一需要考量的零組件。記憶體和儲存裝置產品也會對結果產生重大影響。高速 DDR5 記憶體和本機 NVMe™ SSD 快取可加快 GPU 的資料存取速度,縮短 AI 訓練時間。
CPU 和 GPU(任何 AI 伺服器的「運算」部分)並不直接管理 AI 所需的大型資料集。事實上,CPU 和 GPU 依靠快速的記憶體和儲存裝置來儲存和管理訓練資料,確保快速且穩定地向運算元件提供資料。
若是消化資料集時出現阻礙,就會導致訓練過程放緩,無法完整利用 CPU 和 GPU而產生額外的成本。先進的記憶體和儲存裝置可提供充足的容量和吞吐量,協助確保 AI 能夠持續、有效率,且順暢地執行。
高速的美光 Micron® DDR5 記憶體,為運算工作提供本機資料存取,其頻寬、突發長度、Bank 數量、Bank Group 數量和並行操作均提升至 2 倍。DDR5 提升電腦視覺的影像分類速度,改善低階、中階和更高階類別的定義與辨識,提升 AI 效能達 7 倍。它亦提升明暗辨識的速度,加速人臉辨識。
本機 SSD 快取能夠加速 GPU 的資料存取。此外,連接至網路的資料湖亦可受益於大容量的 SSD,協助確保能夠供應多台 AI 伺服器所需的資料。美光 Micron® 為 AI提供領先效能的 PCIe® Gen4 SSD,有助於避免儲存瓶頸,以及資料備份導致 AI訓練時間變慢的問題。Micron® 9400 NVMe™ SSD 可將推薦引擎的延遲降低27%,Micron® 6500 ION NVMe™ SSD 則可將消化資料湖的速度提升 48%。
在訓練複雜的 AI 模型可能需要許多的 GPU 和 CPU,而這些處理器每更新一代就會變得更加耗電。有 2 種方式可以分析功耗:整體耗電和耗電效率。前者是針對平台總耗電量的簡單量測,後者則分析具有生產力的工作所消耗的電量;後者通常用來計算總擁有成本(TCO)。
美光 Micron® 設計了具有能源效率的先進記憶體和儲存裝置產品,於提供高效能的同時亦協助降低功耗。同樣的解決方案還可以解決碩大用電量帶來日益成長的成本(以及潛在環境影響)問題。美光 Micron® 使用「饋電平衡」技術,協助確保能源效率,同時滿足 AI 的進階需求。
高速的美光 Micron® DDR5 記憶體和本機 NVMe™ SSD 快取,可加快 GPU 的資料存取速度,縮短 AI 訓練時間,同時在不增添更多 GPU 的情況下提升 AI 效能。美光 Micron® 領先業界的 1β(1-beta)技術 DDR5 RDIMM 記憶體模組,單一模組容量最高達 128GB,可應用於搭載 4,800MT/s、5,600MT/s 和 6,400MT/s 的平台,針對未來速度高達 8,000 MT/s 的平台也可適用。
針對AI應用本機資料快取,Micron® 9400 NVMe™ SSD 和 Micron® 7500 NVMe™ SSD 是您的最佳選擇,以最高 7,000MB/s 傳輸速度滿足需求。面對需要更大儲存容量的資料湖應用情景,您不可錯過 30.72TB 容量的 Micron® 6500 ION NVMe™ SSD,同時具備 TLC 的高效能和 QLC 的成本價值,並提供 U.3 15mm 和 E1.L 9.5mm 外型規格讓部署更具彈性。