AI電信：領先的策略性增長與創新
電信產業正迎向關鍵時期，而電信類企業在推動數位轉型和經濟增長方面各自具有獨特優勢。透過打造強大的AI基礎設施，電信業者可為許多垂直領域（包括從醫療保健到金融業）提供先進的AI服務，帶來新的收入來源，並促進跨產業合作。
Supermicro攜手NVIDIA提供專為電信企業量身打造的AI基礎設施，助力強化營運效率、網路管理和顧客體驗。我們的解決方案可幫助電信業者透過AI技術實現策略性增長，進一步在不斷變化的數位經濟環境中成為領先企業。
「自2024年到2033年，全球AI技術在電信市場將以41.4%的CAGR持續增長，而應用範圍包括網路安全、最佳化、顧客分析、虛擬協助和自我診斷」
「90%的電信業高階主管表示，他們的組織目前正在接觸或採用AI技術——包括從測試、實驗到全面部署的階段 」
主權AI 基礎設施的AI 工廠
透過尖端AI 提升電信網路品質
- 開拓電信業的新營收來源
- 適用於關鍵應用的主權、安全AI
- 分散式、低延AI
- 端到端基礎設施解決方案
AI 電信業者能夠透過專用的AI 來強化其網路，不僅能支持國家級的AI ，更能為企業用戶提供安全且高效能的解決方案。
SK Telecom執行長Ryu Young-sang表示：「與AI資料中心領域的業界領先企業合作，將助力SK Telecom成為全球性的AI公司。透過攜手Supermicro和Lambda，SK Telecom的AI資料中心業務可望在今年內取得意義非凡的成果。」
IBM董事長暨執行長Arvind Krishna表示：「我堅信每個國家都應該擁有一些AI主權技術，包括AI大型語言模型。政府需要支援國家的AI運算中心建置，並針對特定用例建立通用資料集。」
透過邊緣AI和6G研究實現5G變現
最大化5G潛能與推動6G創新
- 5G邊緣貨幣化
- AI 6G研發
- 收入機會
- 邊緣運算
電信業者可透過先進的邊緣運算和沉浸式體驗技術，整合AI、創造新營收來源，以及以強化連線能力，進而實現5G變現與加速6G創新。
「根據GSMA，網路平均佔營運商能源使用量的90%，其中 RAN 佔 80% 以上。調查中 97% 的高階主管認為，採用更高層級的自主網路將可優化能源使用，同時降低組織內的碳排放量」
秦飛表示：「我們設計6G網路時，會在空中介面（Air Interface）以及6G網路管理設計中運用AI的技術。6G網路會自我訓練、自我學習，逐漸更加強大6」。
重新構思聯絡中心
透過AI強化客戶體驗
- 自動化查詢處理
- 強化代表支援
- 無縫全通路體驗
- B2B服務擴展
AI聯絡中心可重塑客戶互動模式、優化營運，並提供進階支援，成為內部和B2B產品的重要資產。
「通訊服務供應商專注透過生成式AI技術強化以客戶為中心的服務。其中，聊天機器人是最廣泛的應用案例，而63%選擇此項應用的受訪者表示已將該技術落實正常運行階段。」
62%的顧客表示更傾向選擇客服聊天機器人，而不會等待人工客服1。
精簡化網路運作
透過AI自動化來最佳化效率
- 自動化維護
- 自優化網路
- 5G 增強
- 預測性分析
AI解決方案可透過自動化維護和最佳化資源管理，簡化網路作業、提升效率並改善服務品質。
「透過生成式AI提高效率和生產力，是目前最高的價值驅動因素。41%的通訊服務供應商認為生成式AI可協助員工實現更快、更高品質的產出」。
在2023年，37%的受訪者正投入網路預測性維護，而34%的受訪者正投入網路規劃與營運（包括 RAN）2。
61%的電信業者希望在2028年達到條件式自治網路（Autonomous Network）或更高的技術，以即時感應環境變化，並在特定網域中根據外部環境最佳化並調整運行模式，進而實現意圖導向式閉環管理3。
預測分析：商業洞察的關鍵
透過AI改變商業智慧
- 進階客戶洞察
- 營運效率
- B2B服務擴展
- 客製化解決方案
AI預測分析可讓電信業者深入洞察客戶、提升營運效率，並將有價值的服務延伸至 B2B 客戶，進而推動業務成功與創新。
「42%的電信企業受訪者正在測試運行或已建立起部分/完整的自治網路，以了解訂閱者流失/行為，進而採取相應措施以保留顧客」
「我已看到AI技術如何提高顧客關懷營運的生產力，以及創造新服務，包括個人化顧客體驗、目標行銷活動和自動化客服聊天機器人4。」
電信基礎設施AI 主權AI
隨著AI 數位經濟，電信業者面臨著一個戰略性契機，可透過轉型為主權AI 的推動者，開拓新的營收來源。隨著全球AI 預計將大幅增長，企業與政府亟需安全、合規且低延遲的平台，以大規模部署AI 。
電信業者憑藉其基礎設施、數據管理能力及邊緣運算能力，在滿足這項需求方面具備獨特優勢。透過推動區域性AI 及分散式推論，電信業者得以提供高效能且具主權保障AI 從而將自身定位於新興AI 數位經濟的核心。
下載這份關於電信業主權AI 報告，了解更多詳情：
![YouTube：[Supermicro] 主權AI ：電信業者面臨的挑戰與機遇](https://img.youtube.com/vi/yfb00IHYgII/maxresdefault.jpg)
電信AI 解決方案
Supermicro與 NVIDIA 合作推出的AI 解決方案，為電信營運商提供一套完整的交鑰匙平台，協助其建構自主的AI 。AI 採用全堆疊、經 NVIDIA 認證的系統，整合了高效能 GPU、Spectrum-X 網路設備、儲存裝置及AI ，可快速部署於邊緣及區域資料中心。
領先的營運商採用Supermicro AI 為企業、政府及國家級計畫提供安全、低延遲的 GPU 即服務（GPU-as-a-Service）及主權AI 確保全面的資料控制權與合規性。
SYS-E403-13E-FRN2T
| 機身尺寸（mm）高 × 寬 × 深 | 117.3 × 266.7 × 406.4 |
|---|---|
| 散熱方式 | 氣冷 |
| 主要規格 | 5885（Llama v2 7B）ɸd LLM吞吐量（每GPU的Token量/秒） |
應用案例：
| |
| GPU支援 |
|
SYS-111E-F(D)WTR
| 機身尺寸（mm）高 × 寬 × 深 | 43 × 437 × 429 |
|---|---|
| 散熱方式 | 氣冷 |
| 主要規格 | 5885（Llama v2 7B）ɸeLLM吞吐量（每GPU的Token量/秒） |
應用案例：
| |
| GPU支援 |
|
SYS-221HE-FTNR(D)
| 機身尺寸（mm）高 × 寬 × 深 | 89 × 437 × 574 |
|---|---|
| 散熱方式 | 氣冷 |
| 主要規格 | 2335 (Llama v2 70B)*cLLM 吞吐量(每 GPU 代幣/秒) |
應用案例：
| |
| GPU支援 |
|
ARS-111GL-NHR
| 機身尺寸（mm）高 × 寬 × 深 | 44 × 440 × 940 |
|---|---|
| 散熱方式 | 氣冷 |
| 主要規格 | 3401 (Llama v2 70B)ɸaLLM 吞吐量(每 GPU 代幣/秒) |
應用案例：
| |
| GPU支援 |
|
SYS-421GE-TNHR2-LCC
| 機身尺寸（mm）高 × 寬 × 深 | 174 × 449 × 842 |
|---|---|
| 散熱方式 | 液冷 |
| 主要規格 | 3269 (羊駝 v2 70B)ɸbLLM 吞吐量(每GPU的Token量/秒) 資料中心叢集：
|
應用案例：
| |
| GPU支援 |
|
SYS-821GE-TNHR
| 機身尺寸（mm）高 × 寬 × 深 | 356 × 437 × 843 |
|---|---|
| 散熱方式 | 氣冷 |
| 主要規格 | 3269 (羊駝 v2 70B)ɸbLLM 吞吐量(每GPU的Token量/秒) 資料中心叢集：
|
應用案例：
| |
| GPU支援 |
|
- 輸入長度 = 128，輸出長度 = 128，批次大小 = 256
- 輸入長度 = 128，輸出長度 = 128，批次大小 = 最大值
- TP = 1，搭載1x GH100
- TP = 2，搭載2x H100
- TP = 1，搭載1x H100 NVL
- TP = 1，搭載1x L40S
- TP = 1，搭載1x L40
