人工智能助力电信业引领战略增长和创新
电信行业正处于关键时刻，电信公司在推动数字化转型和经济增长方面具有得天独厚的优势。通过建立强大的人工智能基础设施，电信公司可以为从医疗到金融的各个行业提供先进的人工智能服务，创造新的收入来源并促进跨行业合作。
Supermicro 与 NVIDIA 合作，提供专为电信运营商量身定制的AI驱动基础设施，从而提升运营效率、网络管理和客户体验。我们的解决方案使电信运营商能够利用AI实现战略增长，将其定位为不断发展的数字经济中的领导者。
"从 2024 年到 2033 年，全球人工智能在电信市场的应用预计将以 41.4% 的复合年增长率增长，应用领域包括网络安全、优化、客户分析、虚拟协助和自我诊断"。
"90%的电信公司高管表示，他们的组织目前正在参与人工智能从实验阶段到全面部署的整个过程"。
打造主权人工智能基础设施的人工智能工厂
借助尖端人工智能服务提升电信网络水平
- 开拓电信行业的新收入来源
- 适用于关键应用的主权、安全的人工智能平台
- 分布式、低延迟的 AI 推理
- 端到端基础设施解决方案
AI工厂使电信运营商能够借助专门的AI基础设施来增强其网络，既支持国家层面的AI计划，又能为企业用户提供安全、高性能的解决方案。
“与AI数据中心领域的全球领先公司合作，将是SK Telecom成为全球AI公司的基石，”SK Telecom 首席执行官柳英相表示。“通过与 Supermicro 和 Lambda 的合作，SK Telecom 的AI数据中心业务有望在今年内取得显著成果。”
IBM董事长兼首席执行官阿尔文德-克里希纳（Arvind Krishna）说："'我坚信，每个国家都应该拥有一定的人工智能主权能力，包括人工智能的大型语言模型。'政府需要支持建立国家人工智能计算中心和用于特定用例的通用数据集5'"。
利用边缘人工智能和6G 研究实现5G货币化
最大限度发挥 5G 潜力，推动6G 创新
- 5G 边缘货币化
- 爱兰
- 人工智能驱动的 6G 研发
- 边缘计算
电信公司可以通过整合人工智能、创造新的收入流以及利用先进的边缘计算和沉浸式体验来增强连接性，从而充分利用 5G 货币化并加速 6G 创新。
"根据 GSMA 的数据，网络的能耗平均占运营商能耗的 90%，而其中 80% 以上的能耗来自 RAN。调查中 97% 的高管认为，采用更高水平的自主网络将优化能源使用，同时减少组织内的碳排放"。
"'当我们设计 6G 网络时，我们将在设计空中接口和管理 6G 网络时使用人工智能技术，'Qin 说。'6G网络将自我训练、自我学习，它实际上会变得越来越强大6"。
重新构想联络中心
利用人工智能提升客户体验
- 自动查询处理
- 加强代表支持
- 无缝全渠道体验
- 拓展 B2B 服务
人工智能驱动的联络中心可转变客户互动方式、简化运营流程并提供高级支持，使其成为内部使用和B2B 产品的宝贵资产。
"通信服务提供商非常重视使用生成式人工智能来增强以客户为中心的理念，其中聊天机器人是最广泛采用的用例，63% 的受访者在选择这一用例时表示已在生产中使用"。
62% 的客户宁愿使用客服聊天机器人，也不愿等待人工客服代表1。
简化网络运行
利用人工智能驱动的自动化优化效率
- 自动维护
- 自我优化网络
- 5G 增强
- 预测分析
人工智能驱动的解决方案通过自动化维护和优化资源管理，简化网络运营，提高效率，改善服务质量。
"通过使用生成式人工智能提高效率和生产力是迄今为止价值最高的驱动因素。41%的通信服务提供商认为，生成式人工智能可帮助员工更快、更高质量地产出产品"。
2023 年，37% 的受访者将投资于网络预测性维护，34% 的受访者将投资于网络规划和运营（包括 RAN）2。
到 2028 年，61% 的电信公司希望至少实现有条件的自主网络，能够感知实时环境变化，并在某些网络域根据外部环境优化和调整其运行，以实现基于意图的闭环管理3。
业务洞察预测分析
通过人工智能改造商业智能
- 高级客户洞察
- 运行效率
- 拓展 B2B 服务
- 定制解决方案
人工智能驱动的预测分析使电信公司能够深入洞察客户，提高运营效率，并向 B2B 客户提供有价值的服务，从而推动业务成功和创新。
"42%的受访电信公司正在试点或部分/全面实施自主网络，以了解用户流失/行为，并采取纠正措施留住客户"
"我看到了人工智能如何帮助提高客户服务业务的生产率，并创造新的服务，如个性化客户体验、有针对性的营销活动和自动化客户服务聊天机器人4"。
电信基础设施中的主权人工智能
随着人工智能重塑数字经济，电信运营商面临着一个战略机遇：通过转型为主权人工智能基础设施的推动者，从而开拓新的收入来源。随着全球人工智能基础设施支出预计将大幅增长，企业和政府亟需安全、合规且低延迟的平台，以实现人工智能的大规模应用。
电信运营商凭借其基础设施、数据管理能力以及边缘计算能力，在满足这一需求方面具有得天独厚的优势。通过支持区域性人工智能工厂和分布式推理，运营商能够提供高性能、主权化的人工智能服务，从而将自身定位于新兴的人工智能驱动型数字经济的核心。
下载关于电信行业主权人工智能的论文，了解更多详情：
![YouTube：[Supermicro] 主权人工智能工厂：电信运营商的挑战与机遇](https://img.youtube.com/vi/yfb00IHYgII/maxresdefault.jpg)
电信人工智能工厂解决方案
Supermicro与 NVIDIA 合作推出的 AI Factory 解决方案，为电信运营商提供了一个完整的交钥匙平台，助力其构建自主的 AI 基础设施。AI Factory 采用全栈式、经 NVIDIA 认证的系统，集成了高性能 GPU、Spectrum-X 网络、存储及 AI 软件，可快速部署于边缘和区域数据中心。
领先的运营商利用Supermicro 工厂，为企业、政府及国家计划提供安全、低延迟的 GPU 即服务（GPU-as-a-Service）和主权 AI 能力，从而确保全面的数据控制和合规性。
SYS-E403-13E-FRN2T
| 尺寸（毫米） 高 × 宽 × 深 | 117.3 × 266.7 × 406.4 |
|---|---|
| 冷却 | 空气 |
| 主要功能 | 5885 (Llama v2 7B)ɸdLLM 吞吐量(每 GPU 代币/秒） |
使用案例：
| |
| 图形处理器支持 |
|
SYS-111E-F(D)WTR
| 尺寸（毫米） 高 × 宽 × 深 | 43 × 437 × 429 |
|---|---|
| 冷却 | 空气 |
| 主要功能 | 5885 (Llama v2 7B)ɸeLLM 吞吐量(每 GPU 代币/秒） |
使用案例：
| |
| 图形处理器支持 |
|
SYS-221HE-FTNR(D)
| 尺寸（毫米） 高 × 宽 × 深 | 89 × 437 × 574 |
|---|---|
| 冷却 | 空气 |
| 主要功能 | 2335（Llama v2 70B）*cLLM 吞吐量(每 GPU 代币/秒） |
使用案例：
| |
| 图形处理器支持 |
|
ARS-111GL-NHR
| 尺寸（毫米） 高 × 宽 × 深 | 44 × 440 × 940 |
|---|---|
| 冷却 | 空气 |
| 主要功能 | 3401 (Llama v2 70B)ɸaLLM 吞吐量(每 GPU 代币/秒） |
使用案例：
| |
| 图形处理器支持 |
|
SYS-421GE-TNHR2-LCC
| 尺寸（毫米） 高 × 宽 × 深 | 174 × 449 × 842 |
|---|---|
| 冷却 | 液体 |
| 主要功能 | 3269 (Llama v2 70B)ɸbLLM 吞吐量(每 GPU 代币/秒） 数据中心集群：
|
使用案例：
| |
| 图形处理器支持 |
|
SYS-821GE-TNHR
| 尺寸（毫米） 高 × 宽 × 深 | 356 × 437 × 843 |
|---|---|
| 冷却 | 空气 |
| 主要功能 | 3269 (Llama v2 70B)ɸbLLM 吞吐量(每 GPU 代币/秒） 数据中心集群：
|
使用案例：
| |
| 图形处理器支持 |
|
- 输入长度 = 128，输出长度 = 128，批量大小 = 256
- 输入长度 = 128，输出长度 = 128，批量大小 = 最大值
- TP = 1，带 1x GH100
- TP = 2，配 2x H100
- TP = 1，带 1x H100 NVL
- TP = 1，配 1x L40S
- TP = 1，配 1x L40
