人工智能助力电信业引领战略增长和创新
电信行业正处于关键时刻，电信公司在推动数字化转型和经济增长方面具有得天独厚的优势。通过建立强大的人工智能基础设施，电信公司可以为从医疗到金融的各个行业提供先进的人工智能服务，创造新的收入来源并促进跨行业合作。
Supermicro我们与 NVIDIA 合作，为电信运营商量身打造 AI 驱动的基础设施，从而提升运营效率、网络管理和客户体验。我们的解决方案助力电信运营商利用 AI 实现战略增长，使其成为不断发展的数字经济中的领导者。
"从 2024 年到 2033 年，全球人工智能在电信市场的应用预计将以 41.4% 的复合年增长率增长，应用领域包括网络安全、优化、客户分析、虚拟协助和自我诊断"。
"90%的电信公司高管表示，他们的组织目前正在参与人工智能从实验阶段到全面部署的整个过程"。
打造主权人工智能基础设施的人工智能工厂
利用尖端人工智能服务提升电信网络
- 开拓电信行业新收入来源
- 面向关键应用的自主、安全的AI平台
- 分布式、低延迟人工智能推理
- 端到端基础设施解决方案
AI 工厂使电信公司能够利用专门的 AI 基础设施增强其网络，支持国家 AI 计划，并为企业用户提供安全、高性能的解决方案。
SK Telecom首席执行官柳英相表示：“与全球领先的人工智能数据中心公司合作，将是SK Telecom成为全球人工智能公司的基石。通过与……的合作，我们将…… Supermicro 和Lambda SK Telecom的AI数据中心业务预计将在今年取得显著成果。
IBM董事长兼首席执行官阿尔文德-克里希纳（Arvind Krishna）说："'我坚信，每个国家都应该拥有一定的人工智能主权能力，包括人工智能的大型语言模型。'政府需要支持建立国家人工智能计算中心和用于特定用例的通用数据集5'"。
利用边缘人工智能和6G 研究实现5G货币化
最大限度发挥 5G 潜力，推动6G 创新
- 5G 边缘货币化
- 人工智能RAN
- 人工智能驱动的 6G 研发
- 边缘计算
电信公司可以通过整合人工智能、创造新的收入流以及利用先进的边缘计算和沉浸式体验来增强连接性，从而充分利用 5G 货币化并加速 6G 创新。
"根据 GSMA 的数据，网络的能耗平均占运营商能耗的 90%，而其中 80% 以上的能耗来自 RAN。调查中 97% 的高管认为，采用更高水平的自主网络将优化能源使用，同时减少组织内的碳排放"。
"'当我们设计 6G 网络时，我们将在设计空中接口和管理 6G 网络时使用人工智能技术，'Qin 说。'6G网络将自我训练、自我学习，它实际上会变得越来越强大6"。
重新构想联络中心
利用人工智能提升客户体验
- 自动查询处理
- 加强代表支持
- 无缝全渠道体验
- 拓展 B2B 服务
人工智能驱动的联络中心可转变客户互动方式、简化运营流程并提供高级支持，使其成为内部使用和B2B 产品的宝贵资产。
"通信服务提供商非常重视使用生成式人工智能来增强以客户为中心的理念，其中聊天机器人是最广泛采用的用例，63% 的受访者在选择这一用例时表示已在生产中使用"。
62% 的客户宁愿使用客服聊天机器人，也不愿等待人工客服代表1。
简化网络运行
利用人工智能驱动的自动化优化效率
- 自动维护
- 自我优化网络
- 5G 增强
- 预测分析
人工智能驱动的解决方案通过自动化维护和优化资源管理，简化网络运营，提高效率，改善服务质量。
"通过使用生成式人工智能提高效率和生产力是迄今为止价值最高的驱动因素。41%的通信服务提供商认为，生成式人工智能可帮助员工更快、更高质量地产出产品"。
2023 年，37% 的受访者将投资于网络预测性维护，34% 的受访者将投资于网络规划和运营（包括 RAN）2。
到 2028 年，61% 的电信公司希望至少实现有条件的自主网络，能够感知实时环境变化，并在某些网络域根据外部环境优化和调整其运行，以实现基于意图的闭环管理3。
业务洞察预测分析
通过人工智能改造商业智能
- 高级客户洞察
- 运行效率
- 拓展 B2B 服务
- 定制解决方案
人工智能驱动的预测分析使电信公司能够深入洞察客户，提高运营效率，并向 B2B 客户提供有价值的服务，从而推动业务成功和创新。
"42%的受访电信公司正在试点或部分/全面实施自主网络，以了解用户流失/行为，并采取纠正措施留住客户"
"我看到了人工智能如何帮助提高客户服务业务的生产率，并创造新的服务，如个性化客户体验、有针对性的营销活动和自动化客户服务聊天机器人4"。
电信基础设施上的主权人工智能
随着人工智能重塑数字经济，电信运营商迎来战略机遇，可通过转型成为自主人工智能基础设施的赋能者，从而开拓新的收入来源。鉴于全球人工智能基础设施支出预计将大幅增长，企业和政府迫切需要安全、合规、低延迟的平台，以实现人工智能的大规模应用。
电信运营商凭借其基础设施、数据管理和边缘计算能力，在满足这一需求方面具有得天独厚的优势。通过构建区域性人工智能工厂和分布式推理，运营商可以提供高性能、自主的人工智能服务，从而在蓬勃发展的人工智能驱动型数字经济中占据核心地位。
下载关于电信领域主权人工智能的论文，了解更多信息：
电信人工智能工厂解决方案
Supermicro的 AI Factory 解决方案与 NVIDIA 合作，为电信运营商提供完整的交钥匙平台，以构建其自主 AI 基础设施。AI Factory 采用全栈式、NVIDIA 认证的系统，集成了高性能 GPU、Spectrum-X 网络、存储和 AI 软件，可在边缘和区域数据中心快速部署。
Supermicro 领先的运营商利用 AI 工厂向企业、政府和国家计划提供安全、低延迟的 GPU 即服务和自主 AI 能力，从而确保完全的数据控制和合规性。
SYS-E403-13E-FRN2T
| 尺寸（毫米） 高 × 宽 × 深 | 117.3 × 266.7 × 406.4 |
|---|---|
| 冷却 | 空气 |
| 主要功能 | 5885 (Llama v2 7B)ɸdLLM 吞吐量(每 GPU 代币/秒） |
使用案例：
| |
| 图形处理器支持 |
|
SYS-111E-F(D)WTR
| 尺寸（毫米） 高 × 宽 × 深 | 43 × 437 × 429 |
|---|---|
| 冷却 | 空气 |
| 主要功能 | 5885 (Llama v2 7B)ɸeLLM 吞吐量(每 GPU 代币/秒） |
使用案例：
| |
| 图形处理器支持 |
|
SYS-221HE-FTNR(D)
| 尺寸（毫米） 高 × 宽 × 深 | 89 × 437 × 574 |
|---|---|
| 冷却 | 空气 |
| 主要功能 | 2335（Llama v2 70B）*cLLM 吞吐量(每 GPU 代币/秒） |
使用案例：
| |
| 图形处理器支持 |
|
ARS-111GL-NHR
| 尺寸（毫米） 高 × 宽 × 深 | 44 × 440 × 940 |
|---|---|
| 冷却 | 空气 |
| 主要功能 | 3401 (Llama v2 70B)ɸaLLM 吞吐量(每 GPU 代币/秒） |
使用案例：
| |
| 图形处理器支持 |
|
SYS-421GE-TNHR2-LCC
| 尺寸（毫米） 高 × 宽 × 深 | 174 × 449 × 842 |
|---|---|
| 冷却 | 液体 |
| 主要功能 | 3269 (Llama v2 70B)ɸbLLM 吞吐量(每 GPU 代币/秒） 数据中心集群：
|
使用案例：
| |
| 图形处理器支持 |
|
SYS-821GE-TNHR
| 尺寸（毫米） 高 × 宽 × 深 | 356 × 437 × 843 |
|---|---|
| 冷却 | 空气 |
| 主要功能 | 3269 (Llama v2 70B)ɸbLLM 吞吐量(每 GPU 代币/秒） 数据中心集群：
|
使用案例：
| |
| 图形处理器支持 |
|
- 输入长度 = 128，输出长度 = 128，批量大小 = 256
- 输入长度 = 128，输出长度 = 128，批量大小 = 最大值
- TP = 1，带 1x GH100
- TP = 2，配 2x H100
- TP = 1，带 1x H100 NVL
- TP = 1，配 1x L40S
- TP = 1，配 1x L40
