西棠 发表于 2023-10-31 19:53:10

大模型时代,华为云打造创新的云原生基础设施

ui工具      
大模型产业繁荣发展,据统计仅上半年中国就出现了80多个大模型产品。大模型意味着大参数、大数据和大算力,这就对基础设施的算力、存储、安全合规等提出了更高的要求,企业需要更加稳定、高效、安全和智能的基础设施以及更精益化的资源管理,为了让AI应用真正深入行业,推动业务创新,华为云为企业的AI创新提供全系列的云原生服务。

  华为云首席产品官方国伟表示:”在AI场景下,华为云对于云原生的基础设施进行全面升级,推出了分布式QingTian架构、全球存算网、AI-native storage、安全大模型及landing Zone等全新技术和产品,实现业务自由流动、打破算力边界、突破海量数据读写限制,并进行全流程的安全防护和资源管理 。”


  在让业务自由流动方面,华为云构建了全球存算网KooVerse,覆盖了30个地理区域84个可用区。企业可以根据业务情况将AI应用部署在全球,也可以选择在云核心区域、云枢纽区域及边缘、本地等部署,通过regionless的智能全域调度能力,自动帮助企业调度*合适的算力集群。

  在打破算力边界方面,基于高速新型网络协议,构筑各种资源的对等全互联架构,打破算力、存储和网络的边界,为客户提供*佳AI算力基础设施,轻松应对万亿级大模型训练。

  在突破数据读写限制方面,华为云提供大内存带宽服务、大并发缓存服务以及大容量知识湖缓存服务,可以轻松存储万亿参数 、1min完成CheckPoint恢复,10亿向量1小时即可构建,向量检索速度提升10倍。

  在全流程安全方面,华为云基于华为30多年积累的数万亿次攻击的防御实战经验、1亿多条的安全领域知识以及100多亿条的恶意软件检测参数,构筑可实时调优和快速迭代的安全大模型能力,并逐步应用到我们“一个中心+七层防线”的纵深防御体系中。

  在云资源精益治理方面,基于Landing Zone服务可以实现多账号体系下,敏捷、高效的统一治理。





页: [1]
查看完整版本: 大模型时代,华为云打造创新的云原生基础设施