介绍
更新时间:2023-06-14
产品介绍
百度百舸异构计算平台(AI Heterogeneous Compute,简称AIHC)是为AI基础设施运维和AI应用开发者而设计的企业级基础服务平台。它提供大规模、高性能、稳定易用的服务,旨在支持用户在AI领域进行基础环境搭建、任务提交和管理等操作。百舸异构计算平台目前支持主流开发框架如PyTorch等,能够满足各种AI训练和推理业务的需求。无论是进行模型训练还是进行推理任务,用户都可以依靠百舸异构计算平台提供的功能和性能,高效地进行AI开发和应用。
产品架构
百度百舸异构计算平台的产品架构图如下所示:
百度百舸异构计算平台是面向AI原生云时代打造的AI企业级基础服务平台,包含资源层和平台层两大部分。
平台层
平台层由资源池创建和管理、任务创建和管理、在线服务三部分组成。在百舸异构计算平台,用户可以通过快速创建资源池、队列、任务完成模型训练,还可以通过将模型部署成服务,调用在线服务。
资源层
资源层由高性能计算,高性能存储、高速互联网络、容器镜像服务CCR、容器引擎CCE和Prometheus监控服务组成,具有高性能、高弹性、高速互联、高性价比等特性。在算力类型、通信效率、数据吞吐、资源管理、任务调度等方面进行了适配和优化,可以承载海量数据的处理、超大模型的训练、高并发业务的推理,为AI任务加速。