基于云原生架构构建的一站式AI开发平台,提供了数据管理、数据标注、模型训练、模型服务等AI套件,打通AI开发全流程,为企业提供低门槛、高性能的云原生AI工程化能力,加快AI应用落地;同时还提供大模型服务能力,包括RAG应用、大模型微调、断点续训、大模型评估、大模型服务等。支持企业快速基于通用大模型/行业大模型结合企业内部数据构建企业大模型,有效解决大模型应用落地难的问题。平台整体基于Kubernetes打造算力底座,提供多集群管理、异构算力接入和管理、算力共享和隔离、计量计费、基于高性能调度引擎的批调度等能力,统一为AI应用提供算力支撑,提高算力分配效率和资源利用率。
提供数据上传、版本管理、下载、预览、数据标注等能力,并针对大数据提供SFTP大文件上传功能,有效解决大文件上传失败、上传慢等问题
在模型开发训练阶段,提供可视化建模、Notebook交互式建模、分布式训练多种模型训练方式,降低使用门槛,提高开发效率
支持对平台训练的模型或本地模型一键部署,提供在线服务、离线服务两种方式。在线服务提供API供其他系统调用,加速模型应用;离线服务针对大批量的推理预测任务场景,用户可以上传大批量数据进行推理,在推理完成后自动停止
支持对模型、镜像、数据集等重要的AI资产进行全生命周期管理,并提供AI资产共享能力,有效提高AI资产复用率、实现AI开发及应用过程的降本增效
覆盖大模型应用RAG、微调、评估、部署的全生命周期管理流程,同时预制多种开源大模型,方便客户轻松使用和开发大模型
基于Kubernetes打造算力底座,提供异构算力接入和管理、算力共享和隔离、计量计费、基于高性能调度引擎的批调度等能力。