NVIDIA Run:ai SaaS

面向使用 NVIDIA Run:ai 全托管云平台的客户,平台始终同步最新功能与优化更新。

查看相关要求,完成安装或升级操作
为用户配置认证访问权限,使其可安全接入 Run:ai 平台、命令行 (CLI) 界面以及各类应用程序接口 (API)
自定义 Run:ai 集群部署方案,满足各类特殊运维需求并优化资源管理效率
对 Run:ai 集群进行监控、管理与恢复操作
监控物理资源 (集群、节点、GPU) 与应用资源 (部门、项目、工作负载)
配置 Run:ai 项目与部门,使其贴合企业自身组织架构及管理规范
自定义资源分配规则,根据企业需求优化资源调度方案
管理用户角色,管控用户对系统各类对象、资源的访问权限与可执行操作
制定管控策略,在全企业范围内推行最优规范,统一工作负载提交流程
借助数据看板与可视化图表,实时监控性能、追踪指标趋势、识别异常情况并优化资源占用
查阅支持的工作负载类型与功能清单
使用环境、数据源等预配置组件,简化工作负载提交流程并实现模板化
依托工作空间开展研究、调试数据集、测试算法,简化模型开发流程
通过标准及分布式训练工作负载扩展模型训练规模,调用更多计算资源与大型数据集
借助推理工作负载部署训练完成的模型,提供实时或批量预测能力,并动态弹性伸缩资源
了解调度器如何优化 GPU 资源分配,保障工作负载高效分发
创建客户端凭证获取 token,并在后续 API 调用中使用该 token
通过 API 集成并自动化工作流,实现与系统资源、监控及管理功能的无缝交互
采集、分析并使用系统指标,自定义数据看板或将指标数据对接至其他监控系统