检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
监控Lite Server资源 使用CES监控Lite Server单节点NPU资源 使用CES监控Snt9B23超节点健康状况
创建模型规范参考 模型包结构介绍 模型配置文件编写说明 模型推理代码编写说明 自定义引擎创建模型规范 自定义脚本代码示例 父主题： 使用ModelArts Standard部署模型并推理预测
管理批量推理作业 查看批量服务详情 查看批量服务的事件 管理批量服务生命周期 修改批量服务配置 父主题： 使用ModelArts Standard部署模型并推理预测
ModelArts Standard资源监控 ModelArts Standard资源监控概述 在ModelArts控制台查看监控指标 在AOM控制台查看ModelArts所有监控指标 使用Grafana查看AOM中的监控指标
使用Grafana查看AOM中的监控指标 安装配置Grafana 配置Grafana数据源 配置仪表盘查看指标数据 父主题： ModelArts Standard资源监控
管理Standard专属资源池插件 Standard专属资源池插件概述 节点故障检测(ModelArts Node Agent) AI套件（NV GPU） AI套件（Modelarts Device Plugin） Volcano调度器(Volcano Scheduler) 节点本地域名解析加速（NodeLocal
ModelArts Standard准备工作 配置ModelArts Standard访问授权 创建并管理工作空间 创建OBS桶用于ModelArts存储数据
使用自动学习实现零代码AI开发 自动学习简介 使用自动学习实现图像分类 使用自动学习实现物体检测 使用自动学习实现预测分析 使用自动学习实现声音分类 使用自动学习实现文本分类 使用窍门
制作自定义镜像用于ModelArts Standard 自定义镜像使用场景 ModelArts支持的预置镜像列表 制作自定义镜像用于创建Notebook 制作自定义镜像用于训练模型 制作自定义镜像用于推理
配置ModelArts委托授权以使用ModelArts Studio（MaaS） 配置用户缺失的ModelArts Studio（MaaS）相关服务权限
在ModelArts Studio（MaaS）中通过Function Calling扩展大语言模型交互能力 Function Calling介绍 在Dify中配置支持Function Calling的模型使用 通过Function Calling扩展大语言模型对外部环境的理解 父主题：
查看ModelArts Studio（MaaS）调用数据和监控指标 在ModelArts Studio（MaaS）查看调用数据和监控指标 在CES查看ModelArts Studio（MaaS）调用数据和监控指标 父主题： ModelArts Studio（MaaS）管理与统计
ModelArts Studio（MaaS）应用中心 ModelArts Studio（MaaS）应用管理 ModelArts Studio（MaaS）MCP管理 在ModelArts Studio（MaaS）应用体验中心查看应用解决方案
Studio（MaaS）MCP概述 在ModelArts Studio（MaaS）MCP广场开通预置MCP服务 在ModelArts Studio（MaaS）创建自定义MCP服务 父主题： ModelArts Studio（MaaS）应用中心
ModelArts Studio（MaaS）业务最佳实践 使用ModelArts Studio（MaaS） DeepSeek API搭建AI应用
ModelArts Studio（MaaS）模型管理 在ModelArts Studio（MaaS）创建模型 使用ModelArts Studio（MaaS）压缩模型
labels = [], [] for turn in sample["chat"].values(): if not turn: continue user = turn["Human"].replace("<eoh>"
labels = [], [] for turn in sample["chat"].values(): if not turn: continue user = turn["Human"].replace("<eoh>"
请参考Lite Server资源开通，购买Server资源，并确保机器已开通，密码已获取，能通过SSH登录，不同机器之间网络互通。 当容器需要提供服务给多个用户，或者多个用户共享使用该容器时，应限制容器访问Openstack的管理地址（169.254.169.254），以防止容器获取宿主
f"ERROR: Failed to read npu_status.yaml: {e}") return False return True def check_vllm_health(save_path, probe): global_rank_table_path
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
