检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
调用服务请求所需要的请求头，为对象格式，默认为{}。 url 调用服务的请求地址，为字符串格式，画布中可通过“选择服务”按钮进行自动填充。 request_type 调用服务的请求类型，默认为POST。 输出参数 response 调用服务的流式返回值。 图6 call_stream_api组件 call_api组件
频流地址} 模型推理结果需在容器日志中查询，远程登录到部署服务器后，执行docker ps命令获取容器列表及其信息。 记录部署任务名称，进入ModelArts服务的模型部署导航栏中按照模型的部署形式，进入在线服务、边缘服务页签按照任务名称找到对应的任务ID。按创建部署任务时生成的
CV大模型自动评测任务参数说明（基于规则） 参数分类 参数名称 参数说明 选择服务 模型类型 选择“CV大模型”。 评测模型 评测不同的CV模型。支持物体检测N，物体检测S，图像分类，语义分割等类型。 服务来源 支持已部署服务。单次最多可评测10个模型。 已部署服务：选择部署至ModelArts Studio平台的模型进行评测。
此名称是通过V2版本推理接口调用该推理服务时的唯一标识。创建后不支持修改。 安全护栏 安全护栏 本案例中选择开启安全护栏。 关闭：推理服务不调用安全护栏。 开启并同意授权：在使用推理服务时用户输入和模型输出均会调用盘古安全护栏，保障模型服务安全。 资源配置 计费模式 限时免费。 实例数
全量升级：新旧版本服务同时运行，直至新版本完全替代旧版本。在新版本部署完成前，旧版本仍可使用。需要该服务所消耗资源的2倍，用于保障全量一次性升级。 滚动升级：部分实例资源空出用于滚动升级，逐个或逐批停止旧版本并启动新版本。滚动升级时可修改实例数。选择缩实例升级时，系统会先删除旧版本，再进行升级，期间旧版本不可使用。
全量升级：新旧版本服务同时运行，直至新版本完全替代旧版本。在新版本部署完成前，旧版本仍可使用。需要该服务所消耗资源的2倍，用于保障全量一次性升级。 滚动升级：部分实例资源空出用于滚动升级，逐个或逐批停止旧版本并启动新版本。滚动升级时可修改实例数。选择缩实例升级时，系统会先删除旧版本，再进行升级，期间旧版本不可使用。
全量升级：新旧版本服务同时运行，直至新版本完全替代旧版本。在新版本部署完成前，旧版本仍可使用。需要该服务所消耗资源的2倍，用于保障全量一次性升级。 滚动升级：部分实例资源空出用于滚动升级，逐个或逐批停止旧版本并启动新版本。滚动升级时可修改实例数。选择缩实例升级时，系统会先删除旧版本，再进行升级，期间旧版本不可使用。
全量升级：新旧版本服务同时运行，直至新版本完全替代旧版本。在新版本部署完成前，旧版本仍可使用。需要该服务所消耗资源的2倍，用于保障全量一次性升级。 滚动升级：部分实例资源空出用于滚动升级，逐个或逐批停止旧版本并启动新版本。滚动升级时可修改实例数。选择缩实例升级时，系统会先删除旧版本，再进行升级，期间旧版本不可使用。
"target":"An"} 其中，system字段非必选，system如需配置，只可配置一个string，目前只支持单人设。 带thinking思维链的逻辑推理数据示例： {"system": "你是一个擅长于文章写作、文本分析、代码编写、数学运算、逻辑推理的AI助手，专注于针对用户的问题给出高质量解答。"
训练后推理服务部署失败，报错NPU不可用 推理服务启动失败，报错NPU不可用： get device count of NPU failed,torch.npu.is_available() is False NPU卡未及时释放或者被其他应用占用，导致推理服务器上无推理卡可用。
根据在图像信息中所反映的不同特征，对图像进行定量分析，把图像划归为若干个类别中的某一种。适用于动植物分类、车辆类型分类、车牌分类、废钢定级、零部件分类等任务。 服务调用方式： 支持图片推理。 图片推理支持在线和边缘部署。 URI POST /v1/{project_id}/infer-api/prox
并通过分层日志分析快速定位问题（例如追踪智能客服在处理用户投诉时的对话逻辑与数据调用路径）。 灵活的MCP服务 MCP服务以通用的“标准语言”把工具、数据通过“MCP服务器”的方式供给（一次开发、无限连接），可以更高效、更便捷地实现AI智能体与成千上万的外部工具与数据的互通。 如何使用Agent开发平台
学知识库、自然语言处理和智能交互技术，医疗问诊助手智能体能够为患者提供初步的健康咨询、症状分析和诊断建议，同时减轻医生的工作负担，提升医疗服务效率。 本教程将指导你如何在Agent开发平台上搭建一个医疗问诊助手，用于获取健康建议。 Agent应用问答效果 与医疗问诊助手Agent
此名称是通过V2版本推理接口调用该推理服务时的唯一标识。创建后不支持修改。 安全护栏 安全护栏 本案例中选择开启安全护栏。 关闭：推理服务不调用安全护栏。 开启并同意授权：在使用推理服务时用户输入和模型输出均会调用盘古安全护栏，保障模型服务安全。 资源配置（选择云上部署时） 计费模式
此名称是通过V2版本推理接口调用该推理服务时的唯一标识。创建后不支持修改。 安全护栏 安全护栏 本案例中选择开启安全护栏。 关闭：推理服务不调用安全护栏。 开启并同意授权：在使用推理服务时用户输入和模型输出均会调用盘古安全护栏，保障模型服务安全。 资源配置 计费模式 限时免费。 实例数
插件创建示例（以API调用为例） 准备工作： 创建一个服务，此服务需可以访问。 例如：以下服务是为了进行搜索的服务用例，准备相应的接口地址、其请求方法、输入参数、输出参数 接口地址：http://ip:host/bingsearch（此地址需要根据实际情况填写ip、端口和服务路径） 请求方法：POST 输入参数（示例）：
件。作为功能扩展的重要载体，该节点允许通过调用插件来执行特定功能任务。每个插件实质上是经过标准化封装的API工具集合，提供即插即用的模块化服务，拓宽工作流的能力边界，完成更复杂的任务。 插件类型包括预置插件和个人插件。 预置插件：平台预置了代码解释器插件，能够执行输入的代码，得到
Deployed_model 通过V2版本推理接口调用该推理服务时的唯一标识。 安全护栏 开启并同意授权 安全护栏保障模型调用安全。 版本选择 当前支持安全护栏基础版，内置了默认的内容审核规则。 资源配置 计费模式 限时免费。 实例数 设置部署模型是所需的实例数，单次部署服务时，部署实例个数建议不大于10，否则可能触发限流导致部署失败。
权限配置类型。针对当前场景，选择“普通模式”即可。 权限模板 预置权限配置模板，不用选择。 服务列表 在“服务列表”中搜索OBS，弹出“对象存储服务（OBS）”，选择即可。 功能权限 在“服务列表”中选择到服务之后，会出现该服务的所有权限，选择对应授权即可。 图1 IAM子用户授权添加OBS授权 将数据发布至AI
- 4 Agent开发：预置工具上新，支持24个预置应用，14个官方插件及10个MCP服务 新增插件市场及MCP服务市场，支持联网搜索、高德地图、12306在内的14个官方插件及10个MCP服务，支持用户开箱即用 公测 - 5 Agent开发插件优化：支持自动解析插件信息，插件信息填写一键完成
