检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
权限配置类型。针对当前场景,选择“普通模式”即可。 权限模板 预置权限配置模板,不用选择。 服务列表 在“服务列表”中搜索OBS,弹出“对象存储服务(OBS)”,选择即可。 功能权限 在“服务列表”中选择到服务之后,会出现该服务的所有权限,选择对应授权即可。 图1 IAM子用户授权添加OBS授权 将数据发布至AI
支持长期记忆开关和记忆变量定义的配置。 MCP服务 平台工具调用支持MCP协议,开发者可以通过集成MCP服务快速拓展智能体的功能。 表7 MCP服务说明 功能 说明 MCP服务市场 平台预置了"高德地图"、"车票查询工具"、"必应搜索"等多种实用MCP服务,开通后可以一键集成调用。 自定义MCP服务 平台开放自定
变量。修改部署时,模型无法进行替换。 模型更新、修改部署后进行升级操作时,可以选择全量升级、滚动升级两种方式。 全量升级:旧版本和新版本的服务会同时运行,直到新版本完全替代旧版本。在新版本部署完成前旧版本仍然可以使用。 滚动升级:通过空出部分实例资源用于滚动升级,逐个或逐批实例停
指定顺序模式:根据用户指定工作流顺序一次执行工作流。 单智能体与多智能体功能与应用场景差异 单智能体:依赖模型,可以使用插件、工作流、知识库、MCP服务等工具,让模型自主规划,使用不同工具完成指定任务。 多智能体:可配置多个工作流,侧重根据客户意图在不同工作流中进行选择和跳转。 常见问题
运行结果中可以看到应用的执行开始时间、结束时间、运行时间等信息,还能看到输入和输出信息。对于性能的情况有个直观的认识。 调用详情 在触发应用时,调用链中展现具体事件的详细信息,包括触发的组件、事件耗时、事件的输入和输出信息等。便于开发者快速地追溯操作顺序并精准定位问题。 父主题: 调试与发布应用
在“我的凭证”页面,获取项目ID(project_id),以及账号名、账号ID、IAM用户名和IAM用户ID。 在调用盘古API时,获取的项目id需要与盘古服务部署区域一致,例如盘古大模型当前部署在“西南-贵阳一”区域,需要获取与贵阳一区域的对应的项目id。 图2 查看项目ID 多项目时,展开“所
此名称是通过V2版本推理接口调用该推理服务时的唯一标识。创建后不支持修改。 安全护栏 安全护栏开关 安全护栏保障模型调用安全。 版本选择 当前支持安全护栏基础版,内置了默认的内容审核规则。 资源配置 计费模式 限时免费。 实例数 设置部署模型时所需的实例数。 订阅提醒 订阅提醒 该功能开启后,系统将在任务状
全量升级:新旧版本服务同时运行,直至新版本完全替代旧版本。在新版本部署完成前,旧版本仍可使用。需要该服务所消耗资源的2倍,用于保障全量一次性升级。 滚动升级:部分实例资源空出用于滚动升级,逐个或逐批停止旧版本并启动新版本。滚动升级时可修改实例数。选择缩实例升级时,系统会先删除旧版本,再进行升级,期间旧版本不可使用。
工作流节点:实现工作流嵌套工作流的效果。 MCP服务节点:MCP服务节点是工作流中实现第三方能力调用的核心组件之一。作为功能扩展的重要载体,该节点允许通过调用MCP服务来执行特定功能任务。每个MCP服务实质上是一个工具集合,可以提供模块化服务来拓宽工作流的能力边界,完成更复杂的任务。
作业配置参数 设置模型部署参数信息。 计费模式 选择计费模式。 实例数 设置部署模型时所需的实例数,单次部署服务时,部署实例个数建议不大于10,否则可能触发限流导致部署失败。 基本信息 服务名称 设置部署任务的名称。 描述(选填) 设置部署任务的描述。 图1 创建全球区域中期海洋智能预测部署任务
在申请公测成功后,您可以申请试用ModelArts Studio大模型开发平台提供的各种服务,ModelArts Studio大模型开发平台提供了丰富的大模型开发套件,为您的试用旅程提供一站式服务。 试用申请步骤如下: 登录ModelArts Studio大模型开发平台。 单击“试用咨询”,进入华为云售前咨询页面。
rallel数整除。最大可设置为batch_size值。 温度 控制模型推理N条数据的随机性,当temperature趋近于0时,选择最大概率的词;temperature越大,分布越平缓,选择更随机。 核采样 控制模型推理的多样性,取值越大,生成文本的多样性越强。 排序K采样 控
限时免费。 实例数 设置部署模型时所需的实例数,单次部署服务时,部署实例个数建议不大于10,否则可能触发限流导致部署失败。 订阅提醒 订阅提醒 该功能开启后,系统将在任务状态更新时,通过短信或邮件将提醒发送给用户。 基本信息 服务名称 设置部署任务的名称。 描述(选填) 设置部署任务的描述。
若调用部署后的模型,可在左侧导航栏中选择“模型开发 > 模型部署”,在“我的服务”页签,模型部署列表单击模型名称,在“详情”页签中,可获取模型的部署ID。 图3 部署后的模型调用路径 若调用预置模型,可在左侧导航栏中选择“模型开发 > 模型部署”,在“预置服务”页签,模型列表单击“调用路径”,获取该模型的部署ID。
当用户部署的API服务期望开放给其他用户调用时,原有Token认证无法支持, 可用API Key认证的鉴权方式进行调用请求。 API Key认证指调用API时,在HTTP请求头部消息增加一个参数X-Apig-AppCode(参数值为API Key值),API服务仅校验API Key,从而实现快速响应。
图1 我的空间 在左侧导航栏中选择“体验中心”,单击“文本对话”页签。 选择需要调用的服务。可从“预置服务”或“我的服务”中选择。 填写系统人设。如“你是一个AI助手”,若不填写,将使用系统默认人设。 在页面右侧配置参数,具体参数说明见表1。 表1 NLP大模型体验中心参数说明
图1 我的空间 在左侧导航栏中选择“体验中心”,单击“文本对话”页签。 选择需要调用的服务。可从“预置服务”或“我的服务”中选择。 填写系统人设。如“你是一个AI助手”,若不填写,将使用系统默认人设。 在页面右侧配置参数,具体参数说明见表1。 表1 盘古行业NLP大模型体验中心参数说明
图1 我的空间 在左侧导航栏中选择“体验中心”,单击“文本对话”页签。 选择需要调用的服务。可从“预置服务”或“我的服务”中选择。 填写系统人设。如“你是一个AI助手”,若不填写,将使用系统默认人设。 在页面右侧配置参数,具体参数说明见表1。 表1 三方大模型体验中心参数说明 参数
参数分类 参数名称 参数说明 选择服务 模型类型 选择“大语言模型”。 服务来源 本案例中选择“已部署服务” 支持已部署服务、外部服务两种选项。单次最多可评测10个模型。 已部署服务:选择部署至ModelArts Studio平台的模型进行评测。 外部服务:通过API的方式接入外部模型
参数分类 参数名称 参数说明 选择服务 模型类型 选择“大语言模型”。 服务来源 本案例中选择“已部署服务”。 支持已部署服务、外部服务两种选项。单次最多可评测10个模型。 已部署服务:选择部署至ModelArts Studio平台的模型进行评测。 外部服务:通过API的方式接入外部模