检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
科学计算大模型 Agent开发 Token计算器 02 准备工作 使用盘古大模型服务前,需要进行一系列准备工作,确保您能够顺利使用盘古大模型服务。 准备工作 申请试用盘古大模型服务 订购盘古大模型服务 配置服务访问授权 创建并管理盘古工作空间 04 AI一站式流程 通过一站式流程,完成
CoT思维链 对于复杂推理问题(如数学问题或逻辑推理),通过给大模型示例或鼓励大模型解释推理过程,可以引导大模型生成准确率更高的结果。 单样本/多样本 可以在提示词中提供示例,让模型先学习后回答,在使用这种方法时需要约束新样例不能照抄前面给的参考样例,新样例必须多样化、不能重复等
基础平台和Agent开发的推理服务场景。 包年/包月 ModelArts Studio-推理单元(CV) 适用于CV大模型在基础平台的推理服务场景。 包年/包月 ModelArts Studio-模型实例(预测) 适用于预测大模型在基础平台的推理服务场景。 包年/包月 ModelArts
MCP服务介绍 MCP(Model Context Protocol,模型上下文协议) 是由 Anthropic 推出的一种开放标准,旨在统一大型语言模型(LLM)与外部数据源和工具之间的通信协议。 MCP 的主要目的在于解决当前 AI 模型因数据孤岛限制而无法充分发挥潜力的难题,MCP
通过属性类型筛选,或通过搜索MCP服务名称找到目标服务。单击目标服务,进入服务详情界面。 根据MCP服务开通提示,进行相应的操作,如该MCP服务需要API Key认证,输入API Key之后,单击确认开通该MCP服务。 创建自定义MCP服务 如果您已有可用的工具和API资源,则可以使用MCP服务器来配置您
进入“工作台 > MCP服务”页面。 单击MCP服务名称,进入详情页面,单击右上角“编辑”。 图2 编辑MCP服务 删除MCP服务 登录ModelArts Studio大模型开发平台,在“我的空间”模块,单击进入所需空间。 图3 我的空间 在左侧导航栏中选择“Agent开发”,跳转至Agent开发平台。
开通MCP服务 部分官方预置MCP服务需要开通后才能使用。 登录Agent开发平台。 进入“MCP服务市场”页面。 查看服务开通状态如图1 预置服务开通状态。 图1 预置服务开通状态 单击MCP服务卡片,进入开通页面进行服务开通如图2。 图2 服务开通 父主题: MCP服务开发与配置
创建API服务(可选) API管理模块可以对评测服务的API进行管理,在创建评测任务的时候选择评测服务即可。可以对API进行创建、编辑、删除。 登录ModelArts Studio平台,在“我的空间”模块,单击进入所需空间。 图1 我的空间 在左侧导航栏中选择“评测中心 > AP
创建API服务(可选) API管理模块可以对评测服务的API进行管理,在创建评测任务的时候选择评测服务即可。可以对API进行创建、编辑、删除。 登录ModelArts Studio平台,在“我的空间”模块,单击进入所需空间。 图1 我的空间 在左侧导航栏中选择“评测中心 > AP
Rerank模型服务 功能介绍 Rerank模型服务用于对召回的切片,按照query与切片的相关度进行精细化排序,以确保召回相关度top切片。 URI POST /pangu/search/v1/rerank 获取URI方式请参见请求URI。 请求参数 使用Token认证方式的请求Header参数见表1。
与其他服务的关系 与对象存储服务的关系 盘古大模型使用对象存储服务(Object Storage Service,简称OBS)存储数据和模型,实现安全、高可靠和低成本的存储需求。 与ModelArts服务的关系 盘古大模型使用ModelArts服务进行算法训练部署,帮助用户快速创建和部署模型。
MCP服务开发与配置 MCP服务介绍 创建MCP服务 管理MCP服务 开通MCP服务 父主题: 开发Agent应用
”,或者可以说明已有的信息是什么领域的信息,比如“以上是金融领域的新闻”、“以上是一篇xx领域的xxx文档”。 例如,“结合金融领域相关知识,生成一份调研报告大纲,报告主题是区块链洞察”、“以上是某理财app用户反馈的问题,请提供解决方案。” 人设: 增加人设可以让生成的内容更符合该领域需求。 例如,“假设你是一位银
申请试用盘古大模型服务 盘古大模型为用户提供了服务试用,用户可根据所需提交试用申请,申请通过后才可以试用盘古大模型功能。 申请试用盘古大模型服务ModelArts Studio大模型开发平台 订购盘古大模型服务 正式使用盘古大模型服务前,需要完成服务的订购操作。 订购服务 配置服务访问授权
Embedding模型服务 功能介绍 Embedding模型服务在创建知识库中,文本处理阶段,用于对文本文档进行前片,转换成向量化表示。在知识检索阶段,根据用户输入的query对切片进行召回。 URI POST /pangu/search/v1/vector/query 获取URI方式请参见请求URI。
服务后即可添加至画布中。 预置服务为平台内置的MCP服务。 个人服务为用户创建的自定义MCP服务,创建MCP服务步骤详见创建MCP服务。 连接MCP服务节点和其他节点。 单击画布中已添加的“MCP服务”节点,参照表1 MCP服务节点配置说明,完成MCP服务节点的配置。 表1 MCP服务节点配置说明
什么是盘古大模型 盘古大模型服务简介 盘古大模型服务包含盘古基础大模型、盘古行业大模型与ModelArts Studio工具链平台,盘古基础大模型提供NLP、多模态、CV、预测、科学计算五大盘古基础模型与三方模型的模型服务,盘古行业大模型提供基于盘古基础大模型训练的行业大模型,涉
应用开发工具链 能力调测 应用百宝箱 数据工程工具链 数据是大模型训练的基础,为大模型提供了必要的知识和信息。数据工程工具链作为盘古大模型服务的重要组成部分,具备数据获取、清洗、数据合成、数据标注、数据评估、数据配比、数据流通和管理等功能。 该工具链能够高效收集和处理各种格式的数
配置服务访问授权 配置OBS访问授权 ModelArts Studio大模型开发平台使用对象存储服务(Object Storage Service,简称OBS)进行数据存储,实现安全、高可靠和低成本的存储需求。因此,为了能够顺利进行存储数据、训练模型等操作,需要用户配置访问OBS服务的权限。
参数解释: 时序任务的历史窗口大小,该参数主要服务于支持多尺度窗口的模型的推理。 约束限制: 填写时需要保证输入序列长度大于等于该值。 取值范围: min:32 max:与训练模型的历史窗口大小一致,最大不超过512。 -1为当前服务模型的默认大小。 默认取值: 训练模型的历史窗口大小