检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
插件创建示例(以API调用为例) 准备工作: 创建一个服务,此服务需可以访问。 例如:以下服务是为了进行搜索的服务用例,准备相应的接口地址、其请求方法、输入参数、输出参数 接口地址:http://ip:host/bingsearch(此地址需要根据实际情况填写ip、端口和服务路径) 请求方法:POST 输入参数(示例):
Studio平台,进入所需空间。 在左侧导航栏中选择“应用接入”,单击界面右上角“创建应用接入”。 在“关联服务”中,选择“全部服务”,或者在“指定服务”中选择已部署好的大模型服务,单击“确定”。 在“应用接入”列表的“API Key”操作列中可获取API Key值。 父主题: 如何调用REST
图1 我的空间 在左侧导航栏中选择“体验中心”,单击“文本对话”页签。 选择需要调用的服务。可从“预置服务”或“我的服务”中选择。 填写系统人设。如“你是一个AI助手”,若不填写,将使用系统默认人设。 在页面右侧配置参数,具体参数说明见表1。 表1 盘古行业NLP大模型体验中心参数说明
此名称是通过V2版本推理接口调用该推理服务时的唯一标识。创建后不支持修改。 安全护栏 安全护栏 本案例中选择开启安全护栏。 关闭:推理服务不调用安全护栏。 开启并同意授权:在使用推理服务时用户输入和模型输出均会调用盘古安全护栏,保障模型服务安全。 资源配置(选择云上部署时) 计费模式
全量升级:新旧版本服务同时运行,直至新版本完全替代旧版本。在新版本部署完成前,旧版本仍可使用。需要该服务所消耗资源的2倍,用于保障全量一次性升级。 滚动升级:部分实例资源空出用于滚动升级,逐个或逐批停止旧版本并启动新版本。滚动升级时可修改实例数。选择缩实例升级时,系统会先删除旧版本,再进行升级,期间旧版本不可使用。
Failed 未满足前提条件,服务器未满足请求者在请求中设置的其中一个前提条件。 413 Request Entity Too Large 由于请求的实体过大,服务器无法处理,因此拒绝请求。为防止客户端的连续请求,服务器可能会关闭连接。如果只是服务器暂时无法处理,则会包含一个Retry-After的响应信息。
全量升级:新旧版本服务同时运行,直至新版本完全替代旧版本。在新版本部署完成前,旧版本仍可使用。需要该服务所消耗资源的2倍,用于保障全量一次性升级。 滚动升级:部分实例资源空出用于滚动升级,逐个或逐批停止旧版本并启动新版本。滚动升级时可修改实例数。选择缩实例升级时,系统会先删除旧版本,再进行升级,期间旧版本不可使用。
区域项目、全局服务资源。 可以选择“指定区域项目资源”,如指定“西南-贵阳一”区域,即用户组内的IAM用户仅可使用该区域项目中的资源。 可以选择“全局服务资源”,即服务部署时不区分区域,访问全局级服务,不需要切换区域,全局服务不支持基于区域项目授权。如对象存储服务(OBS)、内容分发网络(CDN)等。
此名称是通过V2版本推理接口调用该推理服务时的唯一标识。创建后不支持修改。 安全护栏 安全护栏 本案例中选择开启安全护栏。 关闭:推理服务不调用安全护栏。 开启并同意授权:在使用推理服务时用户输入和模型输出均会调用盘古安全护栏,保障模型服务安全。 资源配置 计费模式 限时免费。 实例数
当用户部署的API服务期望开放给其他用户调用时,原有Token认证无法支持, 可用API Key认证的鉴权方式进行调用请求。 API Key认证指调用API时,在HTTP请求头部消息增加一个参数X-Apig-AppCode(参数值为API Key值),API服务仅校验API Key,从而实现快速响应。
盘古行业NLP大模型介绍 盘古行业大模型在盘古NLP大模型的基础之上结合了垂直行业的海量数据,配套MA Studio平台和工具链,可化解特定行业数据构建难、模型效果调优难、场景能力评测难三大难题,助力行业客户更快、更优构建专业大模型。当前已于公有云发布金融、医疗行业大模型,满足行业通用场景开箱即用。
或 2024-05-27 12:00:00 或 2024/05/27 12:00:00 。 示例如下: timestamp,feature1,feature2,target 2024-05-27 12:00:00,10.5,20.3,100 2024-05-27 12:01:00,10
支持长期记忆开关和记忆变量定义的配置。 MCP服务 平台工具调用支持MCP协议,开发者可以通过集成MCP服务快速拓展智能体的功能。 表7 MCP服务说明 功能 说明 MCP服务市场 平台预置了"高德地图"、"车票查询工具"、"必应搜索"等多种实用MCP服务,开通后可以一键集成调用。 自定义MCP服务 平台开放自定
限时免费。 实例数 设置部署模型时所需的实例数,单次部署服务时,部署实例个数建议不大于10,否则可能触发限流导致部署失败。 订阅提醒 订阅提醒 该功能开启后,系统将在任务状态更新时,通过短信或邮件将提醒发送给用户。 基本信息 服务名称 设置部署任务的名称。 描述(选填) 设置部署任务的描述。
此名称是通过V2版本推理接口调用该推理服务时的唯一标识。创建后不支持修改。 安全护栏 安全护栏开关 安全护栏保障模型调用安全。 版本选择 当前支持安全护栏基础版,内置了默认的内容审核规则。 资源配置 计费模式 限时免费。 实例数 设置部署模型时所需的实例数。 订阅提醒 订阅提醒 该功能开启后,系统将在任务状
若调用部署后的模型,可在左侧导航栏中选择“模型开发 > 模型部署”,在“我的服务”页签,模型部署列表单击模型名称,在“详情”页签中,可获取模型的部署ID。 图3 部署后的模型调用路径 若调用预置模型,可在左侧导航栏中选择“模型开发 > 模型部署”,在“预置服务”页签,模型列表单击“调用路径”,获取该模型的部署ID。
当用户部署的API服务期望开放给其他用户调用时,原有Token认证无法支持, 可用API Key认证的鉴权方式进行调用请求。 API Key认证指调用API时,在HTTP请求头部消息增加一个参数X-Apig-AppCode(参数值为API Key值),API服务仅校验API Key,从而实现快速响应。
盘古行业大模型 盘古NLP行业大模型 盘古行业大模型在盘古NLP大模型的基础之上结合了垂直行业的海量数据,配套MA Studio平台和工具链,可化解特定行业数据构建难、模型效果调优难、场景能力评测难三大难题,满足行业通用场景开箱即用。除了实现行业知识检索、文案生成、阅读理解等基础
方案设计 设计背景 在教育数字化与 "双减" 背景下,智能伴学助手以知识图谱 + 自然语言处理技术,化身语文学习全场景伙伴,提供「即时问答 + 分层解析 + 情境拓展」陪伴链。它以技术驱动个性化学习,让每个学生拥有专属语文空间,在智能引导中感受语言魅力,厚植文化根基。 本章将详细
缺失值处理:若微调数据有缺失值,需将缺失值处理成nan。 导入微调数据至平台 用户可以将存储在OBS服务的数据或本地数据导入至ModelArts Studio平台。 本案例以导入OBS服务中的数据为例,导入微调数据至平台的步骤如下: 登录ModelArts Studio大模型开发平台,进入所需空间。