检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Clean篇 如何判断clean是否在执行？ 判断标准： 查看.hoodie目录，如果该目录里有.clean结尾的元数据文件存在，则clean在执行。 举例： Hudi表未做过clean： Hudi表做过clean： 如何判断clean是否设置的合理？ 判断标准： 随机找一个近期
MapReduce应用开发流程介绍 开发流程中各阶段的说明如图1和表1所示。 图1 MapReduce应用程序开发流程 表1 MapReduce应用开发的流程说明 阶段 说明 参考文档 了解基本概念 在开始开发应用前，需要了解MapReduce的基本概念。 MapReduce应用开发常用概念
BulkLoad和Put应用场景有哪些 问题 HBase支持使用bulkload和put方式加载数据，在大部分场景下bulkload提供了更快的数据加载速度，但bulkload并不是没有缺点的，在使用时需要关注bulkload和put适合在哪些场景使用。 回答 bulkload是
Hive不支持复杂类型字段名称中包含哪些特殊字符 问题 Hive复杂类型字段名称中包含特殊字符，导致建表失败。 回答 Hive不支持复杂类型字段名称中包含特殊字符。 特殊字符是指英文大小写字母、阿拉伯数字、中文字符、葡萄牙文字符以外的其他字符。 用户在创建相关字段时，应避免使用相关特殊字符。
健康检查时，误将JDBCServer Kill 问题 健康检查方案中，在并发执行的语句达到线程池上限后依然会导致健康检查命令无法执行，从而导致健康检查程序超时，然后把Spark JDBCServer进程Kill。 回答 当前JDBCServer中存在两个线程池HiveServer
在Ranger管理界面查看不到创建的MRS用户 问题 在MRS Manager界面创建了一个账户，登录到Ranger管理界面后查看不到该用户。 回答 登录到Ranger管理界面的用户权限不够，需要切换至rangeradmin用户或者其他具有Ranger管理员权限的用户。 在Ranger
【Spark WebUI】访问JobHistory中某个应用的原生页面时页面显示错误 用户问题 提交一个Spark应用，包含单个Job百万个Task。应用结束后，在JobHistory中访问该应用的WebUI页面，浏览器会等待较长时间才跳转到应用WebUI页面，若10分钟内无法跳转，则页面会显示Proxy
创建HBase全局二级索引 场景介绍 在用户的表中预先存在大量数据的情况下，可以在某个列上添加索引。 对于未建立索引的用户表，该工具允许用户同时添加和构建索引。 创建HBase全局二级索引 在HBase客户端执行以下命令即可添加或创建索引，执行命令后，指定的索引将被添加到表中： hbase
新创建用户修改完密码后无法登录Ranger 问题 使用新建用户登录Ranger页面，为什么在修改完密码后登录报401错误？ 回答 由于UserSync同步用户数据有时间周期，默认是5分钟，因此在Manager上新创建的用户在用户同步成功前无法登录Ranger，因为Ranger的D
DataStream[String] 获取用户定义的Socket数据，作为输入流数据。 hostname是指Socket的服务器端的主机名称。 port指的是服务器的监测端口。 delimiter和maxRetry两个参数scala接口暂时不支持设置。 def addSource[T:
DataStream[String] 获取用户定义的Socket数据，作为输入流数据。 hostname是指Socket的服务器端的主机名称。 port指的是服务器的监测端口。 delimiter和maxRetry两个参数scala接口暂时不支持设置。 def addSource[T:
使用REST接口操作HBase表 功能简介 使用REST服务，传入对应host与port组成的url以及指定的tableName和jsonHTD，通过HTTPS协议，进行查询表信息，修改表，创建表以及删除表的操作。 代码样例 方法调用 // Add a table with specified
x内存。 登录Manager界面，选择“集群 > 服务 > Impala > 配置 > 全部配置 > Catalog（角色） > 环境”，查看并记录参数“IMPALA_GC_OPTS”中的“xmx”内存值。 选择“集群 > 服务 > Impala > 配置 > 全部配置 > Impalad（角色）
通过ThriftServer实例向HBase表中写入数据 功能简介 传入ThriftServer实例所在host和提供服务的port，根据认证凭据及配置文件新建Thrift客户端，访问ThriftServer，分别使用put和putMultiple进行写数据操作。 代码样例 方法调用
使用Ranger时适配第三方JDK 配置场景 当使用Ranger作为spark sql的权限管理服务时，访问RangerAdmin需要使用集群中的证书。若用户未使用集群中的JDK或者JRE，而是使用第三方JDK时，会出现访问RangerAdmin失败，进而spark应用程序启动失败的问题。
使用REST接口获取所有HBase表 功能简介 使用REST服务，传入对应host与port组成的URL，通过HTTPS协议，获取得到所有table。 代码样例 以下代码片段在“hbase-rest-example\src\main\java\com\huawei\hadoop\
法中proPath的路径。 图2 ClickHouseFunc.java路径替换 查看调测结果 ClickHouse springboot服务启动后，通过ClickHouse样例接口触发样例代码运行，在浏览器中输入需要执行具体操作的链接，如http://localhost:808
extraClassPath”参数值中添加服务端的依赖包路径，如“${BIGDATA_HOME}/FusionInsight_Spark2x_8.1.0.1/install/FusionInsight-Spark2x-3.1.1/spark/jars/streamingClient010/*”。 将各服务端节点的
传入ThriftServer实例所在host和提供服务的port，根据认证凭据及配置文件新建Thrift客户端，访问ThriftServer，进行根据指定namespace获取tablename以及创建表、删除表的操作。 操作步骤 登录FusionInsight Manager，选择“集群 > 服务 > HBase
使用REST接口获取所有HBase表 功能简介 使用REST服务，传入对应host与port组成的url，通过HTTP协议，获取得到所有table。 代码样例 以下代码片段在“hbase-rest-example\src\main\java\com\huawei\hadoop\h
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
