logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

hbase基础(四)——MapReduce操作

本篇文章主要分享,编写简单的hbase与mapreduce集合的案例,即从hdfs中读取数据导入到hbase表里,读取hbase表中的指定数据,导入到另外一张表中。

文章图片
#hbase#mapreduce#hadoop +2
spark报错——无法访问WebUI

并且spark启动无报错,shell登入正常,唯独无法访问WebUI,通过日志最后发现,并非无法访问WebUI,而是spark在启动中,无法绑定到端口8080,导致spark绑定到其他端口,所以无法通过8080访问WebUI。同时,无法访问WebUI也有很多原因,如进程启动失败等导致,建议读者通过日志记录查找问题,最后通过搜索引擎解决问题。笔者在安装spark,并配置spark高可用后,发现无法访

文章图片
#spark#hadoop#大数据
大数据技术之Hadoop学习(九)——Azkban工作流管理器

Azkaban 是 LinkedIn 公司创建的批处理工作流作业调度程序,用于运行Hadoop作业。Azkaban 通过作业依赖性解决业务调度顺序,并提供易于使用的 UI 来维护和跟踪工作流程,其主要特点如下。(1)兼容任何版本的 Hadoop;(2) 易于使用的 Web UI;(3)简单的Web和 HTTP工作流上传;(4)支持工作流定时调度;(5)支持模块化和可插人;(6)支持身份验证和授权;

#hadoop#大数据#学习
大数据技术之Hadoop(十)——Sqoop数据迁移

Sqoop 是 Apache 旗下的一款开源工具,该项目开始于2009年,最早是作为 Hadoop 的一个第三方模块存在,后来为了让使用者能够快速部署,也为了让开发人员能够更快速迭代开发,在2013年,独立成为 Apache 的一个顶级开源项目。Sqoop 主要用于在 Hadoop 和关系数据库或大型机器之间传输数据,可以使用 Sqoop 工具将数据从关系数据库管理系统导入到 Hadoop 分布式

#大数据#hadoop#sqoop
大数据技术之Hadoop学习(四)——MapReduce

本文章主要简述关于MapReduce的认识以及经典案例分享。

#hadoop#mapreduce#大数据 +1
大数据技术之Hadoop学习(一)

大数据技术学习之Hadop集群搭建与体验

#hadoop#大数据#学习 +2
大数据技术之Hadoop(十一)——网站流量日志数据分析系统

大数据实战项目之网站流量日志数据分析系统分享

#大数据#hadoop#分布式 +2
hive报错-ls: 无法访问/export/servers/spark/lib/spark-assembly-*.jar: 没有那个文件或目录Exception in thread “main“

ls: 无法访问/export/servers/spark/lib/spark-assembly-*.jar: 没有那个文件或目录Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/hadoop/hive/ql/CommandNeedRetryExceptionat java.lang.Class.forNam

文章图片
#hive#spark#jar
    共 14 条
  • 1
  • 2
  • 请选择