logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大数据Hadoop系列之Hadoop服务开机自启动配置

1.  编写运行脚本$ sudo cd /etc/init.d$ sudo vi hadoop#!/bin/bash#chkconfig:35 95 1#description:script to start/stop hadoopsu - hadoop <<!case $1 instart)sh /opt/apache/hadoop/hadoop-2.7....

#hadoop
大数据Hive系列之Hive MapReduce

1.  JOIN1.1  join操作INSERT OVERWRITE TABLE pv_usersSELECT pv.pageid, u.age FROM page_view pv JOIN user u ON (pv.userid = u.userid);1.2  MR过程Mapa.  以 JOIN ON 条件中的列作为 Key,如果有多个列,则 Key 是这些列的...

#hive
大数据Hive系列之Hive用户权限管理

1. 角色* 创建角色create role role_name;* 显示角色show roles;* 删除角色drop role role_name;2. 用户* 用户进入admin角色权限set hive.users.in.admin.role;set role admin;* 查看某用户的所有角色show role grant user user_n...

#大数据
大数据Hadoop系列之HDFS命令讲解

1. 前言HDFS命令基本格式:hadoop fs -cmd < args >2. ls 命令hadoop fs -ls/列出hdfs文件系统根目录下的目录和文件hadoop fs -ls -R /列出hdfs文件系统所有的目录和文件3. put 命令hadoop fs -put < local file >

#大数据
大数据Hive系列之HiveServer2用户安全认证

1. 概述1.1 目的HiveServer2提供了JDBC链接操作Hive的功能,非常实用,但如果在使用HiveServer2时候,不注意安全控制,将非常危险,因为任何人都可以作为超级用户来操作Hive及HDFS数据。1.2 认证方式HiveServer2支持多种用户安全认证方式:NONE,NOSASL, KERBEROS, LDAP, PAM ,CUSTOM等等,本文采用CUSTOM。2. 编写

#hive
大数据Hadoop系列之Hadoop Web控制台添加身份验证

1. 背景介绍本文档介绍如何配置Hadoop HTTP Web控制台以要求用户身份验证。默认情况下,Hadoop HTTP Web控制台(ResourceManager,NameNode,NodeManagers和DataNodes)允许访问而无需任何形式的身份验证。可以将Hadoop HTTP Web控制台配置为使用HTTP SPNEGO协议(Firefox和Internet Exp...

#hadoop
大数据Hadoop系列之Hadoop Web控制台添加身份验证

1. 背景介绍本文档介绍如何配置Hadoop HTTP Web控制台以要求用户身份验证。默认情况下,Hadoop HTTP Web控制台(ResourceManager,NameNode,NodeManagers和DataNodes)允许访问而无需任何形式的身份验证。可以将Hadoop HTTP Web控制台配置为使用HTTP SPNEGO协议(Firefox和Internet Exp...

#hadoop
大数据Zookeeper系列之Zookeeper服务开机自启动配置

1.  编写运行脚本$ sudo cd /etc/init.d$ sudo vi zookeeper#!/bin/bash#chkconfig:2345 20 90#description:zookeeper#processname:zookeepersu - hadoop <<!case $1 instart)sh /opt/apache/zookeep...

#zookeeper
大数据Spark系列之Spark单机环境搭建

1. 下载spark与scalaSpark下载地址http://mirrors.hust.edu.cn/apache/spark/spark-2.4.5/spark-2.4.5-bin-hadoop2.7.tgzScala下载地址http://www.scala-lang.org/files/archive/scala-2.10.4.tgz2. 解压安装$ tar ...

#spark#scala
IDEA常用快捷键

快捷键快捷键说明Alt+回车 导入包,自动修正Shift+Alt+R修改文件名Ctrl+N   查找类Shift+Alt+T打开类Ctrl+Shift+N 查找文件Ctrl+Alt+L  格式化代码Ctrl+Alt+O 优化导入的类和包Alt+Insert 生成代码(如get,s...

    共 22 条
  • 1
  • 2
  • 3
  • 请选择