logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【大数据学习问题记录】ssh 免密码登录(设置后仍需输密码的原因及解决方法)

当nameNode通过ssh连接到datanode时,datanode就会生成一个随机数并用namenode的公钥对随机数进行加密并发送给nameNode, namenode收到加密数值后,用私钥解密,并将解密数回传给datanode,datanode确认无误后就允许namenode进行连接了;Namenode作为客户端,要实现无密码公钥认证,连接到datanode上时需要在namenode上生成

文章图片
#大数据#学习#ssh
自学大数据第5天~hadoop集群搭建(二)

写入该文件,每行一个,默认localhost(即把本机(namenode也作为数据节点),所以我们在伪分布式是没有配置该文件;此处提示该命令被废弃了(这个跟hadoop版本有关,按照提示,使用mapred --daemon start 代替上述命令。/usr/local文件权限不能随便改,于是我在local下建了一个 临时文件夹,传输完成后,将文件夹移来;的,冗余通常为3,也就是说,一份数据有三分

文章图片
#hadoop#大数据#hdfs
大数据之hadoop启动失败问题集锦

启动时会提示形如 “DBLab-XMU: starting namenode, logging to /usr/local/hadoop/logs/hadoop-hadoop-namenode-DBLab-XMU.out”,其中 DBLab-XMU 对应你的机器名,但其实启动日志信息是记录在 /usr/local/hadoop/logs/hadoop-hadoop-namenode-DBLab-X

文章图片
#hadoop#大数据#hdfs
【manjaro的安装后的配置】解决输入法安装与声卡配置

manjorod的安装与配置欢迎各位采坑manjoro安装输入法前的准备-----》》欢迎各位采坑manjoro你好! 这是我第二次安装manjoro了如果不算虚拟机安装的话,基本的安装步骤1,拷贝到镜像到U盘上2,重启系统,然后U盘启动3,自己选择一些配置,可以将manjoro安装到一个盘符里,也可以和win共存剩下的基本就是一路默认—基本也不用选择,等待系统安装完毕安装完毕后发现系统米有中文输

文章图片
#linux#运维#服务器
自学大数据第六天~HDFS命令(一)

我们在HDFS系统中删除文件,其实就像是在win/linux中,文件先被放进回收站;如果在 Hadoop Shell 运行这个命令,会提示功能还没实现。根据反馈结果,rmr在最新版本中已被废弃,推荐使用 -rm -r。查看文件内容跟~tail–>文件最后1KB内容。moveToLocal命令失败了。这风格更像是linux中的命令了。还可以下载多个文件合并到下载。先用不同命令上传到hdfs中。

文章图片
#hdfs#大数据#hadoop
自学大数据第十天~Hbase

随着数据量的增多,数据的类型也不像原来那样都是结构化数据,还有非结构化数据;Hbase时google 的bigtable的开源实现,虽然有了HDFS和MR,但是对于数据的实时处理是比较困难的,没有办法应对数据的爆炸式增长;

文章图片
#hbase#大数据#hadoop
解决 ERROR 2002 (HY000): Can‘t connect to local MySQL server through socket ‘/tmp/mysql.sock‘ (111)

WSL遇到的mysql问题解决方案ERROR 2002 (HY000): Can't connect to local MySQL server through socket '/tmp/mysql.sock' (111)~~记录一下mysql遇到的问题以及解决方案

文章图片
#mysql#linux#服务器
异常:java.util.NoSuchElementException--Scanner异常

今天在尝试修改代码的时候,出现了异常:java.util.NoSuchElementException–知道是Scanner异常,提示没有此元素,具体的原因就是我们的scanner 在使用的时候不小心被关闭了,因为关闭的位置不对,所以不要考虑io留关闭的位置,不然容易报错–;package Test;import java.util.Scanner;public class SharkSystem

#java
Mapped Statements collection does not contain value for 解决方法

Mapped Statements collection does not contain value for 解决方法

#mysql#java#sql
    共 12 条
  • 1
  • 2
  • 请选择