logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

MapReduce之自定义InputFormat

MapReduce之自定义InputFormat背景:在企业开发中,Hadoop框架自带的InputFormat类型不能满足所有应用场景,需要自定义InputFormat来解决实际问题。自定义InputFormat步骤如下:自定义一个类继承FilelnputFormat。自定义一个类继承RecordReader,实现一次读取一个完整文件,将文件名为key,文件内容为value。在输出时使用Sequ

#mapreduce#hadoop#java
hadoop之hdfs命令详解

目录一、hadoop命令1、archive2、checknative3、classpath4、credential5、distcp(比较常用)6、fs7、jar8、key9、trace二、hdfs命令1、classpath2、dfs3、fetchdt4、fsck(重要)5、getconf(重要)6、groups7、lsSnapshottableDir8、jmxget9、oev10、oiv11、sn

#hadoop#hdfs#big data
hadoop之yarn详解-命令篇

目录一、yarn命令概述二、命令详解2.1、application2.2、applicationattempt2.3、classpath2.4、container2.5、jar2.6、logs2.7、node2.8、queue2.9、daemonlog2.10、nodemanager2.11、proxyserver2.12、resourcemanager2.13、rmadmin2.14、scmad

#hadoop#yarn#big data
微服务下怎么做权限管理

(2)鉴权单体应用一般会通过拦截器(Spring Security、Apache Shrio本质上都是拦截器),拦截用户请求,这里同样会根据鉴权方案是JWT还是HTTP会话分别处理,如果是JWT的话,则会通过解密来获得用户信息,如果是采用的会话的方式,则会根据会话ID,从存储中(这里一般是Redis)来获得用户信息,不论是哪种方案,最终都是根据用户信息来对相应的请求进行权限校验。诸如此类的鉴权方式

文章图片
#微服务#架构#云原生
开放的redis、zk、kafka数据中心,json在线格式化

说明:我们在做开发是苦于没有redis、zk、kafka数据中心,没有json格式化工具,现在他来了开放的redis、zk、kafka数据中心,json在线格式化如果你觉得有用请作者喝杯水吧。

#java#jar#mysql +2
Scala尾递归-第七章

1)代码示例object TestRecursion {def main(args: Array[String]): Unit = {var data = 1 to 10println(sum1(data))println(sum2(data,0))}// 普通递归def sum1(args:Seq[Int]):Int ={if (args.isEmpty)0

#scala#开发语言#后端
java 中对于List集合,多字段分组,统计

1.java 中对于List集合,多字段分组,统计List<Student> list =new ArrayList<>();list.add(new Student("aaaa","aaaa","aaaa",15));list.add(new Student("aaaa","aaaa","aaaa",10));list.add(new Student("bbbb","bb

#java#list#开发语言
到底了