logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

分布式概念:通信之发布订阅(kafka)

发布订阅的三要素是生产者、消费者和消息中心生产者负责产生数据放到消息中心,消费者向消息中心订阅自己感兴趣的消息,当发布者推送数据到消息中心后,消息中心根据消费者订阅情况将相关数据推送给对应的订阅者。发布订阅的基本工作原理生产者可以发送消息到消息中心,而消息中心通常以主题(Topic)进行划分,每条消息都会有相应的主题,消息会被存储到自己所属的主题中,订阅该主题的所有消费者均可获得该消息进行消费。假

Postgresql之数据库优化参数设置

比较常见的几个数据库参数配置:1.share_buffer大的shared_buffers需要大的checkpoint_segments,同时需要申请更多的System V共享内存资源. 并且增加共享内存管理的开销.这个值不需要设的太大, 因为PostgreSQL还依赖操作系统的文件系统cache来提高读性能, 另外, 写操作频繁的数据库这个设太大反而会增加checkpoint压力.在9.4版本中

mysql实现over()开窗函数功能

Mysql实现开窗函数功能:参考:http://stackoverflow.com/questions/3333665/rank-function-in-mysql

mysql实现over()开窗函数功能

Mysql实现开窗函数功能:参考:http://stackoverflow.com/questions/3333665/rank-function-in-mysql

oracle笔记总结

1.OLAP/OLTP介绍OLTP  online tranaction processing,联机事务处理,在线处理;OLTP 比较常用的设计与优化方式为 比较常用的设计与优化方式为CacheCacheCacheCache 技术与 B-tree treetree索引技术, 索引技术, CacheCacheCacheCache 决定了很多语句不需要从磁盘子系统获得数据, OLAP

分布式概念:分布式计算(MapReduce、Stream、Actor、流水线)

Map Reduce 模式(海量数据的处理)核心思想:将一个复杂的、难以直接解决的大问题,分割成一些规模较小的、可以比较简单的或直接求解的子问题,这些子问题之间相互独立且与原问题形式相同,递归地求解这些子问题,然后将子问题的解合并得到原问题的解。MapReduce 分为 Map 和 Reduce 两个核心阶段,其中 Map 对应“分”,即把复杂的任务分解为若干个“简单的任务”执行;Reduce 对

分布式概念:分布式选举(选举主节点)

分布式选举主节点,在一个分布式集群中负责对其他节点的协调和管理。分布式选举的算法序号选举的算法( Bully 算法)核心思想选取 ID 最大的节点作为主节点。在 Bully 算法中,节点的角色有两种:普通节点和主节点。初始化时,所有节点都是平等的,都是普通节点,并且都有成为主的权利。但是,当选主成功后,有且仅有一个节点成为主节点,其他所有节点都是普通节点。当且仅当主节点故障或与其他节点失去联系后,

大数据伪分布式环境搭建hadoop+zookeeper+hive+sqoop+hbase

最近开始学习大数据,自己在虚拟机中搭建了一套环境,因为参考的博客写的很详细,自己不再重写,只给出链接:http://blog.csdn.net/pucao_cug?viewmode=contents自己在搭建过程中,出的一些问题:1.配置authorized_keys文件     生成key文件后,在hserver1上拷贝时少了开头的一个字母,结果hserver1通过ssh跳转hs

#hadoop#大数据#hbase +1
python-正则匹配在python中使用小练习

#!/usr/bin/python# encoding: utf8import redef plural(noun):if re.search('[sxz]$',noun):return re.sub('$','es',noun)elif re.search('[^aeioudgkprt]h$',noun):return re.sub('$','es',noun)el

python-打开文件与读写文件

#!/usr/bin/python# encoding: utf8#with 语句不只是针对文件而言的,它是一个用来创建运行时环境的通用框架(genericframework),告诉对象它们正在进入和离开一个运行时环境。print '\u9fa5'print '\u003f'#创建文件并写入内容with open('test.txt',mode='w') as a_file:a

    共 12 条
  • 1
  • 2
  • 请选择