logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

分布式存储ceph:Qos

QoS最早起源于网络通信,是指一个通信网络能够利用各种基础技术,为特定应用提供更好的服务能力。简单来说就是如何设置规则,共享资源。随着Ceph的成熟,特别是在OpenStack将Ceph作为存储后端之后,Ceph的QoS就变得更加重要了。前端QoS前端QoS是指在客户端实现QoS,是最简单、最常用的,我们以OpenStack Cinder+ Ceph RBD为例进行说明。虽然Ceph RBD目前还

#ceph
分布式散列表(DHT)及具体实现Kademlia(kad)/Chord

分布式散列列表主要是⽤用于分布式系统(此时,分布式系统的节点可以通俗理理解为散列列表中的 bucket),分布式散列列表主要是⽤用来存储⼤大量量的(甚⾄至是海海量量的)数据。在实际使⽤用场景中,直接对所存储的“每⼀一个业务数据”计算散列列值,然后用散列列值作为 key,业务数据本身是 value。

#分布式#散列表#哈希算法
分布式存储ceph:加密和压缩

加密加密是将用户的明文数据通过加密,变成加密数据,在数据被窃取的时候起到防护作用。对于Ceph来说,从应用程序到存储设备的数据链路上来看,根据对数据加密的位置,现阶段主要有以下几种加密方式。· 客户端加密:这包括应用程序本身的加密,以及更为广泛的通用加密模块。如Linux内核的dmcrypt。这些加密都在客户端进行,意味着在网络上传送的都是加密数据,存储的也都是加密数据。· 存储端加密:数据的加密

#ceph
数据重删------定长重删和不定长(滑动窗口,内容分块)重删算法

块级重删是指将数据流或者文件根据某种方式进行切片(也叫分块),以数据块为单位进行hash计算,以此找到相同的数据块进行删除。块级重删又分为定长重删和变长重删。定长重删定长重删其实很好理解,实现逻辑也比较简单。将要备份的数据以固定长度进行分块,并计算每个分块的hash值(value)。如下图所示,每4个数据进行分块,数据总共被分成了4个切片,计算各个切片的hash值。当数据首次备份时,得到finge

Linux Storage Stack Diagram v4版内核存储io堆栈逻辑图

版本为:Linux Storage Stack Diagram v4.10blk-mq(mq就是多队列的意思),第一个原形与2011年提出,并在2014年合并进Linux 3.13内核。block层在加入了blk-mq之后,发生了很大的变化。由于blk-mq的加入,在smp中能够有效利用多硬件队列的储存设备的高并发特性,之前io performance瓶颈在于储存设备,随着pci-e s...

#linux
etcd系列-----raft协议:重要数据结构介绍(Entry、Message、storage、unstable)

一些基础结构体介绍:Entry记录:在前面介绍Raft协议时提到,节点之间传递的是消息(Message), 每条消息中可以携带多条Entry记录,每条Entry记录对应一个独立的操作。在Entry中其中封装了如下信息::Term( uint64类型): 该Entry所在的任期号。: Index ( uint64类型): 该Entry对应的索引号。:Type( E...

#etcd
传统存储SAN、NAS和分布式存储、ServerSAN全面解读

随着主机、磁盘、网络等技术的发展,对于存储空间和性能的要求越来越高,服务器的内置磁盘往往不足以满足存储需的要求。因此,在内置存储之外,服务器需要采用外置存储的方式扩展存储空间。网络连接存储(简称NAS)网络储存设备 (Network Attached Storage,NAS),NAS是通过IP网络访问的文件系统,可以理解为硬盘+文件系统软件的组合。NAS存储设备可以直接连接在以太网中,之后...

伽罗华域(Galois Field)有限域元素生成和运算原理

存储编码,矩阵等之间的运算都是在伽罗华域(Galois Field,GF,有限域)上进行的,所以要实现底层的运算库,必须了解 GF 上的运算规则。域:一组元素的集合,以及在集合上的四则运算,构成一个域。其中加法和乘法必须满足交换、结合和分配的规律。加法和乘法具有封闭性,即加法和乘法结果仍然是域中的元素。域中必须有加法单位元和乘法单位元,且每一个元素都有对应的加法逆元和乘法逆元。但不要求域中的...

#算法
空间数据结构管理---RTree(上篇)

R树是一种用于处理多维数据的数据结构,用来访问二维或者更高维区域对象组成的空间数据

#数据结构
传统存储SAN、NAS和分布式存储、ServerSAN全面解读

随着主机、磁盘、网络等技术的发展,对于存储空间和性能的要求越来越高,服务器的内置磁盘往往不足以满足存储需的要求。因此,在内置存储之外,服务器需要采用外置存储的方式扩展存储空间。网络连接存储(简称NAS)网络储存设备 (Network Attached Storage,NAS),NAS是通过IP网络访问的文件系统,可以理解为硬盘+文件系统软件的组合。NAS存储设备可以直接连接在以太网中,之后...

    共 21 条
  • 1
  • 2
  • 3
  • 请选择