最近一直在研究Mesos, Marathon跟Docker结合的容器云平台，Mesos 框架已经搭好，并且Marathon也可以实现简单的Docker应用管理了，然后今天尝试搭建一下mesosphere公司的DC/OS平台（https://dcos.io/），利用这个平台可以很容易实现基于容器的云计算平台的资源调度，管理，应用分配，负载均衡，动态扩展，故障转移等。DC/OS底层系统也是基于Docker的，根据官方文档建议，我们把IBM Bluemix 提供的CentOS7系统上Docker默认的文件系统DeviceMapper改为OverlayFS。

Docker最开始支持的文件系统是Aufs的，是一种Union File System,原理就是将多个目录挂在到同一个虚拟目录下，整个文件系统是一个分层的概念，请看图：

wKiom1dIIWXAoDIbAAJ5OoZjH4s479.png

然后RedHat系列的系统是不支持Aufs的，当Docker变得越来越流行的时候，RedHat公司发行我也得插一脚进去，然后RedHat公司就对这个Aufs研究了一下，然后说“恩，我们牛逼，我要开发一套新的文件系统用来运行Docker”。后来这套系统就是基于自家的在kernel2.6之后被引进的DeviceMapper技术。主要用到Docker上的就是Snapshot和Thinly-provisioned Snapshot, 这个Snapshot在LVM逻辑卷管理场景下用来创建虚拟快照的，Thin-Provisioning是一项利用虚拟化方法减少物理存储部署的技术，可最大限度提升存储空间利用率。当这两个技术结合起来就是DeviceMapper给RedHat系统实现Docker文件系统的最后方案了。其实这个方案也是基于分层的理论给每一层镜像创建快照。如图：

wKioL1dIJdHwqFDHAAD_qU7DrCc141.jpg

然而DeviceMapper的性能并不是那么的好，DC/OS官网给出的解释是会出现unknown issue并且不能再Docker里面运行Docker，DeviceMapper默认情况下创建loop-lvm的方式来构建镜像和容器的snapshots。但是在生产环境下Docker官方建议采用直连的lvm卷来构建镜像和容器，然后在启动Docker Daemon的时候使用如下方式来加载：

1
2
3
4
5
{
      "storage-driver" :  "devicemapper" ,
      "storage-opts" : [          "dm.thinpooldev=/dev/mapper/docker-thinpool" ,          "dm.use_deferred_removal=true"
      ]
  }

在系统里运行docker info即可查看到使用的是什么文件系统：

这是Cent6.5系统的，发现使用的是devicemapper，而且Data File是loop0：


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
# docker info
Containers: 11
Images: 63
Storage Driver: devicemapper
  Pool Name: docker-252:1-679218-pool
  Pool Blocksize: 65.54 kB
  Backing Filesystem: extfs
  Data  file :  /dev/loop0
  Metadata  file :  /dev/loop1
  Data Space Used: 2.221 GB
  Data Space Total: 107.4 GB
  Data Space Available: 9.648 GB
  Metadata Space Used: 4.166 MB
  Metadata Space Total: 2.147 GB
  Metadata Space Available: 2.143 GB
  Udev Sync Supported:  true
  Deferred Removal Enabled:  false
  Data loop  file :  /var/lib/docker/devicemapper/devicemapper/data
  Metadata loop  file :  /var/lib/docker/devicemapper/devicemapper/metadata
  Library Version: 1.02.95-RHEL6 (2015-09-08)
Execution Driver: native-0.2
Logging Driver: json- file
Kernel Version: 2.6.32-573.22.1.el6.x86_64
Operating System: <unknown>
CPUs: 2
Total Memory: 2.819 GiB
Name: bastion.shanker
ID: SJVK:KAXO:ZDAB:XWSM:O45I:EF6U:GE2T:RU3Y:NW6B:K4IQ:DYEN:B4BJ


这台是Ubuntu12.04的,使用的Aufs系统：


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
# docker info
Containers: 1
  Running: 0
  Paused: 0
  Stopped: 1
Images: 38
Server Version: 1.10.3
Storage Driver: aufs
  Root Dir:  /var/lib/docker/aufs
  Backing Filesystem: extfs
  Dirs: 101
  Dirperm1 Supported:  false
Execution Driver: native-0.2
Logging Driver: json- file
Plugins: 
  Volume:  local
  Network: host bridge null
Kernel Version: 3.13.0-24-generic
Operating System: Ubuntu 14.04.1 LTS
OSType: linux
Architecture: x86_64
CPUs: 1
Total Memory: 1.463 GiB
Name: dbslave.shanker
ID: IDR4:IA4B:3GDE:O6KF:IACI:BQE2:5SJL:25CA:4KV3:OCIG:RGYC:N22G
Username: shanker
Registry: https: //index .docker.io /v1/
WARNING: No swap limit support


这台是CentOS7.2系统，使用的是我更改后的OverlayFS系统：


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
# docker info
Containers: 3
  Running: 0
  Paused: 0
  Stopped: 3
Images: 5
Server Version: 1.11.1
Storage Driver: overlay
  Backing Filesystem: xfs
Logging Driver: json- file
Cgroup Driver: cgroupfs
Plugins: 
  Volume:  local
  Network: bridge null host
Kernel Version: 3.10.0-327.18.2.el7.x86_64
Operating System: CentOS Linux 7 (Core)
OSType: linux
Architecture: x86_64
CPUs: 1
Total Memory: 3.703 GiB
Name: ukcent2.novalocal
ID: 7Q46:GGPP:HOLP:5ICX:WXV7:ZC73:S45I:HVC2:UEWX:FL6L:DMSC:TVYH
Docker Root Dir:  /var/lib/docker
Debug mode (client):  false
Debug mode (server):  false
Registry: https: //index .docker.io /v1/

然后我们今天要做的是放弃DeviceMapper，使用OverlayFS来作为默认的存储系统。首先要升级到CentOS7.2，有一个XFS的Bug在7.2系统被修复了。


1.    将OverlayFS加到module目录下

1
echo  "overlay"  >  /etc/modules-load .d /overlay .conf


2.    reboot 系统，执行lsmod看时候看到overlay

1
2
# lsmod | grep over
overlay                42451  0


3.    将Docker源添加到系统里

1
2
3
4
5
6
7
8
cat  > /etc/yum .repos.d /docker .repo<<E
[dockerrepo]
name=Docker Repository
baseurl=https: //yum .dockerproject.org /repo/main/centos/ $releasever/
enabled=1
gpgcheck=1
gpgkey=https: //yum .dockerproject.org /gpg
E


4.    配置Docker Daemon用OverlayFS启动

1
2
3
4
5
6
sudo  mkdir  -p  /etc/systemd/system/docker .service.d
sudo  cat  > /etc/systemd/system/docker .service.d /override .conf <<E
[Service] 
ExecStart= 
ExecStart= /usr/bin/docker  daemon --storage-driver=overlay -H fd: // 
E


5.    安装Docker，设置开机自启动

1
2
3
sudo  yum -y  install  docker-engine
sudo  sysctemctl start docker
sudo  systemctl  enable  docker


6.    Docker info 看一下，如果看到

1
Storage Driver: overlay

那就证明更改成功，已经从Devicemapper换到了ovelay了。


附：Docker目前支持的文件系统

wKioL1dIS1Lx3I0CAAA02T6uBaQ601.png


参考：

https://docs.docker.com/engine/userguide/storagedriver/selectadriver/

https://docs.docker.com/engine/userguide/storagedriver/aufs-driver/

https://dcos.io/docs/1.7/administration/installing/custom/system-requirements/#docker

http://coolshell.cn/articles/17200.html

http://www.infoq.com/cn/articles/analysis-of-docker-file-system-aufs-and-devicemapper

# docker # 云计算
Logo
向您推荐>>Eolink开发者社区

权威｜前沿｜技术｜干货｜国内首个API全生命周期开发者社区

更多推荐

沃云统一开发平台介绍

沃云集成平台研发平台介绍1.平台优势2.平台原理3.研发平台使用方法4.遇到的问题5.现阶段实现的功能6.后续需要补充的功能和优化内容研发平台介绍1.平台优势解决孤岛式应用，实现能力共享；现有系统框架过于复杂，跨系统业务处理成本居高不下，协同服务共享，降低运维成本；提高项目应用资源监控能力，改善资源利用率；业务微服务化，快速发布、快速部署，快速响应业务需求变化；沃云平台不仅提供了自动化的、可快速部

avatar 云原生

(20200916 Solved)docker-compose up创建容器自动退出

问题描述如题，创建容器后自动退出了。并且docker start container无效解决方案原因是缺失了控制终端的配置，需要在docker-compose.yml中增加tty:true ，有时候这样也不行，需要再增加一个command:/bin/bash，命令不一定是这个，需要是一个不会退出的命令，然后用-d后台启动容器。Referencesdocker-compose启动容器后自动退出...

avatar 云原生

基于docker的test-containers环境百宝箱

笔者语录： 我开了个公众号【Java你我他】，欢迎大家关注。  在很多时候，程序猿们更关注代码本身，而不愿意把时间花费在环境搭建上，这也是Docker变得越来越受欢迎的原因之一。test-containe是Docker生态圈中的一颗新星，其 主要针对测试领域、背靠Docker实现环境百宝箱功能。  test-containers： 你要的环境，我都有~  假设我们现在需要一个redis-clust

avatar 云原生