1. 夜莺介绍

官网：https://n9e.didiyun.com/
Github地址：https://github.com/didi/nightingale
夜莺运维平台是滴滴开源的一个运维平台，有着滴滴公司最佳实践
夜莺拆成了四个子系统，分别为

• 用户资源中心（RDB）
• 资产管理系统（AMS）
• 任务执行中心（JOB）
• 监控告警系统（MON）
  

2. Nightingale架构

• collector即agent，可以采集机器常见指标，支持日志监控，支持插件机制，支持业务通过接口直接上报数据
• transfer提供rpc接口接收collector上报的数据，然后通过一致性哈希，将数据转发给多台tsdb和多台judge
• tsdb即原来的graph组件，用于存储历史数据，支持配置为双写模式提升系统容灾能力，tsdb会把监控数据转发一份给index
• index是索引模块，替换原来的mysql方案，在内存里构建索引，便于后续数据检索，性能大幅提升
• judge是告警引擎，从monapi(portal)同步监控策略，然后对接收到的数据做告警判断，如满足阈值，则生成告警事件推到redis
• monapi(alarm)从redis读取judge生成的事件，进行二次处理，补充一些元信息，生成告警消息，重新推回redis
• 各发送组件，比如mail-sender、sms-sender等，从redis读取告警消息，发送告警，抽出各类sender是为了后续定制方便
• monapi集成了原来多个模块的功能，提供接口给js调用，api前缀为/api/portal，数据查询走transfer，干掉了原来的query组件，api前缀为/api/transfer，索引查询的api前缀/api/index，于是，前面搭建nginx，即可通过不同location将请求转发到不同后端
• 数据库仍然使用mysql，主要存储的内容包括：用户信息、团队信息、树节点信息、告警策略、监控大盘、屏蔽策略、采集策略、部分组件心跳信息等

3. 安装步骤

1、基础环境准备
系统：CentOS7.x
软件：Mysql、Redis、Nginx 【生产环境建议都采用高可用架构部署】

[root@n9e-110 ~]# yum install nginx mariadb* redis -y
[root@n9e-110 ~]# systemctl enable mariadb.service nginx redis
Created symlink from /etc/systemd/system/multi-user.target.wants/mariadb.service to /usr/lib/systemd/system/mariadb.service.
[root@n9e-110 ~]# systemctl start mariadb.service  nginx redis
[root@n9e-110 ~]# mysql_secure_installation

2、下载编译好的二进制到/home/n9e目录，如果要更换目录，要注意修改nginx.conf

mkdir -p /home/n9e
cd /home/n9e
[root@n9e-110 /home/n9e]# wget http://116.85.64.82/n9e.tar.gz
[root@n9e-110 /home/n9e]# tar zxvf n9e.tar.gz

3、初始化数据库，这里使用root账号，如果不是这个账号密码，注意修改/home/n9e/etc/mysql.yml

cd /home/n9e/sql
mysql -uroot -p1234 < n9e_ams.sql
mysql -uroot -p1234 < n9e_hbs.sql
mysql -uroot -p1234 < n9e_job.sql
mysql -uroot -p1234 < n9e_mon.sql
mysql -uroot -p1234 < n9e_rdb.sql

4、redis配置修改，默认配置的6379端口，密码为空，如果默认配置不对，可以执行如下命令，看到多个配置文件里有redis相关配置，挨个检查修改下

cd /home/n9e/etc
[root@n9e-110 /home/n9e/etc]# grep redis -r .
./judge.yml:redis:
./monapi.yml:# read alert from redis
./monapi.yml:redis:
./rdb.yml:redis:

5、下载前端静态资源文件，放到默认的/home/n9e目录下，如果要改目录，需要修改后面提到的nginx.conf

cd /home/n9e
[root@n9e-110 /home/n9e]# wget http://116.85.64.82/pub.tar.gz
[root@n9e-110 /home/n9e]# tar zxvf pub.tar.gz

前端的源码单独拆了一个repo，地址是： https://github.com/n9e/fe 没有和nightingale放一起

6、覆盖nginx.conf，夜莺不同web侧组件就是通过nginx的不同location区分的

[root@n9e-110 /home/n9e]# \cp etc/nginx.conf /etc/nginx/nginx.conf 
[root@n9e-110 /home/n9e]# nginx -t
nginx: the configuration file /etc/nginx/nginx.conf syntax is ok
nginx: configuration file /etc/nginx/nginx.conf test is successful
[root@n9e-110 /home/n9e]# systemctl restart nginx

7、检查identity.yml，要保证这个shell可以正常获取本机ip，如果实在不能正常获取，不懂shell的直接在specify字段写死也行

# 用来做心跳，给服务端上报本机ip
ip:
  specify: ""
  shell: ifconfig `route|grep '^default'|awk '{print $NF}'`|grep inet|awk '{print $2}'|head -n 1

# MON、JOB的客户端拿来做本机标识
ident:
  specify: ""
  shell: ifconfig `route|grep '^default'|awk '{print $NF}'`|grep inet|awk '{print $2}'|head -n 1

8、检查agent.yml的几个shell，挨个检查是否可以跑通，跑不通就改成适合自己的，不会改的抽你两耳刮子，比如disk部分，写死80Gi直接写：disk: echo 80Gi即可

report:
  # ...
  sn: dmidecode -s system-serial-number | tail -n 1

  fields:
    cpu: cat /proc/cpuinfo | grep processor | wc -l
    mem: cat /proc/meminfo | grep MemTotal | awk '{printf "%dGi", $2/1024/1024}'
    disk: df -m | grep '/dev/' | grep -v '/var/lib' | grep -v tmpfs | awk '{sum += $2};END{printf "%dGi", sum/1024}'

9、启动各个进程，包括mysql、redis、nginx，夜莺的各个组件直接用control脚本启动即可，后续上生产环境，可以用systemd/supervisor托管

cd /home/n9e
[root@n9e-110 /home/n9e]# ./control start all
rdb started
job started
ams started
monapi started
tsdb started
index started
transfer started
judge started
agent started

[root@n9e-110 /home/n9e]# ./control status 
root      19429  0.3  0.8 841556 17268 pts/0    Sl   13:47   0:01 /home/n9e/n9e-rdb
root      19441  0.3  0.8 921140 18032 pts/0    Sl   13:47   0:01 /home/n9e/n9e-job
root      19462  0.0  0.7 912652 14988 pts/0    Sl   13:47   0:00 /home/n9e/n9e-ams
root      19502  0.1  0.8 840836 17612 pts/0    Sl   13:47   0:00 /home/n9e/n9e-monapi
root      19527  0.1  0.9 850512 18652 pts/0    Sl   13:47   0:00 /home/n9e/n9e-tsdb
root      19549  0.1  0.7 848420 14316 pts/0    Sl   13:47   0:00 /home/n9e/n9e-index
root      19570  0.3  0.8 915252 17284 pts/0    Sl   13:47   0:01 /home/n9e/n9e-transfer
root      19585  0.1  0.8 922144 18136 pts/0    Sl   13:47   0:00 /home/n9e/n9e-judge
root      27981  3.3  0.8 906228 16808 pts/0    Sl   13:52   0:00 /home/n9e/n9e-agent

10、登录web
默认账号root，密码root.2020，进来第一步修改密码，如果nginx报权限类的错误

[root@n9e-110 /home/n9e]# getenforce 
Disabled

上面安装步骤如果走完了仍然没有搭建起来，你可能需要 使用Docker安装 或者 查看视频教程

4. 子系统简介

夜莺拆成了四个子系统，分别是：用户资源中心（RDB）、资产管理系统（AMS）、任务执行中心（JOB）、监控告警系统（MON）。下面分别介绍一下这几个子系统的设计初衷

5. 用户资源中心

这是一个平台底座，所有的运维系统，都需要依赖这个，内置用户、权限、角色、组织、资源的管理。最核心的是一棵组织资源树，树节点的类别和扩展字段可以自定义，组织资源树的层级结构最简单的组织方式是：租户》项目》模块，复杂一点的组织方式：租户》组织》项目》模块》集群，组织是可以嵌套的。节点上挂两类对象，一个是人员权限，一个是资源，资源可以是各类资源，除了主机设备、网络设备，也可以是rds实例，redis实例，当然，这就需要rds、redis的管控系统和RDB打通了。滴滴在做一些大的中后台商业化解决方案的时候，RDB就是扮演了这么一个底座的角色。

6. 资产管理系统

这里的资产管理系统，是偏硬件资产的管理，这个系统的使用者一般是系统部的人，资产管理类人员，应用运维相对不太关注这个系统。开源版本开放了一个主机设备的管理，大家可以二开，增加一些网络设备管理、机柜机架位的管理、配件耗材的管理等等，有了底座，上面再长出一些其他系统都相对容易。agent安装之后，会自动注册到资产管理系统，自动采集到机器的sn、ip、cpu、mem、disk等信息，这些信息为了灵活性考虑，都是用shell采集的，上文“安装步骤”一章有提到，其中最重要的是ip，系统中有很多设备，ip是需要全局唯一，其他的sn、cpu、mem、disk等，如果无法采集成功，可以写死，shell里直接写echo一个假数据即可。

每一条资产，都有一个租户的字段，代表资产归属，需要管理员去分配资产归属（修改资产的所属租户），各个租户才能使用对应的资产，分配完了之后，会出现在用户资源中心的“游离资源”菜单中，各个租户就可以把游离资源挂到资产树上去分门别类的管理使用。树节点的创建是在树上右键哈。

7. 任务执行中心

用于批量跑脚本，类似pssh、ansible、saltstack，不过不支持playbook，大道至简，就用脚本撸吧，shell、python、perl、ruby，都行，只要机器上有解析器。因为是内置到夜莺里的，所以体系化会更好一些，和组织资源树的权限是打通的，可以控制不同的人对不同的机器有不同的权限，有些人可以用root账号执行，有些人只能用普通账号执行，历史执行记录都可以通过web页面查看审计。任务本身支持一些控制：暂停点、容忍度、单机超时时间、中途暂停、中途取消、中途Kill等。

一些经常要跑的脚本，可以做成模板，模板是对脚本的一种管理方式，后续就可以基于模板创建任务，填个机器列表就可以执行。比如安装JDK，调整TCP内核参数，调整ulimit等机器初始化脚本，都可以做成模板。

开源版本的任务执行中心，可以看做是一个命令通道，后续可以基于这个命令通道构建一些场景化应用，比如机器初始化平台、服务变更发布平台、配置分发系统等。任务执行中心各类操作都有API对外暴露，具体可参看：router.go 我司的命令通道每周执行任务量超过60万，就是因为各类上层业务都在依赖这个命令通道的能力。

8. 监控告警系统

这块核心逻辑和v2版本差别不大，监控指标分成了设备相关指标和设备无关指标，因为有些自定义监控数据的场景，endpoint不好定义，或者endpoint经常变化，这种就可以使用设备无关指标的方式来处理。监控大盘做了优化，引入了更多类型的图表，但夜莺毕竟是个metrics监控系统，处理的是数值型时序数据，所以，最有用的图表其实就是折线图，其他类型图表，看看就好，场景较少。夜莺也可以对接Grafana，有个专门的DataSource插件，Grafana会更炫酷一些，只是，在数据量大的时候性能较差。