最新项目需要使用mongodb存储大量的数据,并且要对这些数据进行查询。最开始的做法是先把数据存完,再对部分字段进行添加索引(单字段、组合字段)。

场景环境如下:
1.服务器配置:8C 最大32G mongodb为docker单机部署
2.集合的大小:约为1000W个文档
3.文档的大小:约700个字段,包含字段名和字段值,每个字段约16个字节大小

后发现执行很慢,1个数据量为1000W文档的Collection,每个文档约700个字段,添加一个索引耗时约半小时。建索引就是一个容易引起长时间写锁的问题,MongoDB 在前台建索引时需要占用一个写锁(而且不会临时放弃),如果集合的数据量很大,建索引通常要花比较长时间,特别容易引起问题。
可以通过background 操作解决:
在这里插入图片描述示例:db.collection.createIndex( { a: 1 }, { background: true } )

但是,由于业务流程,想简化步骤。想在创建集合时就把需要的索引创建好。官网API有提供,网上也有解决方案。但大部分都是使用命令行的方式的,这里贴出一个基于mongoTemplate的方式。

在这里插入图片描述

Logo

权威|前沿|技术|干货|国内首个API全生命周期开发者社区

更多推荐