MongoDB分片详解

MongoDB分片详解

什么是MongoDB分片

MongoDB分片是指将数据水平分隔为多个部分,存储在不同的服务器上。这样做的目的是为了解决单一MongoDB实例容量有限的问题,以此来满足庞大数据量的存储需求。

分片设置

分片设置主要包括3个部分:配置服务器、mongod分组和路由器(mongos)。

配置服务器

配置服务器是MongoDB集群的核心部分,用于存储集群的元数据信息。配置服务器通常至少需要3 个。

以下是在Linux上安装配置服务器的步骤:

  1. 在MongoDB官网下载二进制文件
  2. 解压后放在/usr/local/mongodb-shard目录下
  3. 在/usr/local/mongodb-shard下创建mkdir db/cs1/db
  4. 创建配置文件touch cs1.cfg
  5. 编辑配置文件vim cs1.cfg
  6. 添加内容

```
systemLog:
destination: file
path: "/usr/local/mongodb-shard/logs/cs1.log"
logAppend: true
storage:
dbPath: "/usr/local/mongodb-shard/db/cs1/db"
journal:
enabled: true

端口号 27017 是一个不错的选择

net:
port: 27017
bindIp: 0.0.0.0
sharding:
clusterRole: configsvr
```
7. 启动MongoDB配置服务器/ usr / local / mongodb-shard / bin /mongod --config / usr / local / mongodb-shard/cs1.cfg

mongod分片组

mongod分片组是用于MongoDB分片的核心部分。主要作用是将数据分布在不同的服务器上。

以下是在Linux上安装mongod分片组的步骤:

  1. 在MongoDB官网下载二进制文件
  2. 解压后放置在/usr/local/mongodb-shard文件夹中
  3. 在/usr/local/mongodb-shard下创建mkdir db/shard1/db
  4. 创建配置文件touch shard1.cfg
  5. 编辑配置文件vim shard1.cfg
  6. 添加内容

```
systemLog:
destination: file
path: "/usr/local/mongodb-shard/logs/shard1.log"
logAppend: true
storage:
dbPath: "/usr/local/mongodb-shard/db/shard1/db"
journal:
enabled: true

注意,每个分片的端口应该一致

比如在服务1 和服务2上,都应该使用 27017

net:
port: 27017
bindIp: 0.0.0.0
sharding:
clusterRole: shardsvr
# 以上参数会经常变化,需要根据需要配置
# 下面这个参数是mongod运行后,能够被mongos所识别的名字
# 这个名字要含有这个分片的具体位置信息
# 比如,我选择用mongod1,mongod2来表示两台服务器的不同分片
# 意味着这些分片位于完全不同的物理位置,需要命名不同的名称
replication:
replSetName: shard1
```
7. 启动mongod分片组/ usr / local / mongodb-shard / bin /mongod --config / usr / local / mongodb-shard/shard1.cfg

路由器(mongos)

路由器(mongos)是MongoDB分片的入口,它将所有的读写请求路由到正确的mongod实例上。

以下是在Linux上安装路由器(mongos)的步骤:

  1. 在MongoDB官网下载二进制文件
  2. 解压后放置在/usr/local/mongodb-shard文件夹中
  3. 创建配置文件touch mongos1.cfg
  4. 编辑配置文件vim mongos1.cfg
  5. 添加内容

systemLog:
destination: file
path: "/usr/local/mongodb-shard/logs/mongos1.log"
logAppend: true
net:
port: 27017
bindIp: 0.0.0.0
sharding:
configDB: "config/localhost:27017"

  1. 启动mongos
    /usr/local/mongodb-shard/bin/mongos --config /usr/local/mongodb-shard/mongos1.cfg

分片集合

场景:假设有一个名为customers的集合,他们的数据比较大,现希望将该集合进行分片。

创建索引

在mongos实例中运行以下命令创建索引:

use db
db.customers.createIndex({phone:1,email:1})

启用分片

在mongos实例中运行以下命令启用分片:

use admin
sh.enableSharding("db")

sh.shardCollection("db.customers",{phone:1,email:1})

这个命令的含义是:使用phoneemail字段将集合db.customers进行分片。这样做后,每条文档都会分配到不同的mongod实例中存储。

示例说明

以上内容可能不是太好理解,下面我将通过一个简单的例子说明怎样进行MongoDB分片。

假设我们的数据包含两个collection:名称为students和teachers,students至少拥有1000万条数据,teachers仅有几千条数据。在这种情况下,我们可以将students进行分片,而将teachers保留在单实例中。

具体步骤如下:

克隆现有实例,以3副本的方式在三个节点上运行

# clone mongoD2
mongod --port 20001 --dbpath /data/db2_1 --replSet myset --fork --logpath /data/db2_1/log
# create dir
mkdir /data/db2_2 /data/db2_3
# Start the second and third instances
mongod --port 20002 --dbpath /data/db2_2 --replSet myset --fork --logpath /data/db2_2/log
mongod --port 20003 --dbpath /data/db2_3 --replSet myset --fork --logpath /data/db2_3/log

启动MongoS路由器

mongos --configdb myset/localhost:20001,localhost:20002,localhost:20003 --port 20000 --fork --logpath /data/mongos.log

启用分片

此时,我们要将students集合进行分片,我们应该做的第一步是向MongoDB导入一些数据。然后我们在MongoS实例上运行以下命令:

# Insert data
for(i=1; i<2000000; i++) {
db.students.insert({sid:i,name:"test",score:i%100})
}

# Enable Sharding
sh.enableSharding("test")
sh.shardCollection("test.students",{sid: "hashed"})

现在,列表test.students已经成功进行分片。

总结

通过以上步骤,MongoDB分片集群就可以顺利地建立了。我们可以向其中的任何一个mongos节点发出任何查询请求,mongos会将请求转发到正确的MongoDB分片集群服务器上。这样,我们就可以存储更多的数据来处理业务需求了。

本站文章如无特殊说明,均为本站原创,如若转载,请注明出处:MongoDB分片详解 - Python技术站

(0)
上一篇 2023年5月16日
下一篇 2023年5月16日

相关文章

  • mongodb中非常好用的Aggregate入门教程

    下面我将分享关于”MongoDB中非常好用的Aggregate入门教程”的完整攻略。 什么是MongoDB的Aggregate? MongoDB的Aggregate是一个强大的工具,用于对MongoDB中的数据集进行聚合和处理。它提供了一种更高级别的操作方式,以便于查找、筛选和处理文档。使用聚合,可以通过多种操作组合从多个文档中选择、组合和计算数据。 Mon…

    MongoDB 2023年5月16日
    00
  • MongoDB入门教程之C#驱动操作实例

    下面进入详细讲解“MongoDB入门教程之C#驱动操作实例”的完整攻略。 简介 MongoDB是一个流行的NoSQL数据库,支持存储非结构化数据,并具有高可用性、强一致性等特点。C#驱动是MongoDB官方推荐的C#语言访问MongoDB的方法。 本教程将介绍如何使用C#驱动来连接MongoDB,并完成常见的增删改查等操作。同时,还会包含两个完整的代码示例帮…

    MongoDB 2023年5月16日
    00
  • MongoDB超大块数据问题解决

    为了解决 MongoDB 超大块数据问题,可以采用以下几个步骤: 1. 修改 BSON 大小限制 默认情况下,MongoDB 对单个文档的大小有限制,它不能超过 16MB,因此如果在插入大型文件或文档时,可能会遇到错误。为了解决这个问题,可以使用下面的命令在 MongoDB 中设置更大的 BSON 最大限制 mongod –setParameter max…

    MongoDB 2023年5月16日
    00
  • 使用node+vue.js实现SPA应用

    使用node+vue.js实现SPA应用的完整攻略: 环境准备 首先你需要下载安装Node.js,它可以在官网上下载到。安装完成后,你需要在终端/命令窗口中验证Node.js是否已经正确安装: node -v 如果一切正常,你会得到Node.js的版本号。 接着,你需要用npm安装vue-cli工具: npm install -g vue-cli 完成后,通…

    MongoDB 2023年5月16日
    00
  • MongoDB数据库中索引(index)详解

    MongoDB数据库中索引(index)详解 在MongoDB中,索引是提高查询效率的一种方式。本文详细讲解MongoDB中索引的基本知识和使用方法。 什么是索引? 索引是数据库中用于提高查询效率的一种数据结构。在MongoDB中,索引是基于B-tree的数据结构,用于快速定位数据。通过在一定的空间和时间成本下建立附加的数据结构,以达到快速查询的目的。 在M…

    MongoDB 2023年5月16日
    00
  • MongoDB释放空闲空间的几种常用方法

    针对”MongoDB释放空闲空间的几种常用方法”,我准备详细讲解以下内容: 1. MongoDB释放空闲空间概述 在MongoDB中,每当文档被删除或者更新时,MongoDB会把这个文档占用的存储空间标记为“可重用”的空间。虽然这个空间看起来是空闲的,但是它被MongoDB存储引擎缓存起来以供后续使用。虽然这种机制的好处在于提高了MongoDB的写入性能,但…

    MongoDB 2023年5月16日
    00
  • MongoDB数据查询方法干货篇

    MongoDB数据查询方法干货篇 MongoDB是一种非关系型数据库,因其具有高性能、高可扩展性等特点而受到广泛使用。为了更好地利用MongoDB,我们需要掌握其中的数据查询方法。本篇将对MongoDB的数据查询方法进行详细讲解,并提供两个示例说明。 常用查询方法 查询所有文档 查询所有文档是一种最简单的查询方法。可以使用find()方法来实现。示例代码如下…

    MongoDB 2023年5月16日
    00
  • 详解MongoDB创建数据库步骤

    MongoDB是一款基于文档存储的非关系型数据库,以下是如何创建数据库的完整攻略。 安装MongoDB 首先需要在计算机上安装MongoDB,安装方法可以查看官方文档或者从MongoDB官网下载安装程序,根据安装向导完成安装。 启动MongoDB服务 在安装完成后,需要启动MongoDB服务。在Windows系统中,可以通过运行CMD或者PowerShell…

    MongoDB 2023年3月14日
    00
合作推广
合作推广
分享本页
返回顶部