GaussDB(DWS)网络流控与管控效果

摘要:本文主要介绍GaussDB(DWS)网络流控能力,并对其管控效果进行验证。

本文分享自华为云社区《GaussDB(DWS)网络流控与管控效果》,作者:门前一棵葡萄树。

上一篇博文GaussDB(DWS)网络调度与隔离管控能力,我们详细介绍了GaussDB网络调度逻辑,并简单介绍了如何应用网络隔离管控能力。本篇博文主要介绍GaussDB(DWS)网络流控能力,并对其管控效果进行验证。

一、网络过载影响分析

网络过载对性能的影响主要体现在两方面:

  1. 网络调度对性能的影响,性能影响原因分析与GaussDB网络调度详见博客:GaussDB(DWS)网络调度与隔离管控能力
  2. TCP缓存对性能的影响,本篇博客主要分析TCP缓存对性能的影响,并介绍GaussDB如何通过流控实现对TCP缓存的控制。

众所周知,TCP是一种面向连接的可靠的传输协议,为了保证数据传输的可靠,发送方发送的每一个数据包,接收方都需要向发送方回复一个应答,如果发送失败,则进行重传。上述机制保证了数据传输的可靠性,但是缺点也是比较明显的:发送方每发送一个数据包都需要等待接收方确认,接收方确认接收后再发送下一个数据包,两次发送之间的时间间隔取决于数据包收发时延和接收端处理能力,这个时间间隔越大,通信效率越低。为了解决这个问题,TCP引入了窗口的概念,所谓的窗口其实是操作系统开辟缓存空间用于收发数据包缓存,以提高通信效率,提升网络吞吐量,详细原理可参考TCP滑动窗口机制。

TCP缓存解决了TCP协议通信效率低的问题,但是网络过载情况下,TCP缓存一般比较高,这就导致高优业务发送数据包时,需要等待缓存区中数据全部发送完成后,才能发送高优业务的数据包,这个等待时间,我们称之为发送时延。显而易见,网络带宽不变的情况下,TCP缓存越大,发送时延也就越大。

假设网络带宽1GB,TCP缓存中有2MB数据,则TCP缓存中数据全部发送出去的时间 = 2/1024*1000 = 1.95ms,考虑到接收方数据处理和应答时延,实际发送时延在2~4ms之间。如果高优作业每发送一个数据包都需要等待2~4ms的话,这个时间累积起来还是非常恐怖的。

实验室环境下,构造网络过载场景,测试TCP缓存对业务性能的影响,测试环境配置如下:

GaussDB(DWS)网络流控与管控效果

使用大表broadcast作为背景压力,两个表简单关联作为正常业务进行测试,测试数据如下:

GaussDB(DWS)网络流控与管控效果

注:为了更直观地体现TCP缓存对性能的影响,我们使用相对无背景压力增加的执行时间作为性能裂化指标。

背景压力测试过程中TCP缓存持续高达2MB以上,从上述测试数据看,单纯的网络调度无法彻底解决网络过载对业务性能的影响。其他环境参数不变,测试TCP缓存对性能的影响:

GaussDB(DWS)网络流控与管控效果

从上述测试数据以及TCP缓存默认配置的测试数据看,无论是否进行网络管控,都是TCP缓存越大,性能越差。到这里我们基本可以确定,网络过载场景下应用网络调度后,TCP缓存是性能影响的关键点,但是直接调整TCP缓存区配置会影响到网络整体吞吐量和通信延迟,因此需要采用其他技术控制TCP缓存大小在一定范围内。

二、GaussDB网络流控

2.1 网络限流算法

限流是保护系统稳定的三把利器(限流、缓存、降级)之一。限流可以是限制并发,也可以是限制资源使用;可以保护自己,也可以保护别人。数据库混合负载场景下,限流可以防止低优业务占用过多资源,预防资源过载,保证高优业务性能不受大幅影响。常见的限流算法有计数限流、漏桶算法和令牌桶算法:

  1. 计数限流:通过对一个限流周期内的请求数量进行限制,实现限流的目的。在一个限流周期内,可以限制请求不超限,但是在两个限流周期的相邻时间,存在临界问题,可能出现瞬时流量超限的情况。
  2. 漏桶限流:按照固定速率消费请求,限制单位时间内可以发送的请求量;请求先放入桶(队列)中,漏桶按照固定速率出水,可以防止突发流量。
  3. 令牌桶限流:服务提供者按照固定速率向令牌桶中加入令牌,令牌总量达到阈值则不再添加;请求消费时从令牌桶中获取一定数量令牌,如果令牌不足,则触发拒绝策略,令牌桶允许短时突发流量。

2.2 网络流控实现

GaussDB网络流控主要用于防止网络欠佳SQL引发网络持续过载,预防TCP缓存持续飙高,引发网络发送延迟过大,进而导致高优业务网络请求不能及时发送,影响高优业务性能。对于正常业务并发过大导致的TCP缓存飙高,建议采用查询调度限制并发的方法进行解决。网络欠佳SQL的网络流控基于网络调度中的低优队列设计实现,采用类漏桶算法实现。

新增GUC参数low_priority_bandwidth(默认值:256MB)用于限制低优队列可以占用的网络带宽。这个参数有两层含义(假设采用默认配置):

  • 低优队列网络传输速率不超过256MB/s。
  • 1ms内允许传输的数据量不超过256KB(256MB/s≈256KB/ms),保证TCP缓存中低优队列数据不超过256KB,防止低优队列导致TCP缓存过高导致高优业务性能大幅劣化。

低优队列网络带宽的设置需要充分考虑网络环境和集群部署情况,设置过大可能起不到网络流控效果,设置过小可能导致低优业务性能下降过大。例如10GE网络,3节点12DN环境,低优队列网络带宽不应高于256MB,在此基础上低优队列带宽配置越低,限流效果越好,对高优业务性能影响也就越小;低优队列网络带宽配置接近网络上限情况下,网络欠佳SQL并发越大,限流效果越差,例如10GE网络,3节点12DN环境,低优队列限流256MB情况下,大表broadcast并发15个以上时,网络限流效果开始下降。

2.3 流控效果验证

测试环境配置:

  • 网卡:10GE
  • CPU:72核
  • 内存:350GB
  • 集群:3节点12DN,每个节点4个DN
  • low_priority_bandwidth:256

设置异常规则对查询运行超过1min,且网络带宽占用超过128MB(单DN,5s平均传输速率)的作业执行降级操作:

CREATE EXCEPT RULE bandwidth_rule1 WITH(bandwidth=128, ELAPSEDTIME=60, action='penalty');

创建资源池rp1,关联上述异常规则:

CREATE RESOURCE POOL rp1 WITH(EXCEPT_RULE='bandwidth_rule1');

创建用户user1关联资源池rp1:

CREATE USER user1 RESOURCE POOL 'rp1' PASSWORD 'xxxxxxxx';

用户user1执行查询满足“运行时间超过1min,且占用带宽超过128MB”规则时,查询被降级,降级后该查询网络请求由低优队列调度。

使用user1执行以下测试验证网络限流效果:

  • 创建示例表并导入数据
// 背景压力SQL使用的表 
CREATE TABLE wt1(c1 int, c2 int, b1 char(1000), b2 char(7000)) distribute by hash(c1);
CREATE TABLE wt2(c1 int, c2 int, b1 char(1000), b2 char(7000)) distribute by hash(c1);
INSERT INTO wt1 select generate_series(1,10000), generate_series(1,10000),repeat('a',900), repeat('b',6888);
INSERT INTO wt2 select * from wt1;
INSERT INTO wt1 select * from wt1; // 连续执行多次,导入3GB以上数据
// 高优业务SQL使用的表
CREATE TABLE wt3(c1 int, c2 int, b1 char(1000), b2 char(7000)) distribute by hash(c1);
CREATE TABLE wt4(c1 int, c2 int, b1 char(1000), b2 char(7000)) distribute by hash(c1);
INSERT INTO wt3 select generate_series(1,10000), generate_series(1,10000),repeat('a',900), repeat('b',6888);
INSERT INTO wt4 select * from wt3;
  • 使用以下SQL作为背景压力
select count(1) from (select /*+ broadcast(wt1)*/ wt1.c1,wt1.c2 from wt1, wt2 where wt1.c2 = wt2.c2);
  • 使用以下SQL作为高优业务进行性能测试验证
select count(1) from (select /*+ broadcast(wt3)*/ wt3.c1,wt3.c2 from wt3, wt4 where wt3.c2 = wt4.c2);
  • 测试不同网络背景压力情况下(并行不同数量的背景压力SQL),分别测试无网络管控和背景压力降级的性能数据,记录SQL执行完成时间。

GaussDB(DWS)网络流控与管控效果

从性能测试数据可以看出:

  • 不进行网络管控,网络过载情况下,业务性能裂化明显,其中10个背景压力下裂化达55倍。
  • 不进行网络管控情况下,网络背景压力越大,业务性能越差。
  • 背景压力降级后,不同背景压力情况下,业务性能变化不明显。
  • 背景压力降级后,业务性能裂化基本可控,不再大幅裂化。

背景压力降级后,业务性能还是有劣化,主要原因是流控只能降低TCP缓存,而不能完全消除,想要完全消除背景压力对业务性能的影响,可以配合使用终止异常规则,在识别网络欠佳SQL后将其终止。

从测试验证效果看,降级异常规则配合低优队列网络流控,可以有效控制背景压力对业务性能的影响,保证网络欠佳SQL不会导致高优业务性能大幅劣化。

参考:

https://www.cnblogs.com/niumoo/p/16007224.html 

https://xie.infoq.cn/article/4a0acdd12a0f6dd4a53e0472c  

 

点击关注,第一时间了解华为云新鲜技术~

原文链接:https://www.cnblogs.com/huaweiyun/p/17374399.html

本站文章如无特殊说明,均为本站原创,如若转载,请注明出处:GaussDB(DWS)网络流控与管控效果 - Python技术站

(0)
上一篇 2023年5月4日
下一篇 2023年5月6日

相关文章

  • MySQL如何指定字符集和排序规则?

    在MySQL中,可以使用以下两种方式指定字符集和排序规则: 创建数据库或表时指定字符集和排序规则 在创建数据库或表时,可以使用 CHARACTER SET 和 COLLATE 选项指定字符集和排序规则。例如,创建一个名为 mydatabase 的数据库,并将字符集设置为 utf8mb4,排序规则设置为 utf8mb4_general_ci,可以使用以下 SQ…

    MySQL 2023年4月11日
    00
  • MySQL MyISAM存储引擎详解

    MySQL的存储引擎是MySQL的一种优秀的技术,其中MyISAM是其最基本的存储引擎。MyISAM是MySQL支持的一种基于表的存储引擎,它支持高效的读取和快速的键值查找,并允许使用大型数据表。下面我们将详细解释MyISAM存储引擎的具体特点和使用方法。 索引类型 MyISAM支持B-tree索引,这种索引类型非常适合于一些快速的查找操作。B-tree索引…

    MySQL 2023年3月9日
    00
  • mac使用mysql出现的错误 ERROR 1045 (28000): Access denied for user ‘root’@’localhost’ (using password: YES)

    1.首先第一步
停止Mysql服务 打开系统偏好设置中的mysql选择Stop Mysql Server 2:
进入终端输入:cd /usr/local/mysql/bin/
回车后; 登录管理员权限 sudo su
回车后;输入管理员对应的密码 输入以下命令来禁止mysql验证功能 ./mysqld_safe –skip-grant-tables &am…

    MySQL 2023年4月13日
    00
  • MySQL中存储的数据查询的时候怎么区分大小写

    这篇文章主要介绍了MySQL中存储的数据查询的时候怎么区分大小写的相关知识,内容详细易懂,操作简单快捷,具有一定借鉴价值,相信大家阅读完这篇MySQL中存储的数据查询的时候怎么区分大小写文章都会有所收获,下面我们一起来看看吧。 场景描述 今天在将 Hive 表同步到 MySQL 之后,其中有一列是唯一列,但是在 MySQL 中查询的时候 count 与 di…

    2023年4月8日
    00
  • mysql分页原理和高效率的mysql分页查询语句

    下面我将详细讲解“mysql分页原理和高效率的mysql分页查询语句”的完整攻略。 分页原理 分页是我们在开发Web应用时经常使用的功能,其主要作用是将一大批数据分割成多个小块以便显示在前端。数据库中的分页也是同样的原理,即将一张表中的数据进行分块显示。 在MySQL中,分页最常用的是基于LIMIT关键字实现的分页机制。LIMIT语句可以通过两个参数来进行数…

    MySQL 2023年5月19日
    00
  • MySQL使用索引优化性能

    下面是关于“MySQL使用索引优化性能”的完整攻略。 什么是索引 MySQL索引是一种数据结构,用于提高数据库表中数据的读取效率。它类似于书索引中的目录,能够快速定位并获取相应的数据。 索引的优缺点 索引的优点: 提高查询性能:可以加快数据的检索速度。 加速排序:对于排序产生很大的帮助。 加速数据的过滤:在执行SELECT查询时,可以使用索引加速条件匹配。 …

    MySQL 2023年5月19日
    00
  • Mysql optimize table 时报错:Temporary file write fail的解决

    当我们在对Mysql的表进行优化时,有时候会遇到”Temporary file write fail”的报错信息,这是由于mysql在进行优化操作时需要写入一些临时文件,而操作时出现了无法写入临时文件的情况引起的。 下面是解决这个问题的完整攻略: 1. 确认磁盘空间是否足够 首先需要确认一下磁盘空间是否足够,可以通过运行df命令查看磁盘使用情况,如下所示: …

    MySQL 2023年5月18日
    00
  • 出现错误mysql Table ‘performance_schema…解决办法

    当使用MySQL数据库时,可能会出现“Table ‘performance_schema’ doesn’t exist”或“Table ‘performance_schema’ doesn’t exist in engine”等错误。这些错误通常是由MySQL版本不兼容或数据库配置问题引起的。下面是解决这些错误的完整攻略: 攻略1:确认MySQL版本是否支持…

    MySQL 2023年5月18日
    00
合作推广
合作推广
分享本页
返回顶部