查看原文
其他

MySQL-ProxySQL中间件(一)

张充 老叶茶馆 2023-03-10


ProxySQL

  • ProxySQL作为一款强大的中间件为MySQL的架构提供了有力的支持。

  • 目前可以很好的支持 Master Slave\ MGR \ PXC等,并提供连接池、读写分离、日志记录等功能,当然还有很多其他实用功能,这里不一一列举了。

  • 本文都是基础概念,基本出自官方文档,官方已经解释的非常清晰,我就不太多加工,汇总一些实用的分享给大家。

安装

ProxySQL安装非常简单

连接ProxySQL

ProxySQL默认管理端口6032,默认需要127.0.0.1来进入,进入方式和连接MySQL方式一致:    

ProxySQL 运行机制

RUNTIME

RUNTIME表示处理请求的线程使用的ProxySQL的内存数据结构。

runtime variables 包含了:

        1、Global variables的实际值

        2、将后端的服务器列表分组到hostgroup中。

        3、让MySQL 的User们可以连接proxysql

注意:runntime层数据,谁都不能直接修改,必须通过下一层来提交修改。

MEMORY

MEMORY(有时也称为main)表示通过MySQL兼容接口公开的内存数据库。 用户可以将MySQL客户端连接到此接口,并查询各种ProxySQL配置表/数据库。   

  通过此接口可用的配置表是:

  • mysql_servers - ProxySQL连接到的后端服务器列表

  • mysql_users - 连接到ProxySQL的用户及其凭据列表。 请注意,ProxySQL也将使用相同的凭据连接到后端服务器!

  • mysql_query_rules - 将流量路由到各种后端服务器时评估的查询规则列表。 这些规则还可以重写查询,甚至可以缓存已执行查询的结果。

  • global_variables - 代理配置使用的全局变量列表,可在运行时调整。

DISK 和 CONFIG FILE

DISK表示磁盘上的SQLite3数据库,默认位置为$(DATADIR)/proxysql.db。 在重新启动时,未保留的内存中配置将丢失。 因此,将配置保留在DISK中非常重要。 

    

    

启动过程

  • 如果找到数据库文件(proxysql.db),ProxySQL将从proxysql.db初始化其内存中配置。 因此,磁盘被加载到MEMORY中,然后加载到RUNTIME中。 

  • 如果找不到数据库文件(proxysql.db)且存在配置文件(proxysql.cfg),则解析配置文件并将其内容加载到内存数据库中,然后将其保存在proxysql.db中并在加载到RUNTIME。 

请务必注意,如果找到proxysql.db,则不会解析配置文件。 也就是说,在正常启动期间,ProxySQL仅从持久存储的磁盘数据库初始化其内存配置。

配置文件有4个变量,即使存在proxysql.db,也始终会从配置文件里去解析:

 1、datadir:定义了ProxySQL datadir的路径,其中存储了数据库文件,日志和其他文件

 2、restart_on_missing_heartbeats(1.4.4中的新增内容):如果MySQL线程错过了restart_on_missing_heartbeats心跳,则proxysql将引发SIGABRT信号并重新启动。 默认值为10。 

详情请见:https://github.com/sysown/proxysql/wiki/Watchdog

3、execute_on_exit_failure(1.4.4中的新增内容):如果设置,ProxySQL父进程将在每次ProxySQL崩溃时执行定义的脚本。 建议使用此设置生成警报或记录事件。 

请注意:在崩溃的情况下,proxysql能够在几毫秒内重新启动,因此其他监视工具可能无法检测到正常故障

 4、errorlog(2.0.0中的新增内容):如果设置,ProxySQL将使用定义的文件作为错误日志。 如果未传递此类变量,则errolog将位于datadir / proxysql.log中

   

初始化启动过程(或--initial)

  • 在初始启动时,将从配置文件中填充内存和运行时配置。 此后,配置将保留在ProxySQL的嵌入式SQLite数据库中。 

  • 通过使用--initial标志运行proxysql可以强制重新发生初始配置,这会将SQLite数据库文件重置为其原始状态(即配置文件中定义的状态)并重命名现有的SQLite数据库文件 

  •  如果需要回滚(如果需要,检查已定义的数据目录中的旧文件)。


重新加载启动(或--reload)

  • 如果使用--reload标志执行proxysql,它会尝试将配置文件中的配置与数据库文件的内容合并。 之后,ProxySQL将继续启动程序。

  • 如果配置文件和数据库文件的参数存在冲突,则无法保证ProxySQL将成功管理合并,用户应始终验证合并结果是否符合预期。

核心配置表

在运行时修改配置是通过ProxySQL的MySQL管理端口(默认为6032)完成的。 

连接到它后,您将看到一个与MySQL兼容的接口,用于查询各种与ProxySQL相关的表:

mysql> show tables;
+-------------------+
| tables |
+-------------------+
| mysql_servers |
| mysql_users |
| mysql_query_rules |
| global_variables |
| mysql_collations |
| debug_levels |
+-------------------+



    每个这样的表都有明确的定义:

  • mysql_servers:        包含要连接的ProxySQL的后端服务器列表

  • mysql_users:           包含ProxySQL将用于向后端服务器进行身份验证的用户列表

  • mysql_query_rules:    包含用于缓存,路由或重写发送到ProxySQL的SQL查询的规则

  • global_variables:        包含在服务器初始配置期间定义的MySQL变量和管理变量

  • debug_levels:             仅用于调试ProxySQL的手动构建

在不同层级间移动配置信息

为了将配置持久化到磁盘或将配置加载到运行时,可以使用一组不同的管理命令,这些命令可以通过管理界面执行。 

一旦理解了三层中的每一层的使用方式,语义都应该清楚。 

连同每个命令的说明,每个命令旁边都有一个编号选项。 该数字对应于下图中列出的箭头

   

    

要重新配置MySQL用户,请执行以下命令之一:

[1]    LOAD MYSQL USERS FROM MEMORY / LOAD MYSQL USERS TO RUNTIME

    将MySQL用户从MEMORY加载到RUNTIME数据结构,反之亦然


[2]    SAVE MYSQL USERS TO MEMORY / SAVE MYSQL USERS FROM RUNTIME

    将MySQL用户从RUNTIME保存到MEMORY


[3]    LOAD MYSQL USERS TO MEMORY / LOAD MYSQL USERS FROM DISK

    将持久化的MySQL用户从磁盘数据库加载到MEMORY


[4]    SAVE MYSQL USERS FROM MEMORY / SAVE MYSQL USERS TO DISK

    将MySQL用户从MEMORY中保存到DISK


[5]    LOAD MYSQL USERS FROM CONFIG

    从配置文件加载用户到MEMORY

    常用的命令参考:


LOAD MYSQL USERS TO RUNTIME;
SAVE MYSQL USERS TO DISK;

LOAD MYSQL SERVERS TO RUNTIME;
SAVE MYSQL SERVERS TO DISK;

LOAD MYSQL QUERY RULES TO RUNTIME;
SAVE MYSQL QUERY RULES TO DISK;

LOAD MYSQL VARIABLES TO RUNTIME;
SAVE MYSQL VARIABLES TO DISK;

LOAD ADMIN VARIABLES TO RUNTIME;
SAVE ADMIN VARIABLES TO DISK;

注意:关键字MEMORY/RUNTIME 都支持缩写:
   MEM for MEMORY
   RUN for RUNTIME



故障排除

请注意,只有在将值加载到运行时才会进行最终验证。 

可以设置一个值,该值在保存到内存时不会引发任何类型的警告或错误,甚至可以保存到磁盘。

但是,当执行加载到运行时,会自动将更改恢复为先前已经保存的状态。 

如果发生这种情况,应该检查定义的错误日志文件:

例如:  

[WARNING] Impossible to set variable monitor_read_only_interval with value "0". Resetting to current "1500".

  

    

常用的一些命令技巧

1、限制ProxySQL到后端MySQL的连接数通过权重,来控制ProxySQL到后端MySQL的访问量

    权重只作用在同一个hostgroup中有效

    


2、自动回避复制延迟较大的节点

如果服务器将max_replication_lag设置为非零值,则Monitor模块会定期检查复制延迟    

下图中,当172.16.0.3的复制延迟超过了30秒会自动回避,设置max_replication_lag = 0,代表不检查复制延迟 。

    

    注意,max_replication_lag主要来源Seconds_Behind_Master,该参数判断延迟准确性不高,顾个人建议为参考功能。

3、Master Slave,将Master作为Slave的备用读节点

在下面的示例中,如果我们将HG1配置为提供读请求,则99.95%的请求将发送到172.16.0.2和172.16.0.3,而0.05%的请求将正常发送到172.16.0.1。 

如果172.16.0.2和172.16.0.3不可用,172.16.0.1将获取所有读取请求。

注意:max_replication_lag仅适用于从节点。 如果服务器未启用复制,则Monitor不会执行任何操作。

4、优雅的禁用后端Server

要正常禁用后端服务器,需要将其状态更改为OFFLINE_SOFT。 

不会影响当前的活动事务和连接,但不会向该节点发送新流量。

    

5、立即禁用后端Server

要立即禁用后端服务器,需要将其状态更改为OFFLINE_HARD。 所有当前请求将立即终止,并且不会发送新请求。

172.18.0.1 设置了OFFLINE_HARD 会立刻中断当前的请求。

    

6、重新启用脱机/禁用后端Server

要在离线后端重新启用,将其状态更改回ONLINE就可以了  

  

7、删除后端Server

    

注意:

在内部,删除后端或将其设置为OFFLINE_HARD的方式相同。 

当执行LOAD MYSQL SERVERS TO RUNTIME时,Hostgroup_Manager将检测到后端服务器已被删除,并在内部将其标记为OFFLINE_HARD。   


8、将明文密码转换成Hash密码,配置到ProxySQL中的mysql_users表 


mysql_users表,支持明文密码和Hash密码的写入,但生产环境,我们还是建议用Hash密码。

将明文密码转换Hash密码有两种方式:

1、通过PASSWORD()

函数生成Hash密码,但该函数ProxySQL是不支持的,需要在MySQL数据库里自行生成,再粘贴加密后的密码插入到ProxySQL中。

2、通过变量:admin-hash_passwords(推荐)

此参数默认开启,明文密码存放到MEMORY的mysql_user中,一旦load到RUNTIME会自动HASH加密。

然后再SAVE回MEMORY/DISK即可完成明文到Hash密码的转换

         


9、限制User和ProxySQL之间的连接数

       

10、 同个事务内的SQL,禁止被路由到不同节点上

启动事务后,可能会根据查询规则将某些查询发送到其他主机组。 为了防止这种情况发生,可以开启transaction_persistent

   


作者寄语:还有很多没有总结,一点点来,基础知识梳理完成,会对核心功能再进行测试说明,希望对需要的同学有帮助


作者:张充,知数堂优秀校友

出处:http://t.cn/Ai9B8mrV




END





这里有好课,为职场助攻




扫码加入MySQL技术Q群

    (群号:793818397)    



您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存