MySQL监控-Datadog数据库监控调研
阿里云官方镜像站：mysq镜像源
https://developer.aliyun.com/mirror/?utm_content=g_1000303593
前言
mysql是最流行的数据库之一，在大多系统的后端的存储都有mysql的身影，mysql运行的是否健康，直接影响着整个系统的运行，数据库的瓶颈往往也是整个系统的瓶颈，其重要性不言而喻，所以对于mysql的监控必不可少，及时发现mysql运行中的异常，可以有效提高系统的可用性和用户体验。
本文主要介绍下mysql如何做监控，以及对datadog的database monitoring的一些简单调研。
监控类型
google提出在系统监控中的黄金指标，分别是latency，traffic，saturation，errors，mysql一般作为资源类服务系统出现，在mysql监控中也可以以这些指标为指引来进行指标收集和监控。
黄金指标
latency延迟：比如mysql中的查询的延迟，一条select语句的延迟可能会直接影响用户体验，监控sql语句的平均延迟，p99延迟可以提早发现对系统的影响。
traffic：在mysql中，查询的qps是吞吐量的一种指标，比如mysql服务器每秒可以支持多少查询，多少更新，吞吐量的指标也会影响到用户体验。
saturation饱和度：饱和度是指系统的资源被消耗殆尽的程度，比如在mysql最大连接数为300，当前连接数已经达到240的情况可能需要引起注意，因为可能在不久的将来会将连接数打满，导致新的连接进不来，影响上层服务的可用性。
errors错误：mysql中的aborted_clients和aborted_connects的增加往往意味了使用方在使用的时候出现了一些错误，需要引起注意，比如客户端在退出时没有调用mysql_close会导致aborted_clients指标的增加，所以监控这个指标对于问题的排查很有帮助。
mysql关键指标类型
黄金指标对于指标的监控有很大的指导意义，但是选取哪些指标，也是值得考量的，这里借用datadog的一篇mysql监控文章来描述mysql监控中的关键指标。从性能和资源使用角度大致分为4类：
query throuput：查询吞吐量，主要包括查询的qps和更新qps，用来表示延迟。
query performance: 查询性能，主要包括查询的消耗的平均时间，查询错误指标，慢查询数量，分别包含吞吐量和错误。
connections: 连接，主要包括当前打开连接数和运行连接数表示饱和度。错误连接数用来表示错误。
buffer pool usage: 缓冲池使用情况，innodb_buffer_pool_reads表示innodb缓冲池无法满足的请求数，计算出的缓冲池中的页面使用数量使用率可以用表示资源的饱和度。
mysql监控流程
mysql的监控跟其他系统的监控类似，一般会包含指标日志类的数据收集，指标的可视化展示，指标告警，问题的排查等流程。
指标收集
mysql的指标类型有很多，可以通过两种方式获取
服务内部状态/内部变量：一般通过show status或者show variable来获取，表示全局的一些指标。
peformance shema和sys schema，提供了更加底层的运行时的详细的指标信息。
可视化展示
通过agent将指标数据采集到后端存储中，然后进行可视化展示，可视化仪表盘会将指标的历史值和当前值绘制成曲线，便于查看指标的变化，指标如果有明显的变化，从图表中可以明显的看出来，对于排查问题有一定的参考意义。
指标异常告警
在某个指标出现异常时，可以配置相应的告警，告警监控可以使用阈值设定或者ai算法来自动识别指标的异常，产生的告警可以分不同的严重等级，不同的等级可以配置不同的通知渠道，比如严重度低的发邮件提醒既可以，对于高严重度的指标异常，配置电话通知。
通过仪表盘或者告警，可以找到哪个指标出现了异常，然后根据不同的指标进行不同的排查方式，比如连接数超过最大连接数报警，可以调大数据库的最大连接数或者减少客户端的连接数。对于更复杂的场景，可能需要借助问题发生时其他的日志或者指标进行根因分析。
接下来以datadog的数据库监控为例，来调研datadog是如何做数据库监控的，文中图片来自datadog官网。
datadog 数据库监控
指标采集
agent端采集
datadog的指标采集是通过安装agent来采集，agent可以部署在自建机器或者云服务器上，可以连接到服务器即可。
指标数据
通过安装datadog agent到数据库所在服务器或者能连接到数据的服务器上，然后创建一个datadog用户，并且给datadog赋予一定的权限如replication client，process和select on performance_schema.*的权限。datadog为了收集explain plan还会创建几个存储过程explain_statement，enable_events_statements_consumers。
日志数据
datadog agent支持采集mysql服务器端general日志、错误日志、慢日志等，当然前提是mysql服务端开启这些日志存储。
仪表盘
总体指标
mysql总览，主要展示了收集的mysql指标的整体态势。
query metrics
主要用来展示标准化查询（normalized query）的历史性能指标，可以按照查询数，平均延迟，消耗总时间，返回行数进行排序。
同时也可以根据标签或聚合维度来展示消耗了最多查询时间的top查询和延迟。根据不同的维度来分组展示每个组的查询数，平均延迟，消耗总时间。
query details
在query metrics页面搜索特定的query，可以查看其query detail页面，在其中可以查看语句的平均延迟和查询总时间，同时页面还会展示查询关联的datadog中标签，
查询页面除了延迟和消耗时间等，还会展示执行计划，时序和执行这条查询的主机分布。
执行计划页面，会展示不同的执行计划及其延迟和平均消耗。
性能指标页面，展示了一些常见指标的性能历史。
执行查询的主机分布页面，会展示执行当前查询的主机分布，通过菜单可以链接到主机的相关页面，这对于排查问题比较方便，比如某个主机上的查询延迟非常高，可以直接跳转到改主机的相关仪表盘页面进行查看。
query samples
主要包含采样查询的性能数据，延迟，消耗和执行计划，同时也支持按照table来展示top消耗的查询语句。
告警
datadog提供了对于指标的监控告警，主要支持五种监控类型，包括：
thresold alert：阈值监控。
change alert: 事件变更监控。
anomaly dectection：异常检测，使用机器学习算法来判断指标的异常。
outlier alert：离群点检测告警。
forecast alert：预测告警。
总结
本文首先介绍了数据库监控的关键指标和mysql监控的一般流程主要包括指标收集，可视化展示，指标异常告警。然后通过对datadog的数据库监控产品做介绍，除了常规的总体指标展示，datadog的数据库监控还提供了query相关的指标，分别包括query metrics，query detail和query samples，从查询的角度进行监控和分析统计，除了query级别的指标展示，还包括对执行计划的展示，同时也支持从仪表盘drill down到主机级别查看资源指标，通过这些仪表盘可以比较方便的看出指标的异常。
本文转自：https://developer.aliyun.com/article/809609
ymf
企业如何利用人工智能在竞争激烈的市场环境中保持竞争力
VR/AR满足企业需求 助员工培训并加速生产效率
关于滞回式控制架构的器件设计LED驱动器的注意事项介绍和说明
华南师范大学：设计可穿戴柔性传感器件，可实现三维空间内的运动识别
2018全年销量800万台，小米电视高居国内第一，AIoT战略稳步向前-即刻金服
MySQL监控-Datadog数据库监控调研
新能源车市场PCB需求量分析
智能型医疗可穿戴设备解决方案
工控市场稳中求变，纳芯微提供安“芯”之选
realme X真机曝光采用了4800万像素后置双摄像头支持杜比全景声
单管前置音频放大电路图讲解
智能化的便携式流感诊断系统设计方案
石墨烯原材料选择、制备及应用
设计柔性PCB的5个技巧
智能魔镜显示屏的作用，轻松实现智能家居控制
Apple Watch：支持非浸入式葡萄糖检测过能，糖尿病患者的福音
魅族5G手机或将采用120Hz全视屏打造，标配512GB和顶尖骁龙芯片
米尔科技MYD-IMX28X开发板 - IMX283,IMX287开发板简介
金刚石合成控制系统中多串口通信技术的设计与实现
MOSFET晶体管的制造工艺
https://developer.aliyun.com/mirror/?utm_content=g_1000303593
前言
mysql是最流行的数据库之一，在大多系统的后端的存储都有mysql的身影，mysql运行的是否健康，直接影响着整个系统的运行，数据库的瓶颈往往也是整个系统的瓶颈，其重要性不言而喻，所以对于mysql的监控必不可少，及时发现mysql运行中的异常，可以有效提高系统的可用性和用户体验。
本文主要介绍下mysql如何做监控，以及对datadog的database monitoring的一些简单调研。
监控类型
google提出在系统监控中的黄金指标，分别是latency，traffic，saturation，errors，mysql一般作为资源类服务系统出现，在mysql监控中也可以以这些指标为指引来进行指标收集和监控。
黄金指标
latency延迟：比如mysql中的查询的延迟，一条select语句的延迟可能会直接影响用户体验，监控sql语句的平均延迟，p99延迟可以提早发现对系统的影响。
traffic：在mysql中，查询的qps是吞吐量的一种指标，比如mysql服务器每秒可以支持多少查询，多少更新，吞吐量的指标也会影响到用户体验。
saturation饱和度：饱和度是指系统的资源被消耗殆尽的程度，比如在mysql最大连接数为300，当前连接数已经达到240的情况可能需要引起注意，因为可能在不久的将来会将连接数打满，导致新的连接进不来，影响上层服务的可用性。
errors错误：mysql中的aborted_clients和aborted_connects的增加往往意味了使用方在使用的时候出现了一些错误，需要引起注意，比如客户端在退出时没有调用mysql_close会导致aborted_clients指标的增加，所以监控这个指标对于问题的排查很有帮助。
mysql关键指标类型
黄金指标对于指标的监控有很大的指导意义，但是选取哪些指标，也是值得考量的，这里借用datadog的一篇mysql监控文章来描述mysql监控中的关键指标。从性能和资源使用角度大致分为4类：
query throuput：查询吞吐量，主要包括查询的qps和更新qps，用来表示延迟。
query performance: 查询性能，主要包括查询的消耗的平均时间，查询错误指标，慢查询数量，分别包含吞吐量和错误。
connections: 连接，主要包括当前打开连接数和运行连接数表示饱和度。错误连接数用来表示错误。
buffer pool usage: 缓冲池使用情况，innodb_buffer_pool_reads表示innodb缓冲池无法满足的请求数，计算出的缓冲池中的页面使用数量使用率可以用表示资源的饱和度。
mysql监控流程
mysql的监控跟其他系统的监控类似，一般会包含指标日志类的数据收集，指标的可视化展示，指标告警，问题的排查等流程。
指标收集
mysql的指标类型有很多，可以通过两种方式获取
服务内部状态/内部变量：一般通过show status或者show variable来获取，表示全局的一些指标。
peformance shema和sys schema，提供了更加底层的运行时的详细的指标信息。
可视化展示
通过agent将指标数据采集到后端存储中，然后进行可视化展示，可视化仪表盘会将指标的历史值和当前值绘制成曲线，便于查看指标的变化，指标如果有明显的变化，从图表中可以明显的看出来，对于排查问题有一定的参考意义。
指标异常告警
在某个指标出现异常时，可以配置相应的告警，告警监控可以使用阈值设定或者ai算法来自动识别指标的异常，产生的告警可以分不同的严重等级，不同的等级可以配置不同的通知渠道，比如严重度低的发邮件提醒既可以，对于高严重度的指标异常，配置电话通知。
通过仪表盘或者告警，可以找到哪个指标出现了异常，然后根据不同的指标进行不同的排查方式，比如连接数超过最大连接数报警，可以调大数据库的最大连接数或者减少客户端的连接数。对于更复杂的场景，可能需要借助问题发生时其他的日志或者指标进行根因分析。
接下来以datadog的数据库监控为例，来调研datadog是如何做数据库监控的，文中图片来自datadog官网。
datadog 数据库监控
指标采集
agent端采集
datadog的指标采集是通过安装agent来采集，agent可以部署在自建机器或者云服务器上，可以连接到服务器即可。
指标数据
通过安装datadog agent到数据库所在服务器或者能连接到数据的服务器上，然后创建一个datadog用户，并且给datadog赋予一定的权限如replication client，process和select on performance_schema.*的权限。datadog为了收集explain plan还会创建几个存储过程explain_statement，enable_events_statements_consumers。
日志数据
datadog agent支持采集mysql服务器端general日志、错误日志、慢日志等，当然前提是mysql服务端开启这些日志存储。
仪表盘
总体指标
mysql总览，主要展示了收集的mysql指标的整体态势。
query metrics
主要用来展示标准化查询（normalized query）的历史性能指标，可以按照查询数，平均延迟，消耗总时间，返回行数进行排序。
同时也可以根据标签或聚合维度来展示消耗了最多查询时间的top查询和延迟。根据不同的维度来分组展示每个组的查询数，平均延迟，消耗总时间。
query details
在query metrics页面搜索特定的query，可以查看其query detail页面，在其中可以查看语句的平均延迟和查询总时间，同时页面还会展示查询关联的datadog中标签，
查询页面除了延迟和消耗时间等，还会展示执行计划，时序和执行这条查询的主机分布。
执行计划页面，会展示不同的执行计划及其延迟和平均消耗。
性能指标页面，展示了一些常见指标的性能历史。
执行查询的主机分布页面，会展示执行当前查询的主机分布，通过菜单可以链接到主机的相关页面，这对于排查问题比较方便，比如某个主机上的查询延迟非常高，可以直接跳转到改主机的相关仪表盘页面进行查看。
query samples
主要包含采样查询的性能数据，延迟，消耗和执行计划，同时也支持按照table来展示top消耗的查询语句。
告警
datadog提供了对于指标的监控告警，主要支持五种监控类型，包括：
thresold alert：阈值监控。
change alert: 事件变更监控。
anomaly dectection：异常检测，使用机器学习算法来判断指标的异常。
outlier alert：离群点检测告警。
forecast alert：预测告警。
总结
本文首先介绍了数据库监控的关键指标和mysql监控的一般流程主要包括指标收集，可视化展示，指标异常告警。然后通过对datadog的数据库监控产品做介绍，除了常规的总体指标展示，datadog的数据库监控还提供了query相关的指标，分别包括query metrics，query detail和query samples，从查询的角度进行监控和分析统计，除了query级别的指标展示，还包括对执行计划的展示，同时也支持从仪表盘drill down到主机级别查看资源指标，通过这些仪表盘可以比较方便的看出指标的异常。
本文转自：https://developer.aliyun.com/article/809609
ymf
企业如何利用人工智能在竞争激烈的市场环境中保持竞争力
VR/AR满足企业需求 助员工培训并加速生产效率
关于滞回式控制架构的器件设计LED驱动器的注意事项介绍和说明
华南师范大学：设计可穿戴柔性传感器件，可实现三维空间内的运动识别
2018全年销量800万台，小米电视高居国内第一，AIoT战略稳步向前-即刻金服
MySQL监控-Datadog数据库监控调研
新能源车市场PCB需求量分析
智能型医疗可穿戴设备解决方案
工控市场稳中求变，纳芯微提供安“芯”之选
realme X真机曝光采用了4800万像素后置双摄像头支持杜比全景声
单管前置音频放大电路图讲解
智能化的便携式流感诊断系统设计方案
石墨烯原材料选择、制备及应用
设计柔性PCB的5个技巧
智能魔镜显示屏的作用，轻松实现智能家居控制
Apple Watch：支持非浸入式葡萄糖检测过能，糖尿病患者的福音
魅族5G手机或将采用120Hz全视屏打造，标配512GB和顶尖骁龙芯片
米尔科技MYD-IMX28X开发板 - IMX283,IMX287开发板简介
金刚石合成控制系统中多串口通信技术的设计与实现
MOSFET晶体管的制造工艺