linux 系统mysql 服务器内存利用率很高了怎么解决

linux 系统mysql 服务器内存利用率很高了怎么解决,第1张

Linux 进程通过 C 标准库中的内存分配函数 malloc 向系统申请内存,但是到真正与内核交互之间,其实还隔了一层,即内存分配管理器(memory allocator)。常见的内存分配器包括:ptmalloc(Glibc)、tcmalloc(Google)、jemalloc(FreeBSD)。MySQL 默认使用的是 glibc 的 ptmalloc 作为内存分配器。

内存分配器采用的是内存池的管理方式,处在用户程序层和内核层之间,它响应用户的分配请求,向 *** 作系统申请内存,然后将其返回给用户程序。

为了保持高效的分配,分配器通常会预先向 *** 作系统申请一块内存,当用户程序申请和释放内存的时候,分配器会将这些内存管理起来,并通过一些算法策略来判断是否将其返回给 *** 作系统。这样做的最大好处就是可以避免用户程序频繁的调用系统来进行内存分配,使用户程序在内存使用上更加高效快捷。

关于 ptmalloc 的内存分配原理,个人也不是非常了解,这里就不班门弄斧了,有兴趣的同学可以去看下华庭的《glibc 内存管理 ptmalloc 源代码分析》。

关于如何选择这三种内存分配器,网上资料大多都是推荐摒弃 glibc 原生的 ptmalloc,而改用 jemalloc 或者 tcmalloc 作为默认分配器。因为 ptmalloc 的主要问题其实是内存浪费、内存碎片、以及加锁导致的性能问题,而 jemalloc 与 tcmalloc 对于内存碎片、多线程处理优化的更好。

目前 jemalloc 应用于 Firefox、FaceBook 等,并且是 MariaDB、Redis、Tengine 默认推荐的内存分配器,而 tcmalloc 则应用于 WebKit、Chrome 等。

本文主要针对docker来部署java程序的时候,常常会出现内存占有很大的问题,通过调整docker的配置来限制内存占用

测试环境下服务器的配置为24核64G内存,启动微服务,在没有进行内存限制的时候,我们通过 docker stats 命令查看一下微服务的内存占用,如下图
我们看一下Dockerfile文件的配置

对应的启动脚本 startsh 的配置如下:

我们再看一下docker-compose的配置

配置中都没有对docker内存以及jvm内存做任何限制,导致了我们docker容器启动,占用内存过大的问题

首先我们对java启动时jvm内存大小做个调整,增加jvm启动参数 -Xms1024M -Xmx1024M -Xmn256M -Xss256K
调整后的启动脚本 startsh 如下:

调整完jvm启动参数之后,重新启动容器,结果如下:

发现内存使用上已经根据我们调整的大小降了下来

到这里,问题基本解决,不过看到容器的内存限制还是62G,这样显然还是不合理的,我们也要对容器进行调整,调整方式有两种

直接指定容器最多使用 200M 物理内存和 200M swap。

其中mem_limit用于控制容器默认启动时会使用 1/16物理内存的现象,导致几个服就占满了全部内存。
v3版本中,配置如下:

注意 deploy 仅 docker deploy stack 生效
或使用 docker-compose --compatibility up 生效

配置完成之后,重启docker服务,如下图:

容器内存限制发生了变化,达到了我们的预期效果

1 JVM常用启动参数

2 如何限制docker容器的内存大小

3 在Docker Compose file 3下限制CPU与内存

SQL Server对服务器内存的使用策略是用多少内存就占用多少内存,只用在服务器内存不足时,才会释放一点占用的内存,所以SQL Server 服务器内存往往会占用很高。

Sql Server运行时候的缓存:
1数据缓存:执行个查询语句,Sql Server会将相关的数据页(Sql Server *** 作的数据都是以页为单位的)加载到内存中来, 下一次如果再次请求此页的数据的时候,就无需读取磁盘了,大大提高了速度。
2执行命令缓存:在执行存储过程,自定函数时,Sql Server需要先二进制编译再运行,编译后的结果也会缓存起来, 再次调用时就无需再次编译。

清除缓存的命令(直接执行第四个命令清除所有缓存):
DBCC FREEPROCCACHE --清除存储过程相关的缓存
DBCC FREESESSIONCACHE --会话缓存
DBCC FREESYSTEMCACHE('All') --系统缓存
DBCC DROPCLEANBUFFERS --所有缓存
注意:清除了缓存,不会释放SQL Server所占用的内存,所以需要通过修改SQL Server内存或重启SQL Server服务器来释放内存。

修改SQL Server内存:

优化:使用以下语句查找出什么语句占内存最高,针对占内存高的语句进行优化
SELECT SSSUM_EXECUTION_COUNT,
TTEXT,
SSSUM_TOTAL_ELAPSED_TIME AS '总和时间',
SSSUM_TOTAL_WORKER_TIME AS '执行耗时',
SSSUM_TOTAL_LOGICAL_READS AS '总和逻辑读数',
SSSUM_TOTAL_LOGICAL_WRITES AS '总和逻辑写'
FROM (SELECT SPLAN_HANDLE,
SUM(SEXECUTION_COUNT)SUM_EXECUTION_COUNT,
SUM(STOTAL_ELAPSED_TIME)SUM_TOTAL_ELAPSED_TIME,
SUM(STOTAL_WORKER_TIME)SUM_TOTAL_WORKER_TIME,
SUM(STOTAL_LOGICAL_READS)SUM_TOTAL_LOGICAL_READS,
SUM(STOTAL_LOGICAL_WRITES)SUM_TOTAL_LOGICAL_WRITES
FROM SYSDM_EXEC_QUERY_STATS S
GROUP BY SPLAN_HANDLE
) AS SS
CROSS APPLY SYSdm_exec_sql_text(SSPLAN_HANDLE)T
ORDER BY SUM_TOTAL_LOGICAL_READS DESC

转自: >经常使用MSSQL的朋友都会发现一个小小的网站在运行若干天后MSSQL就会把服务器上所有的内存都吃光,此时你不得不重新启动一下服务器或mssql来释放内存,有人认为是 MSSQL有内存泄露问题,其实不然,微软给我们了明确说明:在您启动SQL Server 之后,SQL Server内存使用量将会持续稳定上升,即使当服务器上活动很少时也不会下降。另外,任务管理器和性能监视器将显示计算机上可用的物理内存稳定下降,直到可用内存降到 4 至 10 MB 为止。
仅仅出现这种状态不表示内存泄漏。此行为是正常的,并且是 SQL Server 缓冲池的预期行为。
默认情况下,SQL Server 根据 *** 作系统报告的物理内存加载动态增大和收缩其缓冲池(缓存)的大小。只要有足够的内存可用于防止内存页面交换(在 4 至 10 MB 之间),SQL Server缓冲池就会继续增大。像在与SQL Server 分配内存位于相同计算机上的其他进程一样,SQL Server 缓冲区管理器将在需要的时候释放内存。SQL Server每秒可以释放和获取几兆字节的内存,从而使它可以快速适应内存分配变化。
更多信息
您可以通过服务器内存最小值和服务器内存最大值配置选项设置 SQL Server数据库引擎使用的内存(缓冲池)量的上下限。在设置服务器内存最小值和服务器内存最大值选项之前,请查阅以下 Microsoft 知识库文章中标题为'内存'一节中的参考信息:319942 HOW TO:Determine Proper sql server(WINDOWS平台上强大的数据库平台) Configuration Settings(确定正确的 sql server(WINDOWS平台上强大的数据库平台) 配置设置)
请注意,服务器内存最大值选项只限制 SQL Server 缓冲池的大小。服务器内存最大值选项不限制剩余的未保留内存区域,sql server(WINDOWS平台上强大的数据库平台) 准备将该区域分配给其他组件,例如扩展存储过程、COM 对象、以及非共享 DLL、EXE 和 MAPI 组件。由于前面的分配SQL Server专用字节超过服务器内存最大值配置是很正常的。有关此未保留内存区域中分配的其他信息,请单击下面的文章编号,以查看 Microsoft 知识库中相应的文章:316749 PRB:在使用大量数据库时可能没有足够的虚拟内存
下面我们就来实战如何限制MSSQL内存使用:
第一步:打开企业管理器双击进入要修改的MSSQL
第二步:在左侧MSSQL上点击右键,选择属性,d出SQL Server属性(配置)对话框(最好打上SQL SP4补丁)
第三步:点击内存选项卡 在这里,你会看到MSSQL默认设置为使用最大内存,也就是你所有的内存,根据你的需要,设置它的最大值(一般为物理内存-128M)和最小值(一般为最大内存的1/4)吧
第五步:设置完毕,重启MSSQL服务,配置即可生效!

这个也要看你的网站的性质了哈。如果是公司的服务器。上面只有一个公司网站这种的话。。就不是正常的了哈。主要是你网站程序代码性能不行。可以请人帮忙改编一下。代码。如果你是空间商的话。。把他限制了就行了。
>

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zz/13019857.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-05-29
下一篇 2023-05-29

发表评论

登录后才能评论

评论列表(0条)

保存