您好,欢迎访问一九零五行业门户网

SQL SERVER 内存分配及常见内存问题(1)简介

转自:http://blog.csdn.net/dba_huangzj/article/details/7527543 一、 问题 : 1、sql server 所占用 内存 数量从启动以后就不断地增加: 首先,作为成熟的产品, 内存 溢出的机会微乎其微。对此要了解sql server与windows是如何协调、共享 内存 。并且sql
转自:http://blog.csdn.net/dba_huangzj/article/details/7527543
一、问题:1、sql server 所占用内存数量从启动以后就不断地增加:
      首先,作为成熟的产品,内存溢出的机会微乎其微。对此要了解sql server与windows是如何协调、共享内存。并且sql server的内部对内存的管理机制。
2、在windows 2003以上版本运行的sql server,内存使用量突然急剧下降:
     内存是sqlserver的生命线。在errorlog中,出现一下情况:      
这类问题往往不是sql server导致的,而是windows感觉到急迫的内存压力,迫使sql server 释放内存。
3、用户在做操作时,遇到内存申请失败:不是用户想申请多少就有多少
4、内存压力导致的性能下降:内存压力是性能问题最常见的原因之一。
二、操作系统层面看sql server 内存分配:操作系统不缺内存不代表sql server不缺内存
专用术语:virtual address space(虚拟地址空间):一个应用程序能访问的最大地址空间。虚拟地址空间存放的数据信息不一定在物理内存中,可能会放在缓存文件中(paging file)physical memory(物理内存):要频繁访问的数据对象必须能长时间地缓存在物理内存中,才能达到最优化的效率。reserved memory(保留内存):是虚拟地址空间的一段地址,不是真正物理空间,由某些api提前申请保留。committed memory(提交内存):将保留内存的页面正式提交。最终到物理内存中,shared memory(共享内存):windows提供了在进程和操作系统间共享内存的机制。可理解为在多个进程中可见的内存。private bytes:某个进程提交的地址空间中,非共享部分。working set:某个进程的地址空间中,存放在物理内存的那一部分。page fault(页面访问错误):分为soft/hard ,访问一个存在虚拟地址空间,但不存在物理内存中的页面时,就会发生pagefault,如果不是访问越界而导致的,一种目标页面存在于硬盘,会产生硬盘读写,成为hard fault。另一种存在物理内存中,但没有直接放在这个进程的working set下。需要windows重定向,这种不会导致硬盘操作,成为soft fault,一般soft带来的性能影响可以忽略,只要关系hard fault。system working set:windows系统也有working set 可以通过性能监视器里的memory:cache bytes来监控,发生在系统内存上的page fault可以用过mmeory:cache faults/sec看到。system cache(系统高速缓存):提高磁盘i/o速度,可以用过性能监视器:memory:cache resident bytes监控。non paged pool (非页交换区):包含一定范围内的系统虚拟地址的内存交换区,可以保证在任何时候都驻留在物理内存中,可以通过memory:pool nonpaged bytes来监控。这一块缓存可以被所有的经常共享,一个最常见的用途是存放所有对象的指针(object handles)paged pool(页交换区):系统空间中可以调入或调出系统进程工作集(working set)的虚拟内存区域。可以通过memory:pool paged bytes和memory:pool paged resident bytes监控。stack(栈):每个线程有两个栈,一个给内核模式(kernel mode),一个给用户模式(user mode)。每个栈是一块内存空间,存放线程运行的过程或函数的调用地址,以及所有参数的值。in process:运行在同一个进程的地址空间里。out of process:运行在不同的进程地址空间里。memory leak(内存泄漏):一种是sql server作为进程,不断地向windows申请内存资源知道整个windows内存耗尽。另一种是sql server 内部,某个sql server组件不断地申请内存,知道把能申请到的内存耗尽,使得其他组件不能正常运行。前一种情况非常少见。32位下windows的地址空间及awe:默认情况下,windows进程有4g虚拟地址空间,2g给核心态(kernel mode),剩下的2g给用户态(user mode)。这两部分会严格区分。
任何一个用户进程的地址空间分布图:
方法1:在boot.ini文件中使用/3gb参数,可以在企业版的windows下讲核心态降到1g,讲用户态升到3g。
方法2:使用address windowsing extensions(地址空间扩展,awe),是一种允许32位应用分配64gb物理内存,并把视图或窗口映射到2g虚拟地址空间的机制。不是所有的内存申请都使用awe,只有先reserve,再commit的内存调用才使用awe。
windows层面上的内存使用检查:在检查sql server内存使用情况时,首先要检查windows层面的内存使用情况。
需要检查的内容有:windows系统自身内存使用数量及内存分布。是否有内存压力,压力是否比较严重。甚至每个进程的内存使用情况。最后就是是否互相影响。
可以使用性能监视器实现。
windows系统使用情况:
1、整体使用分析:
committed bytes:
整个windows系统的内存总数,包括物理内存的数据和文件缓存中的数据。
commit limit:
整个windows系统能够申请的最大内存数,等于物理内存加上文件缓存的大小。如果commit limit≈committed bytes,说明系统内存接近极限。如果缓存文件不能自动增长,系统将不能提供更多的内存空间。
available mbytes:
现在系统空闲的物理内存,直接反映windows层面有没有内存压力。
page file:%usage 和page file:%peak usage:
反映缓存文件使用量的多少,数据在文件缓存中存得越多,说明物理内存数量和实际需求量的差距越大,性能也越差。
pages/sec:
hard page fault每秒需要从磁盘读取或写入的页面数目。是memory:pages input/sec + memory:pages output/sec之和。
memory:page faults/sec 是soft page fault 和 hard page fault的总和。但由于soft page fault 对性能影响不大,所以用处没pages/sec那么有用。pages/sec不能长时间保持在一个比较高的值。
2、windows系统自身内存使用情况:
memory:cache bytes:
系统的working set ,也就是系统使用的物理内存数目。
           memory:system cache resident bytes (system cache):系统告诉缓存消耗的物理内存。
           memory:pool paged resident bytes:页交换区消耗的物理内存。
           memory:system driver resident bytes:可调页的设备驱动程序代码消耗的物理内存。
           memory:system code resident bytes:ntoskrnl.exe中可调页代码消耗的内存。
3、system pool:memory :pool nonpaged bytes(非页交换区)和memory:pool paged resident bytes(页交换区)
单个process使用情况:process:%processor time:目标进程消耗的cpu资源数,包括用户态和核心态的时间。
process:page faults/sec 目标进程上发生的pagefaults的数目。
process:handle count 目标进程handle数据,如果进程内部有对象老是创建不及时回收,就会发生thread leak
process:pool paged bytes目标进程所使用的paged pool的大小。
process:pool nonpaged bytes目标进程所使用的non-paged pool大小。
process:working set 某个进程的地址空间中,存放在物理内存的那部分。
process:virual bytes:某个进程所申请的虚拟地址空间大小。
process:private bytes:某个进程提交了地址空间中非共享的部分。
内存永远是最重要的系统资源。
sql server内存使用和windows之间的关系:sqlserver有两个重要的内存计数器:total server memory 和target server memory。
total server memory:自己分配的buffer pool 内存总和。
target server memory:理论上能够使用的最多内存数目。
sql server 内存使用量陡然下降现象:原因:
1、windows在某种情况下申请了太多内核态内存,反而压缩了用户态可以使用的物理内存。
2、有些硬件驱动程序申请了太多内核态内存,也占用太多物理内存。
3、某些应用突然申请大量物理内存。
使用下面方法避免sql server 内存被急剧抢占:
1、开启lock page in memory功能
只有05/08企业版才有
2、使用sp_configure 设置sql 的max server memory。
3、升级新版本或者补丁。
4、升级硬件驱动。
合理配置sql server 内存两条原则:
(1)windows 系统和其他关键应用服务要有足够的内存,不要在运行过程中因为内存不足,而抢sql server已经申请的内存。
(2)在满足第一点的前提下,sql server使用尽可能多的内存,并保证内存使用数量的稳定性。
方法:
1、使用64位
2、专用服务器
3、设置sql server max server memory
4、给sql server 启动账号赋予lock pages in memory权限。
5、“set working set size”不要使用。
三、sql server 内部独特的内存管理模式:sql server 开放的内存调节接口:1、min server memory (sp_configure):最终由windows确定,不保证sql server使用最小物理内存数。
2、max server memory(sp_configure):数据放在物理内存还是缓冲文件中,由windows决定。
3、set working set size (sp_configure):不要使用。
4、awe enalbed(sp_configure):对32位系统有意义。
5、lock pages in memory (企业版会自动开启):有一定机会确保sql server的物理内存数。
内存使用分类:按用途分类:database cache:存放数据页的缓冲区。
各类consumer:
    connection::默认4k
    general:包含语句的编译、范式化、每个锁数据结构、事务上下文、表格和索引的元数据等。默认8k。
    query plan:默认8k,
    optimizer:默认8k,
    utilities:像bcp、log manager、parallel queries、backup的特殊操作。默认8k,
线程内存:进程内的每个线程分配0.5mb内存。存放线程的数据结构和相关信息。默认512k
第三方代码申请的内存(com,xp...)
按申请方式分类:有些内存申请方式是:预留reserve一大块内存,然后使用的时候一小块一小块commit,而另外一些内存申请直接从地址空间commit,这种叫stolen。
其它类似信息

推荐信息