PostgreSQL中空闲数据块管理机制的原理是什么

本篇文章给大家分享的是有关PostgreSQL中空闲数据块管理机制的原理是什么，小编觉得挺实用的，因此分享给大家学习，希望大家阅读完这篇文章后可以有所收获，话不多说，跟着小编一起来看看吧。

数据块空闲空间的产生

根据PostgreSQL的MVCC机制，所有UPDATE和DELETE操作都会产生过期数据，需要通过vacuum命令来清理过期数据。vacuum命令基本上有两种：

• VACUUM

将过期tuple对应的磁盘空间标记为可用，但不会真正释放空间给操作系统，其他程序无法再利用。该操作执行时不会要求排它锁(EXCLUSIVE LOCK)，不影响表读写操作。

• VACUUM FULL

将正常的tuple数据拷贝到新磁盘文件中，重新组织，将原数据文件删除，未使用的磁盘空间退还给操作系统，该操作执行时需要获取排它锁，会影响正常的读写操作。因此执行该操作时需要慎重，特别是表数据量较大时，执行时间会比较长。

我们知道PostgreSQL的表(Relation)实际上是由多个物理数据块(页)组成，当执行vacuum操作后，这些数据块中的保存有过期记录(tuple)的磁盘空间就会被标记为可用，就会产生空闲空间。

当新增记录(tuple)时，会优先重新利用表中数据块的空闲空间，而不是分配一个新的数据块。然而当多个数据块都有空闲空间时，该选取哪个数据块来保存新记录呢?被选取的记录必须要能够有足够的空间存放新记录。

空闲数据块的组织结构

为解决以上问题，PostgreSQL设计了FSM(Free Space Map)结构来表示各个数据块中空闲磁盘空间的大小。在pg8.4版本之后，每个表(Relation)都会独立的FSM空间，具体表现为以_fsm为后缀的物理文件：

-bash-4.2$ cd $PGDATA/ins2/base -bash-4.2$ ll *fsm -rw------- 1 postgres postgres 24576 Jun 26 15:40 1247_fsm -rw------- 1 postgres postgres 24576 Jun 26 15:40 1249_fsm -rw------- 1 postgres postgres 24576 Jun 26 15:40 1255_fsm

FSM文件的存储结构如下所示：

为了快速搜索到合适数据块，减少因搜索带来的IO开销(即节省FSM文件大小)，FSM结构只使用一个字节来记录一个数据块中的空闲磁盘空闲大小，因1byte=8bits，那么就可以记录2^8种空闲磁盘大小，假设一个数据块大小(BLCKSZ)为8k(PostgreSQL默认为8k)，那么就可以划分成256(2^8)等份，每份有BLCKSZ/256字节来表示范围，示例如下：

Range      Category   0 - 31        0  32 - 63        1 ...    ...     ... 8096 - 8127    253 8128 - 8163    254 8164 - 8192    255

FSM数据块内的数据结构

知道了数据块中空闲空间大小的表示方法，那如何来组织这些表示记录，保持高效查询效率呢?答案是PostgreSQL使用了一种二叉树结构(大根堆)来存储这些表示空闲空间大小的记录，叶子节点存储实际的空间大小记录，非叶子节点只是作为辅助查询。当需要查询是否有合适的数据块大小时，只需要先比较树的根节点即可知道，大大减少了查询次数。大根堆数据结构示例如下：

 4  4     2 3 4   0 2    <- This level represents heap pages

上述例子中叶子节点的值3,4,0,2分别代表了空闲数据块的map值，值3代表的就是空闲磁盘空间大小在[96,127]的数据块。PostgreSQL源码中FSM页数据结构定义如下：

typedef struct {     int            fp_next_slot;      uint8        fp_nodes[FLEXIBLE_ARRAY_MEMBER]; } FSMPageData;

其中，fp_next_slot指向的是下一次查询开始的slot位置，具体作用稍后阐述，fp_nodes数组存储二叉树的节点值。FSM数据块内的数据存储结构类似如下图所示：

按照这种存储结构，一个FSM数据块(存储FSM记录的数据块，和普通数据块大小是一致的)可以存储的实际记录数(数据块的空闲空间大小对应的map value)为：

(BLCKSZ - headers) / 2        //除以2是因为二叉树的叶子节点数约为总节点数的1/2

其中，BLCKSZ表示数据块大小，headers表示数据块固定大小的头部信息。如果按照数据块默认大小8k，那么单个FSM数据块可存储的记录数大约为4000个，另外，PostgreSQL中一个表(Relation)最多可以有2^32个数据块，那么最多就需要2^32条map记录来表示这些数据块中拥有的空闲空间大小，显然，单个FSM数据块是无法存储下这些记录，实际需要约2^32/4000个FSM数据块来存储。

前面我们介绍了单个FSM数据块内的存储map值的数据结构，当有多个FSM数据块时，但是我们又该按照什么顺序去选择FSM数据块页来搜索呢?顺序查找FSM数据块显然效率太低。

FSM数据块间的逻辑组织结构

为了提升查找FSM数据块的效率，PostgreSQL采用Higher-level(类似多叉树)的逻辑结构来组织FSM数据。为每个FSM数据块指定一个额外的逻辑结构FSMAddress，数据结构定义如下：

#define FSM_TREE_DEPTH    ((SlotsPerFSMPage >= 1626) ? 3 : 4) #define FSM_ROOT_LEVEL    (FSM_TREE_DEPTH - 1) #define FSM_BOTTOM_LEVEL 0  typedef struct {     int            level;            /* level */     int            logpageno;        /* page number within the level */ } FSMAddress;

其中，level表示该FSM数据块所处的层号，logpageno表示在该层中的序号，序号从0开始。类似于FSM单个数据块内的存储方式，只有在***层(level=0)的FSM数据块才实际存储记录，其它层作为查询的辅助层，上层的叶子节点值代表了下层的根节点值。

那需要多少层逻辑结构才能表示所有的数据块记录呢，答案是当一个FSM数据块内存储超过1626条记录(map value)时，采用三层即可，因为162616261626>=2^32。

下面用一个示意图来表示整体的组织结构，为了让示意图简化，只在图中每个数据块存放4个字节的数据，这和存放1626个字节原理是一致的。FSM文件各数据块间逻辑组织结构示意图如下：

如图所示，第2层数据块中叶子节点值123就代表了它下一层(第1层)第0号数据块的根节点值，而第1层第0号数据块的叶子节点值123则代表的是第0层第1号数据块的根节点，第0层第1号数据块的叶子节点值123代表的是空闲空间大小为[3936,3967]字节的数据块。每个数据块都有逻辑地址，如第1号数据块的逻辑地址{1,0}表示第1层的第0号FSM数据块，实际上是对应的FSM物理文件的第1号数据块。第2层和第1层的FSM数据块内存储的数据都只是作为辅助层索引，实际上只有第0层FSM数据块内的叶子节点才存储着表中空闲数据块的map值，其他节点均是索引值。

空闲数据块的搜索算法

上面介绍了空闲数据块的表示方法和FSM文件中各数据块的组织形式，接下来将介绍空闲空间数据块的搜索算法。

首先，先介绍FSM数据块内的查找算法。对于大根堆二叉树查找，简单的方法就是每次从root节点开始比较查找，如果root节点小于待查找值，则表示该块内没有满足条件的map value，否则可以继续向下找到一个满足条件的叶子节点。但是PostgreSQL的设计并不是这样的，而是通过之前介绍的FSMPageData结构体的fp_next_slot来保存下一次查询的起点位置(slot)，搜索算法如下：

比较根节点值，如果待查询值大于根节点，则直接返回，表示该FSM数据块内没有满足条件的map值，否则进行下一步。

比较查询的起点位置(slot)对应的map值，如果不满足条件，则进行下一步，否则跳到第5步。

设置新查询位置为下一个slot(slot序号+1，slot值代表了在叶子节点的顺序号)的父节点，再比较，如果不满足条件则重复该步骤，直到向上查找到根节点。如果找到满足条件的中间节点，则进行下一步。

向下查找，找到满足条件的叶子节点，然后进行下一步。

重新设置下一次查询的fp_next_slot变量，然后返回该叶子节点的slot。

FSM数据块内搜索算法的核心源码如下：

FSM数据块内搜索算法的核心源码如下：  int fsm_search_avail(Buffer buf, uint8 minvalue, bool advancenext,                  bool exclusive_lock_held) {     ...... restart:     if (fsmpage->fp_nodes[0] < minvalue) //每次查询先检查根节点是否满足条件         return -1;     target = fsmpage->fp_next_slot;     if (target < 0 || target >= LeafNodesPerPage)         target = 0;     target += NonLeafNodesPerPage;     nodeno = target;                     //开始查询时的slot位置     while (nodeno > 0)     {         if (fsmpage->fp_nodes[nodeno] >= minvalue)             break;         nodeno = parentof(rightneighbor(nodeno));  //返回下一个slot的父节点位置     }     while (nodeno < NonLeafNodesPerPage)      //向下查找到叶子节点     {         int    childnodeno = leftchild(nodeno);  //先查看左子节点         if (childnodeno < NodesPerPage &&             fsmpage->fp_nodes[childnodeno] >= minvalue)         {             nodeno = childnodeno;             continue;         }         childnodeno++;                //左子节点不满足条件查找右子节点         if (childnodeno < NodesPerPage &&             fsmpage->fp_nodes[childnodeno] >= minvalue)         {             nodeno = childnodeno;         }         else         {             //都没找到，说明当前可能存在"torn page"的情况（ IO写磁盘数据时出现crash，只有部分数据写入）             //重新更新页数据后再查询             .......             fsm_rebuild_page(page);             ......             goto restart;          }     }     slot = nodeno - NonLeafNodesPerPage;                   //找到slot序号     fsmpage->fp_next_slot = slot + (advancenext ? 1 : 0);  //保存下一次查询开始的slot位置     return slot; }

至此，就找到了该FSM数据块中满足条件的叶子节点，如果该页不是处在第0层，则该叶子节点并不是我们最终查询目标，根据前述FSM数据块间的组织结构可知，辅助层中叶子节点对应的是下一层FSM数据块的根节点，因此，需要继续向下查找到第0层的对应叶子节点。查找叶子节点对应下一层的数据块则是通过返回的slot值来计算的，核心查找算法源码如下：

for (;;){     ......     slot = fsm_search_avail(buf, min_cat, (addr.level == FSM_BOTTOM_LEVEL),    false);     ......     if (slot != -1)   //找到满足条件的叶子节点，否则退出循环     {         if (addr.level == FSM_BOTTOM_LEVEL)    //查找到第0层，返回结果             return fsm_get_heap_blk(addr, slot);          addr = fsm_get_child(addr, slot);     //非第0层，继续查找子树     }     ...... }  static FSMAddress fsm_get_child(FSMAddress parent, uint16 slot) {     FSMAddress    child;     Assert(parent.level > FSM_BOTTOM_LEVEL);     child.level = parent.level - 1;     child.logpageno = parent.logpageno * SlotsPerFSMPage + slot; //根据上一层的slot查找下层对应数据页的logpageno     return child; }

整个搜索算法就介绍完毕，至于为什么要把fp_next_slot来作为起始查询位置而不是root节点呢?原因有几点：

• 当有多个后端连接同时新增tuple时，可以尽量避免对同一数据块的写冲突，提高写并行度。如果每次都从root节点开始查找，有可能多个查询都同时查找到同一个数据块。

• 获取的是上一次返回查询结果的临近数据块，更有利于提升磁盘IO效率。

更新空闲数据块空间大小

查找到表中合适的空闲数据块后，新记录会写入该数据块，然后需要更新该数据块的空闲空间大小。相较于搜索，更新相对简单，核心思想就是先重新计算该空闲数据块的map值，然后更新在FSM数据块中对应叶子节点的值，再以"冒泡"的方式向上不断更新，直到更新到父节点值不变化或者root节点。核心源码如下：

fsmpage->fp_nodes[nodeno] = value;                 //更新当前节点 do {     ......     nodeno = parentof(nodeno);     lchild = leftchild(nodeno);     rchild = lchild + 1;     newvalue = fsmpage->fp_nodes[lchild];     if (rchild < NodesPerPage)                       //右子节点存在，则选取***值作为父节点的新值         newvalue = Max(newvalue,  fsmpage->fp_nodes[rchild]);     oldvalue = fsmpage->fp_nodes[nodeno];     if (oldvalue == newvalue)                        //检查更新后父节点是否有变化         break;     fsmpage->fp_nodes[nodeno] = newvalue;            //有变化，更新父节点，继续向上更新 } while (nodeno > 0);                                //更新到root节点退出

锁

搜索空闲数据块时只会对当前搜索的FSM数据块加共享锁(shared buffer locks)，更新FSM数据块时才会加排它锁(exclusive buffer lock)。这里值得注意的一点是在搜索时，使用了fp_next_slot变量来表示下一次搜索的起点位置，并没有为之加一个排它锁，因为维持一个排它锁的代价远比fp_next_slot变量出现异常后的代价大很多。

以上就是PostgreSQL中空闲数据块管理机制的原理是什么，小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注行业资讯频道。