algorithms-go/DataStructure/tree/binaryTree
2021-04-07 18:13:02 +08:00
..
bst_test.go '添加基础数据结构' 2021-04-07 18:13:02 +08:00
bst.go '添加基础数据结构' 2021-04-07 18:13:02 +08:00
README.md '添加基础数据结构' 2021-04-07 18:13:02 +08:00

三种基本的存储引擎

  • 哈希存储引擎
    是哈希表的持久化实现,支持增、删、改以及随机读取操作,但不支持顺序扫描对应的存储系统为key-value存储系统。对于key-value的插入以及查询哈希表的复杂度都是O(1)明显比树的操作O(n)快,如果不需要有序的遍历数据哈希表就是your Mr.Right
  • B树存储引擎 是B树的持久化实现不仅支持单条记录的增、删、读、改操作还支持顺序扫描B+树的叶子节点之间的指针对应的存储系统就是关系数据库Mysql等
  • LSM树Log-Structured Merge Tree存储引擎 和B树存储引擎一样同样支持增、删、读、改、顺序扫描操作。而且通过批量存储技术规避磁盘随机写入问题。当然凡事有利有弊LSM树和B+树相比LSM树牺牲了部分读性能用来大幅提高写性能。

BTree和B+Tree

详解

B树是为磁盘存储而专门设计的一类平衡搜索树

B+树中的B代表平衡balance B+树最大的性能问题是为了读取有序性,插入会产生大量的随机IO,因为磁盘寻道速度慢

  • 典型应用

平衡二叉树AVL Tree

LSM树 与 B+ Tree

产品:HBase, Cassandra, LevelDB, SQLite,甚至在mangodb3.0中也带了一个可选的LSM引擎

LSM树由来、设计思想以及应用到HBase的索引 概念

设计背景:顺序读写磁盘不管是SATA还是SSD快于随机读写主存而且快至少三个数量级。这说明我们要避免随机读写最好设计成顺序读写

LSM树的设计思想非常朴素将对数据的修改增量保持在内存中达到指定的大小限制后将这些修改操作批量写入磁盘,不过读取的时候稍微麻烦需要合并磁盘中历史数据和内存中最近修改操作所以写入性能大大提升读取时可能需要先看是否命中内存否则需要访问较多的磁盘文件。极端的说基于LSM树实现的HBase的写性能比Mysql高了一个数量级读性能低了一个数量级

它的原理是把一颗大树拆分成N棵小树 它首先写入到内存中内存没有寻道速度的问题随机写的性能得到大幅提升在内存中构建一颗有序小树随着小树越来越大内存的小树会flush到磁盘上。当读时由于不知道数据在哪棵小树上因此必须遍历所有的小树但在每颗小树内部数据是有序的

以上就是LSM树最本质的原理有了原理再看具体的技术就很简单了。

  1. 首先说说为什么要有WALWrite Ahead Log很简单因为数据是先写到内存中如果断电内存中的数据会丢失因此为了保护内存中的数据需要在磁盘上先记录logfile当内存中的数据flush到磁盘上时就可以抛弃相应的Logfile。

  2. 什么是memstore, storefile很简单上面说过LSM树就是一堆小树在内存中的小树即memstore每次flush内存中的memstore变成磁盘上一个新的storefile。

  3. 为什么会有compact很简单随着小树越来越多读的性能会越来越差数据也有冗余,因此需要在适当的时候对磁盘中的小树进行merge多棵小树变成一颗大树。

LSM tree 操作流程如下:

  1. 数据写入和更新时首先写入位于内存里的数据结构。为了避免数据丢失也会先写到 WAL 文件中。
  2. 内存里的数据结构会定时或者达到固定大小会刷到磁盘。这些磁盘上的文件不会被修改。
  3. 随着磁盘上积累的文件越来越多,会定时的进行合并操作,消除冗余数据,减少文件数量。