​概览数据库索引创建

索引是一种使数据检索更快的数据库对象。 但是,索引的创建也需要时间,并且会占用额外的空间。因此,在选择正确的索引创建策略时,我们必须审慎选择。

索引是一种使数据检索更快的数据库对象。 但是,索引的创建也需要时间,并且会占用额外的空间。因此,在选择正确的索引创建策略时,我们必须审慎选择。

数据库表是一组行/记录。然而,这些行并不是以表的形式物理存储的,它们存储在块上的数据页中。要在这些数据页中找到特定记录需要扫描多个文件。为了改进这一点,我们创建索引。索引是小型的引用表,用于根据索引值存储对行的引用。

索引是一种使数据检索更快的数据库对象。但是,索引的创建也需要时间,并且会占用额外的空间。因此,在选择正确的索引创建策略时,我们必须审慎选择。

​概览数据库索引创建

RUM猜想

类似于CAP定理,RUM猜想指出 —— 我们无法设计一个存储系统的访问方法,使其在以下三个方面都最优:

读、更新和内存。

​概览数据库索引创建

​概览数据库索引创建

读取、更新、内存 — 以两者优化为代价的第三者。

  • 读取开销:定义为总读取数据量(主要 + 辅助)与预期读取的主要数据量之间的比率。通过读取放大来衡量。
  • 更新开销:定义为总写入数据量(主要 + 辅助)与预期更新的主要数据量之间的比率。通过写入放大来衡量。

根据上图中的读取和写入模式,数据库将分为以下5类:

  • 平衡 — 读取和写入均匀分布。很少发生。
  • 读取优化 — 写入较少,读取较多(分析工作负载)
  • 写入优化 — 写入较多,读取较少(事务工作负载)
  • 热分区读取 — 来自某些数据部分的读取较多
  • 热分区写入 — 向某些部分的写入较多

索引类型

(1) 无索引

实现:Kafka(可以看作纯粹是WAL)、数据仓库

(2) 主键索引

主键 = 分区键 + (可选)排序键

  • 分区键 = “什么节点”
  • 排序键 = 满足唯一性约束的剩余内容

有各种分区策略,其中一些如下:

  • 哈希分区(也称为“一致性哈希”)
  • 范围分区•随机数

聚簇索引 — 物理数据组织

非聚簇索引 — 逻辑组织

(3) KV存储(哈希表)

  • 哈希分区在这里非常有意义
  • 只能在RAM中进行,这就是为什么我们在PostgreSQL等数据库中看不到它
  • 实现:Memcache、Redis

(4) B树 — 读取优化

  • 实现:DynamoDB、PostgreSQL
  • 变体:Bw-tree 等(查看 Alex Petrov 的《Database Internals》)
  • 它是许多数据库中的默认索引。

​概览数据库索引创建

(5) 位图索引

用于OLAP的读取和内存优化。

​概览数据库索引创建

(6) LSM树 — 写入优化

实现:Cassandra、Spanner

(7) 二级索引 — 更多读取优化

  • 本地二级索引 — 这是“默认”/“正常”的二级索引
  • 全局二级索引 - 可能对于读取重型的键范围查询和无法避免的散列收集最有意义
  • 实现:DynamoDB,可能是Spanner

(8) 多维索引

  • 连接索引
  • R树(实现:PostgreSQL)
  • 四叉树(实现:Elasticsearch)
  • 地理哈希(实现:Redis)

(9) 倒排索引

实现:ElasticSearch、PostgreSQL、Redis

示例场景:Twitter 等社交媒体站点的文本搜索,google.com,GitHub

(10) 跳跃表

实现:Redis(仅)

示例场景:游戏排行榜

(11) 向量索引

实现:Pinecone、Facebook 的 Faiss、PlanetScale 的 MySQL 分支、Redis

示例场景:机器学习问题

(12) 数据立方体和物化视图

实现:数据仓库,支持OLAP的数据库

(13) Count-min sketch

  • 就RUM而言,以极端OLAP读取延迟为代价换取精度
  • 实现:Flink、AWS Firehose、Druid、Spark streams、Redis

对于分布式系统,还有其他有趣的权衡。其中之一是PACELC,它说:如果是分区,选择可用性和一致性之间的折衷,否则选择延迟和一致性之间的折衷。有许多级别的一致性可供折衷选择(以及隔离级别)。

(14) 一致性级别

  • 强一致性
  • 最终一致性
  • 一致前缀
  • 单调读取

©本文为清一色官方代发,观点仅代表作者本人,与清一色无关。清一色对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。本文不作为投资理财建议,请读者仅作参考,并请自行承担全部责任。文中部分文字/图片/视频/音频等来源于网络,如侵犯到著作权人的权利,请与我们联系(微信/QQ:1074760229)。转载请注明出处:清一色财经

(0)
打赏 微信扫码打赏 微信扫码打赏 支付宝扫码打赏 支付宝扫码打赏
清一色的头像清一色管理团队
上一篇 2023年12月21日 00:07
下一篇 2023年12月21日 00:07

相关推荐

发表评论

登录后才能评论

联系我们

在线咨询:1643011589-QQbutton

手机:13798586780

QQ/微信:1074760229

QQ群:551893940

工作时间:工作日9:00-18:00,节假日休息

关注微信