当前位置: 首页 > news >正文

个人做网站开工作室迅雷磁力

个人做网站开工作室,迅雷磁力,企业网络规划设计,wordpress html编辑器插件Zookeeper,作为分布式的协调。RegionServer也会把自己的信息写到ZooKeeper中。HDFS是Hbase运行的底层文件系统RegionServer,理解为数据节点,存储数据的。Master RegionServer要实时的向Master报告信息。Master知道全局的RegionServer运行情况…

  • Zookeeper,作为分布式的协调。RegionServer也会把自己的信息写到ZooKeeper中。

  • HDFS是Hbase运行的底层文件系统

  • RegionServer,理解为数据节点,存储数据的。

  • Master RegionServer要实时的向Master报告信息。Master知道全局的RegionServer运行情况,可以控制RegionServer的故障转移和Region的切分。

架构细化

  • HMaster是Master Server的实现,负责监控集群中的RegionServer实例,同时是所有metadata改变的接口,在集群中,通常运行在NameNode上面,这里有一篇更细的HMaster介绍

    • HMasterInterface暴露的接口,Table(createTable, modifyTable, removeTable, enable, disable),ColumnFamily (addColumn, modifyColumn, removeColumn),Region (move, assign, unassign)

    • Master运行的后台线程:LoadBalancer线程,控制region来平衡集群的负载。CatalogJanitor线程,周期性的检查hbase:meta表。

  • HRegionServer是RegionServer的实现,服务和管理Regions,集群中RegionServer运行在DataNode

    • HRegionRegionInterface暴露接口:Data (get, put, delete, next, etc.),Region (splitRegion, compactRegion, etc.)

    • RegionServer后台线程:CompactSplitThread,MajorCompactionChecker,MemStoreFlusher,LogRoller

  • Regions,代表table,Region有多个Store(列簇),Store有一个Memstore和多个StoreFiles(HFiles),StoreFiles的底层是Block。

存储设计

在Hbase中,表被分割成多个更小的块然后分散的存储在不同的服务器上,这些小块叫做Regions,存放Regions的地方叫做RegionServer。Master进程负责处理不同的RegionServer之间的Region的分发。在Hbase实现中HRegionServer和HRegion类代表RegionServer和Region。HRegionServer除了包含一些HRegions之外,还处理两种类型的文件用于数据存储

  • HLog, 预写日志文件,也叫做WAL(write-ahead log)

  • HFile 真实的数据存储文件

HLog
  • MasterProcWAL:HMaster记录管理操作,比如解决冲突的服务器,表创建和其它DDLs等操作到它的WAL文件中,这个WALs存储在MasterProcWALs目录下,它不像RegionServer的WALs,HMaster的WAL也支持弹性操作,就是如果Master服务器挂了,其它的Master接管的时候继续操作这个文件。

  • WAL记录所有的Hbase数据改变,如果一个RegionServer在MemStore进行FLush的时候挂掉了,WAL可以保证数据的改变被应用到。如果写WAL失败了,那么修改数据的完整操作就是失败的。

    • 通常情况,每个RegionServer只有一个WAL实例。在2.0之前,WAL的实现叫做HLog

    • WAL位于*/hbase/WALs/*目录下

    • MultiWAL: 如果每个RegionServer只有一个WAL,由于HDFS必须是连续的,导致必须写WAL连续的,然后出现性能问题。MultiWAL可以让RegionServer同时写多个WAL并行的,通过HDFS底层的多管道,最终提升总的吞吐量,但是不会提升单个Region的吞吐量。

  • WAL的配置:

// 启用multiwal
<property><name>hbase.wal.provider</name><value>multiwal</value>
</property>
复制代码

Wiki百科关于WAL

HFile

HFile是Hbase在HDFS中存储数据的格式,它包含多层的索引,这样在Hbase检索数据的时候就不用完全的加载整个文件。索引的大小(keys的大小,数据量的大小)影响block的大小,在大数据集的情况下,block的大小设置为每个RegionServer 1GB也是常见的。

探讨数据库的数据存储方式,其实就是探讨数据如何在磁盘上进行有效的组织。因为我们通常以如何高效读取和消费数据为目的,而不是数据存储本身。

Hfile生成方式

起初,HFile中并没有任何Block,数据还存在于MemStore中。

Flush发生时,创建HFile Writer,第一个空的Data Block出现,初始化后的Data Block中为Header部分预留了空间,Header部分用来存放一个Data Block的元数据信息。

而后,位于MemStore中的KeyValues被一个个append到位于内存中的第一个Data Block中:

注:如果配置了Data Block Encoding,则会在Append KeyValue的时候进行同步编码,编码后的数据不再是单纯的KeyValue模式。Data Block Encoding是HBase为了降低KeyValue结构性膨胀而提供的内部编码机制。

读写简流程



作者:艾贺521
链接:https://www.imooc.com/article/275991
来源:慕课网
本文原创发布于慕课网 ,转载请注明出处,谢谢合作


转载于:https://juejin.im/post/5c5015796fb9a049a62cfc49

http://www.lbrq.cn/news/2621719.html

相关文章:

  • b站网络营销方式百度做网站推广电话
  • 做rom的网站百度权重工具
  • 怎么在家做网站十大免费引流平台
  • 网站logo怎么修改惠州百度推广排名
  • 电子政务 和网站建设总结广州seo推广公司
  • 怎么用挂靠的公司做网站东莞搜索排名提升
  • 家装设计效果图网站怎么做网上销售
  • 济南正规做网站公司阿里云域名注册流程
  • 长春网站建设及推广seo搜索引擎优化期末考试
  • 网页设计最牛的网站建设seo优化专家
  • 做网站应该做到那几点百度竞价怎么排名第一
  • 怎么做社交网站网络营销与直播电商专业就业前景
  • 学做网网站论坛电子商务平台有哪些
  • 绿色蔬菜网站模板给公司做网站要多少钱
  • 如何做自己微网站知识营销
  • 新手用什么框架做网站比较好如何用google搜索产品关键词
  • 广州好的做网站公司专业网络推广软件
  • wordpress 微网站网络营销流程
  • 加强协会网站建设意义电商关键词查询工具
  • 网站建设有哪些效益免费发布网站seo外链
  • 深圳设计功能网站枣庄网络推广seo
  • 做网站的外包能学到什么网络营销的特征
  • 淘宝联盟怎么样做网站什么网站可以发布广告
  • 做教师知识网站有哪些内容百度推广员工工资怎么样
  • 网页设计案例图片百度搜索seo
  • 公司网站代码模板同城广告发布平台
  • 个人怎样申请网站百度销售系统
  • 网站备案百度站长提交万能的搜索引擎
  • 建设网站长尾关键词挖掘精灵
  • 做门户网站用什么模板好地推拉新接单网
  • PyTorch LSTM文本生成
  • 内网穿透原理和部署教程
  • 北京-4年功能测试2年空窗-报培训班学测开-第六十九天-投简历第一天-从兴奋到害怕
  • 大语言模型
  • JavaScript DOM 元素节点操作详解
  • Linux系统之Docker命令与镜像、容器管理