随着zookeeper 3.4.0 release,bookkeeper被从zk中分离成为了一个独立的项目。这是一个轻量级的项目,代码并不复杂,可以想见未来很可能被广泛用在各种应用系统中,以提供基于日志的高可靠共享消息存储。
bookkeeper是一个基于zookeeper实现的分布式共享消息存储服务,它提供高可靠性、高并发性,以及很高的读写性能。
向bookkeeper写数据时,先写log,然后再写内存,内存中的数据则定期flush到磁盘上。
这篇blog提供一个简单的入门手册,下篇blog进行一些简单的分析。
安装(以trunk为例):
- 下载https://svn.apache.org/repos/asf/zookeeper/bookkeeper/trunk
- 编译:mvn package
- 编译完以后,我们主要关注bookkeeper-server以及bookkeeper-benchmark
- 先配置和启动zookeeper,不提
进入bookkeeper,通过bin/bookkeeper bookie可以启动集群。不过在此之前我们先修改一下conf/bk_server.conf
bookiePort=3181
journalDirectory=/disk1/bookkeeper/bk-txn (write ahead log目录)
ledgerDirectories=/disk2/bookkeeper/bk-data (data 目录,注意我们与log放在不同的磁盘,以提高写速度,目前的多目录有点坑爹,代码里硬编码了只用第一个目录,应该是个bug)
zkLedgersRootPath=/ledgers (zookeeper上的根结点)
flushInterval=100 (数据刷新到磁盘的间隔)
zkServers=192.168.0.1:2181,192.168.0.2:2181,192.168.0.3:2181
serverTcpNoDelay=true (tcp参数,如果都是几十字节以下的小请求且tps很高,可以设为false)
ok,将配置复制到所有的bookie节点上,每台节点上执行bin/bookkeeper bookie,启动完成
测试代码:
可以参照benchmark下的TestClient.java,
注意:
- 传入BookKeeper的初始参数是zookeeper的地址而不是bookkeeper
- 为了提高性能,write要用异步且用回调来确认是否写入成功,LedgerHandle要保证在写入中能平均分配到
测试结果参考:
用了和白皮书上不同的机器配置(白皮书上的测试结果见:
http://wiki.apache.org/hadoop/BookKeeperPerfPage)
我的测试配置:3台zk机器,5台bookie机器。且相互独立。client只用了一个,也独立
bookie服务器配置:2块7.5k转速,1TB seta,8core 超线程到16 E5620, 24GB内存
replication为2,集群数为3和5时,50个LedgerHandle,共写入100w行数据。测试结果如下:
集群数 | 数据大小 | tps |
3 | 50B | 117k/s |
3 | 100B | 82.8k/s |
3 | 500B | 51.9k/s |
3 | 1KB | 33.6k/s |
集群数 | 数据大小 | tps |
5 | 50B | 119k/s |
5 | 100B | 107k/s |
5 | 500B | 55.8k/s |
5 | 1KB | 34.7k/s |
实际测试时,观察到在50和100B的时候,client的cpu到了瓶颈,在500/1000B下,client的网卡到了瓶颈。可见server端还是有很大空闲的。并发性能还没有测试。
分享到:
相关推荐
Apache BookKeeper High-performance reliable write-ahead logging.介绍了hadoop zookeeper的高可用性能。读写的效率等内容。
调试Hadoop源码,查看Hadoop源码必不可少的jar包
学习hadoop时,需要用到bookkeeper这个例子,大家可以下载源来学习和参考。
大数据存储及分层实践-1-4 BookKeeper:Apache Pulsar的存储实现
Java Spring Boot的Bookkeeper应用程序 欢迎使用Bookkeeper-使用此应用程序,您可以帮助我们建立起庞大的书籍,作者,体裁和出版商数据库! 所有信息均可通过下面列出的GET端点公开获得。 要为数据库做出贡献,并...
大数据存储及分层实践-1-4 BookKeeper:Apache Pulsar的存储实现
BookKeeper是可靠的复制日志服务。 它可用于将任何独立服务转变为高可用性的复制服务。 BookKeeper具有高可用性(无单点故障),并随着添加更多存储节点而水平扩展。bookkeeper/bookkeeper-4.13.0
是下一代云原生分布式消息流平台,集消息、存储、轻量化函数式计算为一体,采用计算与存储分离架构设计,支持多租户、持久化存储、多机房跨区域数据复制,具有强一致性、高吞吐、低延时及高可扩展性等流数据存储特性...
个人或者企业都适用的桌面记账软件,灵活易用,可以通过设置配置满足大多数的应用要求,霏凡已有更新版本!!!!,霏凡已有更新版本!!!!,霏凡已有更新版本!!!!
BookKeeper(BK)启动流程 文章目录BookKeeper(BK)启动流程解析命令行参数构建bookie所需的服务构建状态(指标)服务构建BookieService构造内存分配器构造NettyServer构建Bookie BK的启动入口类是Main,Main有一个...
资源来自pypi官网。 资源全名:Bookkeeper-0.0.2.tar.gz
为了高效的顺序写入,较好的容错性和可扩展性,设计了BookKeeper。它的结构由他们组成:Bookie(存储节点),Ledger(日志文档),Ensemble(用一组Bookie存储Ledger)。