wordpress 更改数据库密码错误/百度seo指数查询
备份 : 把数据在单个集群下不同节点之间的拷贝
镜像 (Mirroring) : 把数据在集群间的拷贝
MirrorMaker 工具 : 实现消息或数据从一个集群到另一个集群的拷贝
MirrorMaker : 消费者 + 生产者的程序
- 消费者 : 从源集群(Source Cluster)消费数据
- 生产者 : 向目标集群(Target Cluster)发送消息
整个镜像流程 :
多套集群镜像 :
运行 MirrorMaker :
consumer.config
: 指定 MirrorMaker 中消费者的配置文件地址 (bootstrap.servers) : 该 MirrorMaker 从哪个 Kafka 集群读取消息。因为 MirrorMaker 有可能在内部创建多个消费者实例并使用消费者组机制,设置 group.id 。配置auto.offset.reset=earliest
producer.config
: 指定 MirrorMaker 内部生产者组件的配置文件地址。bootstrap.servers
: 配置拷贝的消息要发送到的目标集群num.streams
: 创建多少个 KafkaConsumer 实例whitelist
: 接收一个正则表达式。所有匹配该正则表达式的主题都会被自动地执行镜像。.*
: 同步源集群上的所有主题
bin/kafka-mirror-maker.sh \
--consumer.config ./config/consumer.properties \
--producer.config ./config/producer.properties \
--num.streams 8 --whitelist ".*"
启动 MirrorMaker
consumer.properties:
- 用轮询策略,手动增加
partition.assignment.strategy
bootstrap.servers=localhost:9092
group.id=mirrormaker
auto.offset.reset=earliest
producer.properties :
bootstrap.servers=localhost:9093
启动 MirrorMaker
bin/kafka-mirror-maker.sh \
--producer.config ../producer.config \
--consumer.config ../consumer.config \
--num.streams 4 \
--whitelist ".*"
验证拷贝成功
两位移值的差值 = 该分区当前的消息数
获取最早的位移
bin/kafka-run-class.sh kafka.tools.GetOffsetShell \
--broker-list localhost:9093 \
--topic test --time -2
获取最新的位移
bin/kafka-run-class.sh kafka.tools.GetOffsetShell \
--broker-list localhost:9093 \
--topic test --time -1