图解kafka生产者消息流程
kafka管控推荐使用 滴滴开源 的 Kafka运维管控平台 更符合国人的操作习惯 ,
更强大的管控能力 ,更高效的问题定位能力 、更便捷的集群运维能力 、更专业的资源治理 、 更友好的运维生态
生产者客户端代码
123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051public class SzzTestSend { public static final String bootStrap = "xxxxxx:9090"; public static final String topic = "t_3_1"; public static void main(String[] args) { Properties properties = new Properties(); properties.put( ...
Kafka Broker 网络通信相关配置详解(内外网分流)
Broker内外网分流、Broker2Controller分流
Kafka的客户端NetworkClient如何发起的请求
kafka管控推荐使用 滴滴开源 的 Kafka运维管控平台 更符合国人的操作习惯 ,
更强大的管控能力 ,更高效的问题定位能力 、更便捷的集群运维能力 、更专业的资源治理 、 更友好的运维生态
[TOC]
前面我们有讲解Kafka的网络通信模型 , 但是那篇文章主要讲的是 作为服务端是如何处理的。
那么,今天我们再来讲一讲 客户端是如何发起请求的。
带着几个问题思考一下
如何发起Request请求
如果配置了多个listeners,如何正确的选择listener发起请求?
Controller2Broker、Broker2Broker、Client2Broker 的区别是什么?
构建Request并发起请求关键类客户端发起请求的几个关键类
NetworkSend该类继承自ByteBufferSend, 超类是 Send,有以下几个接口
1234String destination();boolean completed();long writeTo(GatheringByteChannel channel) throws IOExc ...
图解Kafka服务端的网络通信模型
Kafka网络模型使用的是什么线程模型?什么是ControllerPlane(控制器面板),什么是DataPlane(数据面板)?Kafka整个请求流程是什么样子的 ?与Kafka网络通信相关的配置。
图解Kafka Producer 消息缓存模型
图解Kafka Producer 消息缓存模型
kafka指定副本为Leader的3种方法
kafka管控推荐使用 滴滴开源 的 Kafka运维管控平台 更符合国人的操作习惯 ,
更强大的管控能力 ,更高效的问题定位能力 、更便捷的集群运维能力 、更专业的资源治理 、 更友好的运维生态
哈喽~大家好啊,我是彦祖😋
之前,我写过一篇文章叫做 Kafka如何修改分区Leader
就是因为在我们实际的运维过程中,需要指定某个副本为ISR,但是呢 Kafka中的Leader选举策略并不支持这个功能,所以需要我们自己来实现它。关于Leader选举策略,你可以看这篇文章Leader选举流程和4种选举策略
但是我们在之前的文章中,是留下了一个小尾巴-优化与改进。
我们先简单的回顾一下之前的2种方案
方案一: 分区副本重分配 (低成本方案)之前关于分区副本重分配 我已经写过很多文章了, 这里我就简单说一下;
一般分区副本重分配主要有三个流程
生成推荐的迁移Json文件
执行迁移Json文件
验证迁移流程是否完成
这里我们主要看第2步骤, 来看看迁移文件一般是什么样子的
12345678{ "version" ...
编译 Kafka 源码并搭建源码环境
kafka管控推荐使用 滴滴开源 的 Kafka运维管控平台 更符合国人的操作习惯 ,
更强大的管控能力 ,更高效的问题定位能力 、更便捷的集群运维能力 、更专业的资源治理 、 更友好的运维生态
搭建源码环境可以看这篇文章:编译 Kafka 源码并搭建源码环境
上面有个地方注意,启动的时候,可以传入VM参数来指定 kafka.log.dir 路径(存放各种日志的路径)
1-Dkafka.logs.dir=/Users/shirenchuang/work/IdeaPj/open_source/kafka/logs
按照上面的方法搭建并成功启动了Kafka, 那么当我们想要启动集群怎么办呢?
IDEA同时启动多个Kafka
配置多个server.properties, 例如server1.properties、server2.properties、server3.properties
修改不同server.properties的配置注意以下几个配置不要重复了##不同的idbroker.id=0
##不同的端口listeners ...
kafka生产环境磁盘坏掉了的正确处理姿势,建议收藏以备不时之需
kafka生产环境磁盘坏掉了的正确处理姿势,建议收藏以备不时之需
ISR伸缩机制
ISR什么时候伸展 ISR什么时候缩小 ISR传播机制又是什么?