作为一名程序员我不忘初心,复习指南

helloworld_78018081
• 阅读 1262

01 kafka入门

1.1 什么是kafka

1.2 kafka中的基本概念

1.2.1 消息和批次

1.2.2 主题和分区

1.2.3 生产者和消费者、偏移量、消费者群组

1.2.4 Broker和集群

1.2.5 保留消息

作为一名程序员我不忘初心,复习指南

作为一名程序员我不忘初心,复习指南

02 为什么选择kafka

2.1 优点

2.2 常见场景

2.2.1 活动跟踪

2.2.2 传递消息

2.2.3 收集指标和日志

2.2.4 提交日志

2.2.5 流处理

作为一名程序员我不忘初心,复习指南

03 kafka的安装、管理和配置

3.1 安装

3.1.1 预备环境

3.1.2 下载和安装kafka

3.1.3 运行

3.1.4 kafka基本的操作和管理

3.2 Broker配置

3.3 硬件配置对kafka性能的影响

3.3.1 磁盘吞吐量/磁盘容量

3.3.2 内存

3.3.3 网络

3.3.4 CPU

3.3.5 总结

作为一名程序员我不忘初心,复习指南

作为一名程序员我不忘初心,复习指南

04 kafka的集群

4.1 为何需要kafka集群

4.2 如何估算kafka集群中Broker的数量

4.3 Broker如何加入kafka集群

作为一名程序员我不忘初心,复习指南

05 第一个kafka程序

5.1 创建我们的主题

5.2 生产者发送消息

5.2.1 必选属性(bootstrap.servers、key.serializer、value.serializer)

5.3 消费者接受消息

5.3.1 必选参数(group.id)

5.4 演示示例

作为一名程序员我不忘初心,复习指南

06 kafka的生产者

6.1 生产者发送消息的基本流程

6.2 使用kafka生产者

6.2.1 三种发送方式(发送并忘记、同步发送、异步发送)

6.2.2 多线程下的生产者

6.2.3 更多发送配置(acks、buffer.mempry、max.block.ms、retries、batch.size、linger.ms、compression.type、client.id、、、顺序保证)

6.3 序列化

6.3.1 自定义序列化需要考虑的问题

6.4 分区

6.4.1 自定义分区器

作为一名程序员我不忘初心,复习指南

07 kafka的消费者

7.1 消费者的入门

7.1.1 消费者群组

7.1.2 消费者配置

7.2 消费者中的基础概念

7.2.1 消费者群组

7.2.2 订阅

7.2.3 轮询

7.2.4 提交和偏移量

7.3 消费者中的核心概念

7.4 kafka中的消费安全

7.5 消费者提交偏移量导致的问题

7.5.1 自动提交

7.5.2 手动提交(同步)

7.5.3 异步提交

7.5.4 同步和异步组合

7.5.5 特定提交

7.6 分区再均衡

7.7 优雅1退出

7.8 反序列化

7.9 独立消费者

作为一名程序员我不忘初心,复习指南

作为一名程序员我不忘初心,复习指南

08 深入理解kafka

8.1 集群的成员关系

8.2 什么是控制器

8.3 复制-kafka的核心

8.3.1 replication-factor

8.3.2 副本类型

8.3.3 工作机制

8.4 处理请求的内部机制

8.4.1 生产请求

8.4.2 获取请求

8.4.3 ISR

8.5 物理存储机制

8.5.1 分区分配

8.5.2 文件管理

8.5.3 文件格式

8.5.4 索引

8.5.5 超时数据的清理机制

作为一名程序员我不忘初心,复习指南

作为一名程序员我不忘初心,复习指南

09 可靠的数据传递

9.1 kafka提供的可靠性保证和架构上的权衡

9.2 复制

9.3 Broker配置对可靠性的影响

9.3.1 复制系数

9.3.2 不完全的首领选举

9.3.3 最少同步副本

9.4 可靠系统里的生产者

9.4.1 发送确认

9.4.2 配置生产者的重试参数

9.4.3 额外的错误处理

9.5 可靠系统里的消费者

9.5.1 消费者的可靠性配置

9.5.2 显式提交偏移量

作为一名程序员我不忘初心,复习指南

10 kafka和Spring的整合

10.1 与Spring集成

10.1.1 pom文件

10.1.2 统一配置

10.1.3 生产者端

10.1.4 消费者端

作为一名程序员我不忘初心,复习指南

11 SpringBoot和kafka的整合

作为一名程序员我不忘初心,复习指南

12 kafka实战之削峰填谷

13 数据管道和流式处理(了解即可)

13.1 数据管道基本概念

13.2 流式处理基本概念

作为一名程序员我不忘初心,复习指南

最后

在面试前我整理归纳了一些面试学习资料,文中结合我的朋友同学面试美团滴滴这类大厂的资料及案例 感兴趣的朋友可以点击Java学习免费获取。 作为一名程序员我不忘初心,复习指南

作为一名程序员我不忘初心,复习指南 由于篇幅限制,文档的详解资料太全面,细节内容太多,所以只把部分知识点截图出来粗略的介绍,每个小节点里面都有更细化的内容!

大家看完有什么不懂的可以在下方留言讨论也可以关注。

觉得文章对你有帮助的话记得关注我点个赞支持一下!

点赞
收藏
评论区
推荐文章
blmius blmius
2年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
Jacquelyn38 Jacquelyn38
2年前
2020年前端实用代码段,为你的工作保驾护航
有空的时候,自己总结了几个代码段,在开发中也经常使用,谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
Stella981 Stella981
2年前
Android So动态加载 优雅实现与原理分析
背景:漫品Android客户端集成适配转换功能(基于目标识别(So库35M)和人脸识别库(5M)),导致apk体积50M左右,为优化客户端体验,决定实现So文件动态加载.!(https://oscimg.oschina.net/oscnet/00d1ff90e4b34869664fef59e3ec3fdd20b.png)点击上方“蓝字”关注我
Stella981 Stella981
2年前
Python之time模块的时间戳、时间字符串格式化与转换
Python处理时间和时间戳的内置模块就有time,和datetime两个,本文先说time模块。关于时间戳的几个概念时间戳,根据1970年1月1日00:00:00开始按秒计算的偏移量。时间元组(struct_time),包含9个元素。 time.struct_time(tm_y
Wesley13 Wesley13
2年前
00:Java简单了解
浅谈Java之概述Java是SUN(StanfordUniversityNetwork),斯坦福大学网络公司)1995年推出的一门高级编程语言。Java是一种面向Internet的编程语言。随着Java技术在web方面的不断成熟,已经成为Web应用程序的首选开发语言。Java是简单易学,完全面向对象,安全可靠,与平台无关的编程语言。
Stella981 Stella981
2年前
Django中Admin中的一些参数配置
设置在列表中显示的字段,id为django模型默认的主键list_display('id','name','sex','profession','email','qq','phone','status','create_time')设置在列表可编辑字段list_editable
Wesley13 Wesley13
2年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
为什么mysql不推荐使用雪花ID作为主键
作者:毛辰飞背景在mysql中设计表的时候,mysql官方推荐不要使用uuid或者不连续不重复的雪花id(long形且唯一),而是推荐连续自增的主键id,官方的推荐是auto_increment,那么为什么不建议采用uuid,使用uuid究
Python进阶者 Python进阶者
2个月前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这