Kafka 文档(用例)

烬余协程
• 阅读 2187

用例

这是Apache Kafka®的一些流行用例的描述,有关这些领域的一些概况,请参阅这个博客

消息传递

Kafka可以很好地替代更传统的消息代理,消息代理的使用有多种原因(从数据生产者分离处理、缓冲未处理的消息等),与大多数消息传递系统相比,Kafka具有更好的吞吐量、内置的分区、复制和容错能力,这使它成为大型消息处理应用程序的良好解决方案。

在我们的经验中,消息传递使用的吞吐量通常相对较低,但可能需要较低的端到端延迟,并且通常依赖于Kafka提供的强大的持久性保证。

在这个领域,Kafka可以与传统的消息系统(如ActiveMQRabbitMQ)相媲美。

网站活动追踪

Kafka最初的用例是能够将用户活动跟踪管道重建为一组实时发布订阅源,这意味着站点活动(页面视图、搜索或用户可能采取的其他操作)被发布到中心主题,每个活动类型有一个主题,这些源可用于订阅一系列用例,包括实时处理、实时监视和加载到Hadoop或离线数据仓库系统中,以便离线处理和报告。

活动跟踪通常是非常高的量,因为每个用户页面视图都会生成许多活动消息。

指标

Kafka通常用于操作监控数据,这包括从分布式应用程序收集统计数据,以生产操作数据的集中提要。

日志聚合

许多人使用Kafka作为日志聚合解决方案的替代。日志聚合通常从服务器收集物理日志文件,并将它们放在中央位置(可能是文件服务器或HDFS)进行处理,Kafka将文件的细节抽象出来,并将日志或事件数据抽象为消息流,这允许更低的延迟处理,更容易支持多个数据源和分布式数据消费,与像Scribe或Flume这样的以日志为中心的系统相比,Kafka同样具有良好的性能、更强的持久性保证,并且可以大大降低端到端延迟。

流处理

许多Kafka用户处理在由多个阶段组成的处理管道中的数据,从Kafka主题中使用原始输入数据,然后聚合、充实或以其他方式转换为新的主题,以便进一步消费或后续处理。例如,推荐新闻文章的处理管道可以从RSS提要中抓取文章内容并将其发布到“articles”主题;进一步的处理可能对内容规范化或去重,并将清理后的文章内容发布到新主题;最后的处理阶段可能尝试向用户推荐此内容。这种处理管道基于各个主题创建实时数据流图,从0.10.0.0开始,Apache Kafka中有一个轻量级但功能强大的流处理库,名为Kafka Streams,用于执行如上所述的数据处理,除了Kafka Streams之外,其他开源流处理工具还包括Apache StormApache Samza

Event Sourcing

Event Sourcing是一种应用程序设计风格,其中状态变化被记录为时间顺序的记录序列,Kafka对非常大的存储日志数据的支持,使它成为构建这种风格的应用程序的极佳后端。

提交日志

Kafka可以作为分布式系统的一种外部提交日志,日志帮助在节点之间复制数据,并作为失败节点恢复数据的重新同步机制,Kafka中的日志压缩特性有助于支持这种用法,在这个用法中,Kafka类似于Apache BookKeeper项目。

点赞
收藏
评论区
推荐文章
列举一些糟糕的PHP代码
10例糟糕的PHP代码10例糟糕的PHP代码这篇文章在很早以前就看到了,由于最近要自己做一些主题方面的东西,代码需要更加规范,用这些反面的例子来约束自己,告诉自己代码不应该这样写,虽然它也能实现功能,但那样做并不明智,
如何有效的进行用例评审
用例评审对于质量同学是再熟悉不过的一个重要环节,用例评审也是非常有效的保障测试质量的手段,但我们质量同学做了这么多次的评审,有没有去思考怎样去进一步提升用例评审的质量,使用例评审更加有效呢,这里呢抛砖引玉,总结一下我个人对用例评审的思考。
Stella981 Stella981
3年前
Appium(三):安装appium client、adb命令
1\.安装appiumclientappiumclient是对webdriver原生api的一些扩展和封装。它可以帮助我们更容易的写出用例,写出更好的用例。appiumclient是配合原生的webdriver来使用的,因此二者必须配合使用,缺一不可。我们使用pip安装“AppiumPython
Easter79 Easter79
3年前
Testng Retry失败用例重新运行的方法(一)
Testng是Java自动化测试的一个框架,它提供了一个对失败用例重新执行的监听器,即接口IRetryAnalyzer。先准备一个测试类:importorg.testng.annotations.Test;importstaticorg.testng.Assert.assertTrue;pu
Wesley13 Wesley13
3年前
APP测试点总结
APP测试点总结1.功能性测试:  ——根据产品需求文档编写测试用例。  ——软件设计文档编写用例。  注意:就是根据产品需求文档编写测试用例而进行测试。2.兼容性测试:  ——android版本的兼容性  ——手机分辨率兼容性  ——网络的兼容性:2G\\3G\\4G\\WIFI,弱网下、断网时  ——app跨版本的兼容性  1.适配
Stella981 Stella981
3年前
Cypress web自动化29
前言做web自动化的时候,我们希望用例失败了能截图,这是之前用selenium写ui自动化用例的时候经常遇到的问题。cypress可以说是业界良心了,不仅帮我们失败的时候自动截图保存下来,还把每个用例都录制成了mp4的小视频,方便追踪问题的时候回复视频screenshots失败截图
Wesley13 Wesley13
3年前
DDD实战进阶第一波(十一):开发一般业务的大健康行业直销系统(实现经销商代注册用例与登录令牌分发)
前两篇文章主要实现了经销商代注册的仓储与领域逻辑、经销商登录的仓储与相关逻辑,这篇文章主要讲述经销商代注册的用例与经销商登录的查询功能。一.经销商代注册用例在经销商代注册用例中,我们需要传递经销商的基本注册信息,这个信息是做成了DTO对象。1.经销商注册的DTO对象:publicclassAddDealerDTO
Stella981 Stella981
3年前
NO.142 执行用例,并提交bug,查看报表统计。
在禅道项目管理软件(https://www.oschina.net/action/GoToLink?urlhttp%3A%2F%2Fwww.zentao.net%2F%3Fu%3Dpxz%26f%3Dos%26a%3Dblog)的测试任务用例列表页面,用户可以按照模块来进行点选,或者选择所有指派给自己的用例,来查到需要自己执行的用例列表。在用例列表
精准测试之过程与实践 | 京东云技术团队
精准测试是一套计算机测试辅助分析系统。精准测试的核心组件包含的软件测试示波器、用例和代码的双向追溯、智能回归测试用例选取、覆盖率分析、缺陷定位、测试用例聚类分析、测试用例自动生成系统,这些功能完整的构成了精准测试技术体系。
Python进阶者 Python进阶者
1年前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这
京东云开发者 京东云开发者
11个月前
精准测试之探索
一、怎样的技术•百度百科:精准测试是一套计算机测试辅助分析系统。精准测试的核心组件包含的软件测试示波器、用例和代码的双向追溯、智能回归测试用例选取、覆盖率分析、缺陷定位、测试用例聚类分析、测试用例自动生成系统,这些功能完整的构成了精准测试技术体系。•其他定