个推TechDay直播回顾 | 分享基于Flink的实时数仓搭建秘诀!附课件下载√
近日,个推TechDay“治数训练营”系列直播课第二期举办。来自每日互动(个推)的资深数据研发工程师为大家详细解读了实时数仓架构演进,分享了实时数仓的技术选型要点,并结合实战案例详细剖析实时数仓搭建秘诀。当下,企业的实时计算需求越来越高频。比如很多
Stella981 Stella981
2年前
Flink FileSink 自定义输出路径——StreamingFileSink、BucketingSink 和 StreamingFileSink简单比较
接上篇:FlinkFileSink自定义输出路径——BucketingSink(https://www.oschina.net/action/GoToLink?urlhttps%3A%2F%2Fwww.cnblogs.com%2FSpringmoonvenn%2Fp%2F11198154.html) 上篇使用BucketingSink实现了
Easter79 Easter79
2年前
TiKV + Flink = 最佳人气流批一体库|TiDB Hackathon 2020 优秀项目分享
近日,由TiDB社区主办,专属于全球开发者与技术爱好者的顶级挑战赛事——TiDBHackathon2020比赛圆满落幕。今年是TiDBHackathon第四次举办,参赛队伍规模创历届之最,共有45支来自全球各地的队伍报名,首次实现全球联动。经过2天时间的极限挑战,大赛涌现出不少令人激动的项目。为了让更多小伙伴了解这些参赛团队背后
Stella981 Stella981
2年前
Flink 是如何支撑一分钟破百亿成交额的?
提到天猫双十一,一分钟破百亿的成交额,你肯定不会陌生,他的背后就是一套强大的流计算引擎在支撑,以便得到实时统计结果。面对日益增长的数据规模,以及越来越低时延的数据处理需求,流处理已成为每家公司数据平台的必备能力。目前主流的流计算技术有ApacheStorm,SparkStreaming和ApacheFlink,但真正能同时做到低时延、
Stella981 Stella981
2年前
Flink 作为现代数据仓库的统一引擎:Hive 集成生产就绪!
在2020年,你的数据仓库和基础设施需要满足哪些需求?我们总结了几下几点:首先,当下的企业正快速转向更实时化的模式,这要求企业具备对线上流式数据进行低延迟处理的能力,以满足实时(realtime)或近实时(nearrealtime)的数据分析需求。人们对从数据产生到数据可用之间延迟的容忍度越来越低。曾经几个小时甚至几天的
Stella981 Stella981
2年前
Flink1.12集成Hive打造自己的批流一体数仓
点击上方蓝色字体,选择“设为星标”回复”资源“获取更多资源!(https://oscimg.oschina.net/oscnet/cb27ec9ea9a44baf91e605697be9360a.jpg)简介小编在去年之前分享过参与的实时数据平台的建设,关于实时数仓也进行过分享。客观的说,我们当时做
Stella981 Stella981
2年前
Flink 1.8.0中的状态生存时间特性:如何自动清理应用程序的状态
对于许多状态流式计算程序来说,一个常见的需求是自动清理应用程序的状态(state),以便有效地控制状态大小,或者控制程序访问状态的有效时间(例如受限于诸如GDPR等法律条规)。ApacheFlink自1.6.0版本引入了状态的生存时间(timetolive,TTL)功能,使得应用程序的状态清理和有效的状态大小管理成为可能。在本文中,我们将讨论引入状
鲍忠 鲍忠
1年前
轻松入门大数据:玩转Flink,打造湖仓一体架构-纤纤擢素手
!Description(https://www.zxit666.com/wpcontent/uploads/2022/11/166896799967a6b974255ec7b.jpg)download:轻松入门大数据:玩转Flin
京东云开发者 京东云开发者
3个月前
streampark+flink一键整库或多表同步mysql到doris实战
streamparkflink一键整库或多表同步mysql到doris实战,此应用一旦推广起来,那么数据实时异构时,不仅可以减少对数据库的查询压力,还可以减少数据同步时的至少50%的成本,还可以减少30%的存储成本;streampark搭建二进制包编译构
京东云开发者 京东云开发者
3个月前
Apache Doris 整合 FLINK CDC + Iceberg 构建实时湖仓一体的联邦查询
1概况本文展示如何使用FlinkCDCIcebergDoris构建实时湖仓一体的联邦查询分析,Doris1.1版本提供了Iceberg的支持,本文主要展示Doris和Iceberg怎么使用,大家按照步骤可以一步步完成。完整体验整个搭建操作的过程。2系统