当前位置:网站首页>实时数仓:网易严选基于Flink的实时数仓实践
实时数仓:网易严选基于Flink的实时数仓实践
2022-07-28 22:05:00 【Freedom3568】
1.背景

严选实时数仓项目是从 17 年下半年开始做的,背景总结为三个方面:
第一个是长链路且快速变化的业务,严选作为一个 ODM 电商,整个业务链度从商品采购、生产、仓库、到销售这个阶段可以在主站 APP 上购买或者分厂购买,然后通过商户配送到达消费者。链度是非常长的,这也决定数据的数据域非常广;严选作为一个成长的电商,会有很多新的业务出现。
第二个是越来越多的实时数据需求,目前需要更多的实时数据来做业务决策,需要依据销售情况做一个资源位的调整;同时有些活动也需要实时数据来增强与用户的互动。如果数据有实时和离线两种方案,优先考虑实时的,如果实时实现不了再考虑离线的方式。
第三个就是越来越高的数据质量要求,因为数据会直接影响业务决策,影响线上运营活动效果,因此对数据质量的要求越来越高。
针对这样的项目背景提出了三个设计目标,第一个是灵活可扩展,第二个是开发效率高,第三个是数据质量要求高。
2. 整体设计和
边栏推荐
- Arm-A53资料「建议收藏」
- Codeforces Round #474 (Div. 1 + Div. 2) - C, F
- Zabbix 5.0 使用自带Redis模版监控
- Compatibility description between kingbasees and Oracle (5. Pl/sql)
- A new generation of ultra safe cellular battery, Sihao aipao, will be available from 139900 yuan
- AUTOCAD——Excel表格导入CAD、CAD合并两兄弟
- [self] - question brushing - peak value
- 2022g3 boiler water treatment test simulation 100 questions simulation test platform operation
- RHCE first day
- MySQL log management, backup and recovery
猜你喜欢
随机推荐
编译原理研究性学习专题 2——递归下降语法分析设计原理与实现
PMP考试倒计时,速看3A通关锦囊!
Wildcard ssl/tls certificate
经典的拓扑排序问题——LeetCode207 课程表+LeetCode210 课程表II
websocket心跳机制(保活机制)
多传感器融合定位(三)——惯性技术
[self] - question brushing - dynamic programming
剑指 Offer 55 - I. 二叉树的深度
C语言 n*n矩阵求值及求逆矩阵[通俗易懂]
Codeforces Round #474 (Div. 1 + Div. 2) - C, F
深度剖析集成学习GBDT
毕业三年之际写给可能迷茫的你我[转]
Learn browser decoding from XSS payload
2022 R2 mobile pressure vessel filling test question simulation test platform operation
Pagoda phpMyAdmin unauthorized access vulnerability
Briefly introduce the working principle and characteristics of block cipher encryption block link mode (cryptography shift cipher encryption and decryption)
field injection is not recommended 的解决办法
[self] - brush questions BFS
Best practices for migration of kingbasees v8.3 to v8.6 of Jincang database (3. Kingbasees migration capability support system)
Merkle tree






![[self] - brush questions set](/img/de/46582086addbe5465d658081516f4c.png)
