当前位置:网站首页>实时数仓:网易严选基于Flink的实时数仓实践
实时数仓:网易严选基于Flink的实时数仓实践
2022-07-28 22:05:00 【Freedom3568】
1.背景

严选实时数仓项目是从 17 年下半年开始做的,背景总结为三个方面:
第一个是长链路且快速变化的业务,严选作为一个 ODM 电商,整个业务链度从商品采购、生产、仓库、到销售这个阶段可以在主站 APP 上购买或者分厂购买,然后通过商户配送到达消费者。链度是非常长的,这也决定数据的数据域非常广;严选作为一个成长的电商,会有很多新的业务出现。
第二个是越来越多的实时数据需求,目前需要更多的实时数据来做业务决策,需要依据销售情况做一个资源位的调整;同时有些活动也需要实时数据来增强与用户的互动。如果数据有实时和离线两种方案,优先考虑实时的,如果实时实现不了再考虑离线的方式。
第三个就是越来越高的数据质量要求,因为数据会直接影响业务决策,影响线上运营活动效果,因此对数据质量的要求越来越高。
针对这样的项目背景提出了三个设计目标,第一个是灵活可扩展,第二个是开发效率高,第三个是数据质量要求高。
2. 整体设计和
边栏推荐
- [data mining engineer - written examination] Dahua shares in 2022
- Codeforces Round #474 (Div. 1 + Div. 2) - C, F
- 酪氨酸脱羧酶丨Worthington粪链球菌酪氨酸脱羧酶的特征
- VirtualLab基础实验教程-8.傅里叶变换(1)
- 数据中台的那些“经验与陷阱”
- EN 1935建筑五金.单轴铰链—CE认证
- Compatibility description between kingbasees and Oracle (2. Data type)
- Inspur clusterenginev4.0 remote command execution vulnerability cve-2020-21224
- 解决线程安全问题&&单例模式
- fastdfs工作原理(技术原理)
猜你喜欢

My second uncle is angry and swipes the screen all over the network. How can he cure my spiritual internal friction?

迅为IMX6开发板QT系统创建AP热点基于RTL8723-交叉编译iptables

PowerCLi VMware vCenter 通过自建的PXE Server一键批量部署常规New-VM
![[self] - question brushing - peak value](/img/cf/9c47da9c574b61415578e7fde8b126.png)
[self] - question brushing - peak value

pycharm配置运行环境

Deep analysis of integrated learning gbdt

2022t elevator repair examination questions and simulation examination

RHCE the next day

Merkle tree

解决:Direct local .aar file dependencies are not supported when building an AAR.
随机推荐
Machine learning problem notes
NPDP考试需要携带什么?文具携带说明
Exchange 2013 SSL证书安装文档
你知道有哪些正规的兼职平台吗?
SAP 临时表空间错误处理
解决:Direct local .aar file dependencies are not supported when building an AAR.
Where is the DP interface of desktop computer (what if the host has no DP interface)
解决线程安全问题&&单例模式
Plato Farm有望通过Elephant Swap,进一步向外拓展生态
[self] - question brushing - peak value
智能垃圾桶(七)——SG90舵机的介绍与使用(树莓派pico实现)
[self] - brush questions logic
Design idea of room inventory in hotel reservation system database
Asynchronism and synchronization of visa write and read functions by LabVIEW
(22杭电多校二)Two Permutation (dp),Package Delivery (贪心)
Compatibility description between kingbasees and Oracle (5. Pl/sql)
OpenCV宏定义
pip镜像下载
[detailed and super simple] how to use websocket links
深度剖析集成学习Adaboost