当前位置:网站首页>datax json说明
datax json说明
2022-06-30 10:36:00 【feifeidata】
{
"job": {
"content": [
{
"reader": {
"name": "mysqlreader",
"parameter": {
"querySql": "", #自定义sql,支持多表关联,当用户配置querySql时,直接忽略table、column、where条件的配置。
"fetchSize": "", #默认1024,该配置项定义了插件和数据库服务器端每次批量数据获取条数,该值决定了DataX和服务器端的网络交互次数,能够较大的提升数据抽取性能,注意,该值过大(>2048)可能造成DataX进程OOM
"splitPk": "db_id", #仅支持整形型数据切分;如果指定splitPk,表示用户希望使用splitPk代表的字段进行数据分片,如果该值为空,代表不切分,使用单通道进行抽取
"column": [], #"*"默认所有列,支持列裁剪,列换序
"connection": [
{
"jdbcUrl": ["jdbc:mysql://IP:3306/database?useUnicode=true&characterEncoding=utf8"],
"table": [] #支持多张表同时抽取
}
],
"password": "",
"username": "",
"where": "" #指定的column、table、where条件拼接SQL,可以指定limit 10,也可以增量数据同步,如果该值为空,代表同步全表所有的信息
}
},
"writer": {
"name": "hdfswriter",
"parameter": {
"column": [], #必须指定字段名,字段类型,{"name":"","tpye":""}
"compress": "", #hdfs文件压缩类型,默认不填写意味着没有压缩。其中:text类型文件支持压缩类型有gzip、bzip2;orc类型文件支持的压缩类型有NONE、SNAPPY(需要用户安装SnappyCodec)。
"defaultFS": "", #Hadoop hdfs文件系统namenode节点地址。
"fieldDelimiter": "", #需要用户保证与创建的Hive表的字段分隔符一致
"fileName": "", #HdfsWriter写入时的文件名,需要指定表中所有字段名和字段类型,其中:name指定字段名,type指定字段类型。
"fileType": "", #目前只支持用户配置为”text”或”orc”
"path": "", #存储到Hadoop hdfs文件系统的路径信息,hive表在hdfs上的存储路径
"hadoopConfig": {} #hadoopConfig里可以配置与Hadoop相关的一些高级参数,比如HA的配置。
"writeMode": "" #append,写入前不做任何处理,文件名不冲突;nonConflict,如果目录下有fileName前缀的文件,直接报错。
}
}
}
],
"setting": {
"speed": { #流量控制
"byte": 1048576, #控制传输速度,单位为byte/s,DataX运行会尽可能达到该速度但是不超过它
"channel": "" #控制同步时的并发数
}
"errorLimit": { #脏数据控制
"record": 0 #对脏数据最大记录数阈值(record值)或者脏数据占比阈值(percentage值,当数量或百分比,DataX Job报错退出
}
}
}
}
边栏推荐
- SQL必需掌握的100个重要知识点:使用视图
- SQL必需掌握的100个重要知识点:插入数据
- Deep dive kotlin synergy (16): Channel
- 05_ Node JS file management module FS
- LED driver library based on Hal Library
- 历史上的今天:微软收购 PowerPoint 开发商;SGI 和 MIPS 合并
- The intelligent DNA molecular nano robot model is coming
- LeetCode Algorithm 86. 分隔链表
- LVGL 8.2 Simple Drop down list
- LeetCode Algorithm 86. Separate linked list
猜你喜欢

无心剑中译狄金森《灵魂择其伴侣》

煥發青春的戴爾和蘋果夾擊,兩大老牌PC企業極速衰敗
![[机缘参悟-34]:光锥之内皆命运](/img/3e/9f5630ba382df7f7ce00705445cef8.jpg)
[机缘参悟-34]:光锥之内皆命运

数据库什么时候需要使用索引【杭州多测师】【杭州多测师_王sir】

Anhui "requirements for design depth of Hefei fabricated building construction drawing review" was printed and distributed; Hebei Hengshui city adjusts the pre-sale license standard for prefabricated

Qt之实现动效导航栏

CSDN blog operation team 2022 H1 summary

Voir le changement technologique à travers la Légion Huawei (5): Smart Park

Retest the cloud native database performance: polardb is still the strongest, while tdsql-c and gaussdb have little change

19:00 p.m. tonight, knowledge empowerment phase 2 live broadcast - control panel interface design of openharmony smart home project
随机推荐
Sarsa笔记
国产自研系统的用户突破4亿,打破美国企业的垄断,谷歌后悔不迭
[机缘参悟-34]:光锥之内皆命运
WireGuard简单配置
LVGL 8.2图片缩放及旋转
Classic interview question: responsible modules, how do you design test cases for these function points? [Hangzhou multi surveyors] [Hangzhou multi surveyors \wang Sir]
From introduction to mastery of MySQL 50 lectures (32) -scylladb production environment cluster building
Mysql database foundation: views and variables
中国将强制统一充电接口,苹果如不低头,iPhone将被踢出中国市场
How can the sports app keep the end-to-side background alive to make the sports record more complete?
Dell et Apple, deux entreprises de PC établies, se sont effondrées rapidement
ArrayList与顺序表
Foresniffer tutorial: extracting data
MySQL从入门到精通50讲(三十二)-ScyllaDB生产环境集群搭建
Key library function based on Hal Library
What is erdma as illustrated by Coptic cartoon?
Problems and solutions in pyinstall packaging for pychart project
在IPhone12的推理延迟仅为1.6 ms!Snap等详析Transformer结构延迟,并用NAS搜出移动设备的高效网络结构...
Pycharm项目使用pyinstalle打包过程中问题及解决方案
LeetCode Algorithm 86. 分隔鏈錶