当前位置:网站首页>Flink和Spark中文乱码问题
Flink和Spark中文乱码问题
2022-08-05 05:14:00 【IT_xhf】
Flink中文乱码
近期开发Flink CDC 读取mysql数据写入到HDFS,发现写入中文乱码,排查了数据库编码和文件编码都没有问题,后来网上查了一些资料,修改flink.conf文件,新增如下内容
env.java.opts: -Dfile.encoding=UTF-8
Spark中文乱码
也排查了数据库编码和文件编码没有问题,在程序启动参数中新增–conf spark.executor.extraJavaOptions=“-Dfile.encoding=UTF-8” --conf spark.driver.extraJavaOptions=“-Dfile.encoding=UTF-8”
完整例子
spark-submit \
--master yarn \
--conf spark.executor.extraJavaOptions="-Dfile.encoding=UTF-8" \
--conf spark.driver.extraJavaOptions="-Dfile.encoding=UTF-8" \
--deploy-mode cluster \
--class com.vesoft.nebula.exchange.DBTest \
--driver-cores 1 \
--driver-memory 512M \
--num-executors 2 \
--executor-cores 2 \
--executor-memory 2G \
--queue default nebula-exchange_spark_2.4-3.0-SNAPSHOT.jar
或者在spark.conf中配置这两个参数
spark.executor.extraJavaOptions="-Dfile.encoding=UTF-8"
spark.driver.extraJavaOptions="-Dfile.encoding=UTF-8"
边栏推荐
- Flink EventTime和Watermarks案例分析
- 将照片形式的纸质公章转化为电子公章(不需要下载ps)
- Error creating bean with name 'configDataContextRefresher' defined in class path resource
- What are the characteristics of the interface of the physical layer?What does each contain?
- 机器学习(一) —— 机器学习基础
- Pycharm中使用pip安装第三方库安装失败:“Non-zero exit code (2)“的解决方法
- [Go through 9] Convolution
- The difference between the operators and logical operators
- Geek卸载工具
- Do you use tomatoes to supervise your peers?Add my study room, come on together
猜你喜欢
随机推荐
【过一下 17】pytorch 改写 keras
【过一下11】随机森林和特征工程
redis事务
转正菜鸟前进中的经验(废话)之谈 持续更新中... ...
Difference between for..in and for..of
Flink HA安装配置实战
el-table鼠标移入表格改变显示背景色
Wise Force Deleter强制删除工具
Dashboard Display | DataEase Look at China: Data Presents China's Capital Market
【技能】长期更新
day7-列表作业(1)
Matplotlib(二)—— 子图
对数据排序
机器学习(一) —— 机器学习基础
el-pagination左右箭头替换成文字上一页和下一页
第四讲 back propagation 反向传播
Opencv中,imag=cv2.cvtColor(imag,cv2.COLOR_BGR2GRAY) 报错:error:!_src.empty() in function ‘cv::cvtColor‘
redis复制机制
拿出接口数组对象中的所有name值,取出同一个值
[Let's pass 14] A day in the study room



![[Go through 10] sklearn usage record](/img/70/60783c7d16000c6e9d753d8db9a330.png)




