当前位置:网站首页>Flink和Spark中文乱码问题
Flink和Spark中文乱码问题
2022-08-05 05:14:00 【IT_xhf】
Flink中文乱码
近期开发Flink CDC 读取mysql数据写入到HDFS,发现写入中文乱码,排查了数据库编码和文件编码都没有问题,后来网上查了一些资料,修改flink.conf文件,新增如下内容
env.java.opts: -Dfile.encoding=UTF-8
Spark中文乱码
也排查了数据库编码和文件编码没有问题,在程序启动参数中新增–conf spark.executor.extraJavaOptions=“-Dfile.encoding=UTF-8” --conf spark.driver.extraJavaOptions=“-Dfile.encoding=UTF-8”
完整例子
spark-submit \
--master yarn \
--conf spark.executor.extraJavaOptions="-Dfile.encoding=UTF-8" \
--conf spark.driver.extraJavaOptions="-Dfile.encoding=UTF-8" \
--deploy-mode cluster \
--class com.vesoft.nebula.exchange.DBTest \
--driver-cores 1 \
--driver-memory 512M \
--num-executors 2 \
--executor-cores 2 \
--executor-memory 2G \
--queue default nebula-exchange_spark_2.4-3.0-SNAPSHOT.jar
或者在spark.conf中配置这两个参数
spark.executor.extraJavaOptions="-Dfile.encoding=UTF-8"
spark.driver.extraJavaOptions="-Dfile.encoding=UTF-8"
边栏推荐
猜你喜欢

怎么更改el-table-column的边框线

第四讲 反向传播随笔

Pandas(五)—— 分类数据、读取数据库

pycharm中调用Matlab配置:No module named ‘matlab.engine‘; ‘matlab‘ is not a package

第四讲 back propagation 反向传播

【过一下3】卷积&图像噪音&边缘&纹理
![[Go through 10] sklearn usage record](/img/70/60783c7d16000c6e9d753d8db9a330.png)
[Go through 10] sklearn usage record

server disk array

Pycharm中使用pip安装第三方库安装失败:“Non-zero exit code (2)“的解决方法

OFDM Lecture 16 5 -Discrete Convolution, ISI and ICI on DMT/OFDM Systems
随机推荐
[Study Notes Dish Dog Learning C] Classic Written Exam Questions of Dynamic Memory Management
redis事务
ES6基础语法
第三讲 Gradient Tutorial梯度下降与随机梯度下降
redis persistence
What are the characteristics of the interface of the physical layer?What does each contain?
怎样在Disciples门徒获得收益?
CAP+BASE
机器学习(二) —— 机器学习基础
MySql之索引
es6迭代协议
将照片形式的纸质公章转化为电子公章(不需要下载ps)
[Go through 8] Fully Connected Neural Network Video Notes
第5讲 使用pytorch实现线性回归
【过一下7】全连接神经网络视频第一节的笔记
【NFT开发】设计师无技术基础保姆级开发NFT教程在Opensea上全套开发一个NFT项目+构建Web3网站
【零基础开发NFT智能合约】如何使用工具自动生成NFT智能合约带白名单可Mint无需写代码
Returned object not currently part of this pool
Flink accumulator Counter 累加器 和 计数器
2022杭电多校第一场01