当前位置:网站首页>idea去掉spark的日志
idea去掉spark的日志
2022-08-04 13:52:00 【我要用代码向我喜欢的女孩表白】
spark默认会答应info,信息,他内置有log4j
故,我们有3种方式解决
1.直接在代码里设置日志级别,包含直接类中添加,和使用继承类(不推荐)
2.修改他的全局配置(不推荐)
3.添加log4j.prperties
注意,pom里面不能有其他的日志
尤其是这2个,要删除,否则会导致你设置的log4j.proerpties失效
<dependency>
<groupId>org.slf4j</groupId>
<artifactId>slf4j-simple</artifactId>
<version>1.7.25</version>
<scope>compile</scope>
</dependency>
<exclusions>
<exclusion>
<groupId>org.slf4j</groupId>
<artifactId>slf4j-log4j12</artifactId>
</exclusion>
</exclusions>这里我们采用第三种
创建一个这样的文件,名称也要一样

给文件添加内容
log4j.rootCategory=ERROR, console
log4j.appender.console=org.apache.log4j.ConsoleAppender
log4j.appender.console.target=System.err
log4j.appender.console.layout=org.apache.log4j.PatternLayout
log4j.appender.console.layout.ConversionPattern=%d{yy/MM/dd HH:mm:ss} %p %c{1}: %m%n
# Set the default spark-shell log level to ERROR. When running the spark-shell, the # log level for this class is used to overwrite the root logger's log level, so that
# the user can have different defaults for the shell and regular Spark apps.
log4j.logger.org.apache.spark.repl.Main=ERROR
# Settings to quiet third party logs that are too verbose
log4j.logger.org.spark_project.jetty=ERROR
log4j.logger.org.spark_project.jetty.util.component.AbstractLifeCycle=ERROR
log4j.logger.org.apache.spark.repl.SparkIMain$exprTyper=ERROR
log4j.logger.org.apache.spark.repl.SparkILoop$SparkILoopInterpreter=ERROR
log4j.logger.org.apache.parquet=ERROR
log4j.logger.parquet=ERROR
# SPARK-9183: Settings to avoid annoying messages when looking up nonexistent UDFs in SparkSQL with Hive support
log4j.logger.org.apache.hadoop.hive.metastore.RetryingHMSHandler=FATAL
log4j.logger.org.apache.hadoop.hive.ql.exec.FunctionRegistry=ERROR测试前

测试后

边栏推荐
- 从理论到实践:MySQL性能优化和高可用架构,一次讲清
- vcl啥意思_oval
- CReFF缓解长尾数据联邦学习(IJCAI 2022)
- Utility function---string processing
- 到底什么是真正的HTAP?
- Install mysql on k8s
- CLS-PEG-DBCO,胆固醇-聚乙二醇-二苯基环辛炔,可用于改善循环时间
- odoo13 note point
- "Social Enterprises Conducting Civilian Personnel Training Specifications" group standard on the shelves of Xinhua Bookstore
- 【毕设选题推荐】机器人工程专业毕设选题推荐
猜你喜欢

AutoCAD DWG,DXF文件导出高清图片、PDF

MPLS experiment

CLS-PEG-DBCO,胆固醇-聚乙二醇-二苯基环辛炔,可用于改善循环时间

相似文本聚类与调参
![LeetCode 1403 Minimum subsequence in non-increasing order [greedy] HERODING's LeetCode road](/img/fd/c827608b96f678a67c7e920c51d8c5.png)
LeetCode 1403 Minimum subsequence in non-increasing order [greedy] HERODING's LeetCode road

量化细胞内的信息流:机器学习时代下的研究进展

用过Apifox这个API接口工具后,确实感觉postman有点鸡肋......

谁说 Mysql 单表最大 2000 W ?我硬要塞它 1 个亿

职场漫谈:为什么越是内卷的行业越有人争着抢着往里冲?好奇怪的说...

如何通过使用“缓存”相关技术,解决“高并发”的业务场景案例?
随机推荐
router---Programmatic navigation
小 P 周刊 Vol.13
sqlplus报错ORA-12547: TNS:lost contact解决
MPLS实验
漏洞复现 - - - Alibaba Nacos权限认证绕过
router---模式
秋招攻略秘籍,吃透25个技术栈Offer拿到手软
博途200/1500PLC多段曲线控温FB(支持40段控温曲线、段曲线搜索、暂停、跳段等功能)
Win11勒索软件防护怎么打开?Win11安全中心勒索软件防护如何设置
Utility function---string processing
开放麒麟 openKylin 版本规划敲定:10 月发布 0.9 版并开启公测,12 月发布 1.0 版
SCA兼容性分析工具(ORACLE/MySQL/DB2---&gt;MogDB/openGauss/PostgreSQL)
【无标题】
职场漫谈:为什么越是内卷的行业越有人争着抢着往里冲?好奇怪的说...
大势所趋之下的nft拍卖,未来艺术品的新赋能
第四讲 SVN
Haproxy搭建web群集
MogDB/openGauss 3.0 扩容及缩容
Various problems with npm install
CReFF缓解长尾数据联邦学习(IJCAI 2022)