当前位置:网站首页>自定义UDF函数
自定义UDF函数
2022-08-02 14:05:00 【大学生爱编程】
一.自定义UDF函数以及加载到Linux上运行
1.引入依赖
<dependency>
<groupId>org.apache.hive</groupId>
<artifactId>hive-exec</artifactId>
<version>1.2.1</version>
</dependency>
注意:可能会出现引入依赖失败的情况,在settings文件中修改镜像
tab键与空格键的问题,此处用的是tab键开头,此点可能影响打包
<mirror>
<id>alimaven</id>
<name>aliyun maven</name>
<url>http://maven.aliyun.com/nexus/content/groups/public/</url>
<mirrorOf>central</mirrorOf>
</mirror>
<mirror>
<id>aliyunmaven</id>
<mirrorOf>*</mirrorOf>
<name>spring-plugin</name>
<url>https://maven.aliyun.com/repository/spring-plugin</url>
</mirror>
2.写代码,继承UDF,导包,实现逻辑,在文件夹中把jar包上传到Linux上
3.打jar包上传到Linux (后面跟jar包的完整路径)
add jar /usr/local/soft/jars/HiveUDF2-1.0.jar;
4.使用jar包资源注册一个临时函数
create temporary function 函数名 as ‘主类名’;
create temporary function fxxx1 as 'MyUDF';
5.使用所起的函数名处理数据
二.实现函数永久生效
(继上面3步骤进行)
把jar包放到HDFS上,不用手动add jar 直接使用函数
1.hdfs上创建一个文件夹存放jar包,将jar包上传至该目录
2.在hive shell中执行命令
三个参数分别为:永久函数名,主类名,jar包在hdfs上的路径
create function hxudf as 'com.shujia.hivefun.MyUDF' using jar 'hdfs:/shujia/bigdata17/jar/hive-udf1.jar';
3.退出hive,执行函数进行测试
边栏推荐
- Flask-RESTful request response and SQLAlchemy foundation
- MySQL知识总结 (十一) MySql 日志,数据备份,数据恢复
- 我理解的学习金字塔
- The language of initial
- Using the cloud GPU + pycharm training model to realize automatic background run programs, save training results, the server automatically power off
- 加减法运算及其溢出处理
- 鼠标右键菜单栏太长如何减少
- Raj delivery notes - separation 第08 speak, speaking, reading and writing
- uniapp小程序禁止遮罩弹窗下的页面滚动的完美解决办法
- 主存储器(二)
猜你喜欢

MySQL知识总结 (六) MySQL调优

C语言初级—水仙花数

【c】大学生在校学习c语言常见代码

C语言日记 5 运算符和表达式

Caused by: org.gradle.api.internal.plugins.PluginApplicationException: Failed to apply plugin [id ‘c

What's wrong with running yolov5 (1) p, r, map are all 0

主存储器(一)

C语言一维数组练习——将m个元素移动到数组尾部

window10 lower semi-automatic labeling

C语言sizeof和strlen的区别
随机推荐
初识c语言指针
宝塔搭建DM企业建站系统源码实测
使用云GPU+pycharm训练模型实现后台跑程序、自动保存训练结果、服务器自动关机
二级指针,数组指针,指针数组和函数指针
verilog学习|《Verilog数字系统设计教程》夏宇闻 第三版思考题答案(第十四章)
Flask request application context source code analysis
什么是闭包?闭包的作用?闭包的应用?有什么缺点?
C语言初级—常见问题(100~200素数,计算1+11+111+...,从键盘获取一个数并输出有几个位)
[ROS] (02) Create & compile ROS package Package
Verilog Learning Series
The language of initial
What's wrong with running yolov5 (1) p, r, map are all 0
drf serializer - Serializer
云GPU(恒源云)训练的具体操作流程
Unit 12 associated serialization
宝塔搭建PHP自适应懒人网址导航源码实测
Flask-RESTful request response and SQLAlchemy foundation
科创知识年度盛会,中国科创者大会8月6日首场开幕!
Camera Hal(Hal3)层修改Preview流
C语言一级指针(补)