当前位置:网站首页>自定义UDF函数
自定义UDF函数
2022-08-02 14:05:00 【大学生爱编程】
一.自定义UDF函数以及加载到Linux上运行
1.引入依赖
<dependency>
<groupId>org.apache.hive</groupId>
<artifactId>hive-exec</artifactId>
<version>1.2.1</version>
</dependency>
注意:可能会出现引入依赖失败的情况,在settings文件中修改镜像
tab键与空格键的问题,此处用的是tab键开头,此点可能影响打包
<mirror>
<id>alimaven</id>
<name>aliyun maven</name>
<url>http://maven.aliyun.com/nexus/content/groups/public/</url>
<mirrorOf>central</mirrorOf>
</mirror>
<mirror>
<id>aliyunmaven</id>
<mirrorOf>*</mirrorOf>
<name>spring-plugin</name>
<url>https://maven.aliyun.com/repository/spring-plugin</url>
</mirror>
2.写代码,继承UDF,导包,实现逻辑,在文件夹中把jar包上传到Linux上
3.打jar包上传到Linux (后面跟jar包的完整路径)
add jar /usr/local/soft/jars/HiveUDF2-1.0.jar;
4.使用jar包资源注册一个临时函数
create temporary function 函数名 as ‘主类名’;
create temporary function fxxx1 as 'MyUDF';
5.使用所起的函数名处理数据
二.实现函数永久生效
(继上面3步骤进行)
把jar包放到HDFS上,不用手动add jar 直接使用函数
1.hdfs上创建一个文件夹存放jar包,将jar包上传至该目录
2.在hive shell中执行命令
三个参数分别为:永久函数名,主类名,jar包在hdfs上的路径
create function hxudf as 'com.shujia.hivefun.MyUDF' using jar 'hdfs:/shujia/bigdata17/jar/hive-udf1.jar';
3.退出hive,执行函数进行测试
边栏推荐
猜你喜欢
鼠标右键菜单栏太长如何减少
【c】大学生在校学习c语言常见代码
Implementation of redis distributed lock and watchdog
[VCU] Detailed S19 file (S-record)
重新学习编程day1 【初始c语言】【c语言编写出计算两个数之和的代码】
利用c语言实现对键盘输入的一串字符的各类字符的计数
MySQL知识总结 (八) InnoDB的MVCC实现机制
二进制乘法运算
Caused by: org.gradle.api.internal.plugins.PluginApplicationException: Failed to apply plugin [id ‘c
c语言三子棋详解!!! (电脑智能下棋)(附上完整代码)
随机推荐
Ehcache基础学习
[ROS] (04) Detailed explanation of package.xml
主存储器(一)
C语言一维数组练习——将一个字符串中的某个字符替换成其它字符
drf serializer - Serializer
Introduction and use of Haystack
宝塔面板搭建小说CMS管理系统源码实测 - ThinkPHP6.0
宝塔搭建PHP自适应懒人网址导航源码实测
Kubernetes核心概念
Flask framework in-depth two
drf routing component Routers
Verilog学习 系列
【VCU】详解S19文件(S-record)
redis入门-1-redis概念和基础
OpenCart迁移到其他服务器
MySQL知识总结 (四) 事务
Flink-独立集群/Yarn
基于ThinkPHP6.0 - 宝塔搭建漫画CMS管理系统源码实测
宝塔搭建DM企业建站系统源码实测
verilog学习|《Verilog数字系统设计教程》夏宇闻 第三版思考题答案(第十三章)