IT虾米网

SQOOP安装部署详解

wyy 2021年05月02日 大数据 320 0

1.环境准备

1.1软件版本

sqoop-1.4.5 下载地址

2.配置

sqoop的配置比较简单,下面给出需要配置的文件

2.1环境变量

sudo vi /etc/profile
SQOOP_HOME=/home/hadoop/source/sqoop-1.4.5 
PATH=$SQOOP_HOME/bin 
export SQOOP_HOME

2.2sqoop-env.sh

#Set path to where bin/hadoop is available 
export HADOOP_COMMON_HOME=/home/hadoop/source/hadoop-2.5.1 
 
#Set path to where hadoop-*-core.jar is available 
export HADOOP_MAPRED_HOME=/home/hadoop/source/hadoop-2.5.1 
 
#set the path to where bin/hbase is available 
#export HBASE_HOME= 
 
#Set the path to where bin/hive is available 
export HIVE_HOME=/home/hadoop/source/hive-0.14.0 
 
#Set the path for where zookeper config dir is 
#export ZOOCFGDIR=

注:目前我是木有配置HBase和Zookeeper的,若有需要的人可以将路径直接指定到HBase和Zookeeper的安装路径下。

2.3异常

Streaming result set com.mysql.jdbc.RowDataDynamic@12e9d40f is still active

执行sqoop脚本时,出现这个异常是因为mysql的驱动的原因,使用最新的mysql驱动包。

解决方案:

wget http://dev.mysql.com/get/Downloads/Connector-J/mysql-connector-java-5.1.32.tar.gz

然后解压到sqoop目录的lib目录下,重新执行脚本正常。

至此,sqoop的安装配置以及使用到此完成。


发布评论
IT虾米网

微信公众号号:IT虾米 (左侧二维码扫一扫)欢迎添加!

Hive的安装部署详解
你是第一个吃螃蟹的人
发表评论

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。