详情

上次介绍了HDFS，本来想进入Mapreduce，但感觉Mapreduce基本废弃，于是直接进入了Hive中来。

数据仓库

数据仓库，英文名称为Data Warehouse，可简写为DW或DWH。数据仓库顾名思义，是一个很大的数据存储集合，出于企业的分析性报告和决策支持目的而创建，对多样的业务数据进行筛选与整合。

它为企业提供一定的BI(商业智能)能力，指导业务流程改进、监视时间、成本、质量以及控制。

数据仓库的输入方是各种各样的数据源，最终的输出用于企业的数据分析、数据挖掘、数据报表等方向。

数据库和数据仓库区别

数据库是面向交易的处理系统，它是针对具体业务在数据库联机的日常操作，通常对记录进行查询、修改。用户较为关心操作的响应时间、数据的安全性、完整性和并发支持的用户数等问题。

数据仓库一般针对某些主题的历史数据进行分析，支持管理决策，又被称为联机分析处理 OLAP(On-Line Analytical Processing)。

比如，支付宝年度账单其本质是基于数据仓库进行数据可视化而成。

数据仓库，是在数据库已经大量存在的情况下，为了进一步挖掘数据资源、为了决策需要而产生的，它决不是所谓的“大型数据库”。

数据仓库分层

按照数据流入流出的过程，数据仓库架构可分为三层——源数据(ODS)、数据仓库(DW)、数据应用(APP)。

Hive

Hive是一个构建在 Hadoop上的数据仓库框架。最初，Hive是由Facebook开发，后来移交由 Apache!软件基金会开发，并作为一个 Apache开源项目。

Hive支持Mapreduce、Tez、Spark等分布式计算引擎。

Hive环境搭建

在Hive环境搭建无需配置集群，Hive的安装其实有两部分组成，一个是Server端、一个是客户端，所谓服务端其实就是Hive管理meta的那个Hive，服务端可以装在任何节点上，可以是Namenode上也可以是Datanode的任意一个节点上。

Hive的客户端界面工具早期选择SQuirrel SQL Client，但最近我喜欢上了Apache Zeppelin，Apache Zeppelin是一款基于Web的NoteBook，其实和Juypyter Notebook没有什么两样。

在 Hive环境搭建，需要搭建Mysql，这里选择节点node02进行Mysql环境搭建。

[hadoop@node02 ~]$ cd module/ [hadoop@node02 module]$ mkdir mysql [hadoop@node02 module]$ cd mysql/ [hadoop@node02 mysql]# wget /get/mysql57-community-release-el7- [hadoop@node02 mysql]$ sudo rpm -ivh mysql57-community-release-el7- [hadoop@node02 ]$ yum install mysql-server    [hadoop@node02 ]# #第一次登录跳过权限认证 [hadoop@node02 ]# sudo vim /etc/ ############ [mysqld] # 添加下面一行 skip-grant-tables [hadoop@node02 ]# sudo systemctl start mysqld  [hadoop@node02 ]# mysql -u root mysql> flush privileges; Query OK, 0 rows affected ( sec) mysql> ALTER USER 'root'@'localhost' IDENTIFIED BY '';  Query OK, 0 rows affected ( sec) mysql> create database hive; Query OK, 1 row affected ( sec) mysql> exit; [hadoop@node02 ]# mysql -u root -p mysql> use mysql; # 设置远程连接权限 mysql> GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY '' WITH GRANT OPTION; Query OK, 0 rows affected, 1 warning ( sec) mysql> FLUSH PRIVILEGES; Query OK, 0 rows affected ( sec) 

下面开始在centos系统中安装Hive。为了兼顾版本，我们选择安装版本。Hive下载官方:/dyn//hive/

[hadoop@node02 module]$ ls apache-hive--  hadoop  mysql [hadoop@node02 module]$ tar -zxvf apache-hive--  [hadoop@node02 module]$ mv apache-hive--bin hive [hadoop@node02 module]$ ls apache-hive--  hadoop  hive  mysql  [hadoop@node02 conf]$ mv hive- hive- [hadoop@node02 conf]$ vim hive- ######### export HADOOP_HOME=/home/hadoop/module/hadoop/hadoop- export HIVE_CONF_DIR=/home/hadoop/module/hive/conf export HIVE_AUX_JARS_PATH=/home/hadoop/module/hive/lib  [hadoop@node02 conf]$ sudo vim /etc/profile ######### export HIVE_HOME=/home/hadoop/module/hive export PATH=$PATH:$HIVE_HOME/bin export HIVE_CONF_DIR=$HIVE_HOME/conf [hadoop@node02 conf]$ source /etc/profile [hadoop@node02 conf]$  mv hive- hive- [hadoop@node02 conf]$ vim hive-  #########   

     .scratchdir     /home/hadoop/module/data/hive/jobs       .dir     /home/hadoop/module/data/hive/resources       .ConnectionUserName     root       .ConnectionPassword            .ConnectionURL     jdbc:mysql://./hive?createDatabaseIfNotExsit=true   

      .ConnectionDriverName     .Driver  

为了使用Java连接Mysql，需要下载Mysql驱动，下载地址:/maven2/mysql/mysql-connector-java/。

下载完成后并放在lib文件夹中，并通过hive初始化Mysql数据库。

[hadoop@node02 lib]$ pwd /home/hadoop/module/hive/lib [hadoop@node02 lib]$ wget /maven2/mysql/mysql-connector-java//mysql-connector-java-.jar [hadoop@node02 lib]$ schematool -dbType mysql -initSchema 

在Hive初始化Mysql数据库，容易遇到两个比较常见的Bug:

第一个Hive初始化Mysql数据库:: .

错误原因:系统找不到这个类所在的jar包或者jar包的版本不一样系统不知道使用哪个。hive启动报错的原因是后者

解决办法:

.这个类所在的jar包为: hadoop-(路径:hadoopsharehadoopcommonlib)中该jar包为 guava--;而hive-(路径:hive/lib)中该jar包为guava-.jar 将jar包变成一致的版本:删除hive中低版本jar包，将hadoop中高版本的复制到hive的lib中。

第二个Hive初始化Mysql数据库:Exception in thread "main" : .: Illegal character entity: expansion character (code 0x8 at

报错原因:在本身的hive-配置文件中，3215行(见报错记录第二行)有特殊字符

解决办法:进入hive-文件，跳转到对应行，删除里面的特殊字符即可。

如果报Unknown database 'hive'，建议直接在MySQL中创建hive数据库。

最终Hive成功初始化Mysql数据库如下图所示:

查看hive数据库，就会看见对应初始化的表生成。

在输入hive，即可进入Hive命令行，说明Hive搭建成功。