Hadoop生态系统数据仓库Hive的

中科医院曝光 http://pf.39.net/bdfyy/zjdy/161222/5131651.html

一、数据仓库

数据仓库是一个面向主题的、集成的、随时间变化,但信息本身相对稳定的数据集合,相比于传统型数据库,它主要用于支持企业或组织的决策分析处理。主要有以下3个特点:

数据仓库是面向主题的:

数据仓库中的数据是按照一定的主题域进行组织,大概意思就是说存的数据是一类数据

数据仓库是随时间变化的:

其中存的数据是有时序的,会保存很长一段时间的数据

数据仓库相对稳定:

数据仓库主要是用来进行数据的查询,很少进行修改和删除

数据仓库的结构

二、Hive简介

2.1Hive简介

Hive最初是Facebook开发的一款用来SQL分析的应用,它是建立在Hadoop文件系统上的数据仓库,能够对存储在HDFS中的数据进行数据提取、转换和加载(ETL),这是一种可以存储、查询、分析存储在Hadoop中的大规模数据的机制。Hive定义了简单的类SQL查询语言,简称HQL。但Hive并不是一个数据库,它只是提供了和数据库相类似的查询语言。其实他是用来执行简化MapReduce操作的,可以解决很多MapReduce解决起来比较麻烦的事。Hive把用户的HiveQL语句解释转换为MapReduce作业提交到Hadoop集群上,Hadoop监控作业执行过程,然后返回作业执行结果给用户。

2.2Hive系统架构

用户接口:主要分为3个,分别是CLI(命令行)、JDBC/ODBC(由Java实现的用来连接数据库)、和WebUI(浏览器)。

跨语言服务(ThriftServer):Thrift是Facebook开发的一个软件框架,用来进行可扩展且跨语言的服务,Hive集成该服务,可以让不同的编程语言调用Hive的接口

底层的驱动引擎:主要包含编译器(Compile)/优化器(Optimizer)/执行器(Executor)

元数据存储系统(Metastore):Hive的元数据包括表名、列、分区及其相关属性,表数据所在目录的位置信息,Metastore默认存在自带的Derby数据库中(这是一个嵌入式数据库,更多有关嵌入式数据库资料查看这里在Spring中使用嵌入式数据库-H2)。

三、Hive实践

3.1Hive安装

由于Hive依赖于Hadoop,所以要提前安装Hadoop,参见手把手教你安装Hadoop集群

下载并解压

之前的Hadoop是分布式安装在3台机器上的,但Hive只需要安装在一台机子即可,我这里选择的是hadoop02

下载


转载请注明:http://www.aierlanlan.com/rzgz/2792.html

  • 上一篇文章:
  •   
  • 下一篇文章: 没有了