「大数据」 Hive 入门 以及Handoop 系统认知

「大数据」 Hive 入门 以及Handoop 系统认知

前言

本文主要介绍Hive 的基础概念,以及Handoop的大体架构,组件依赖,对于大数据有个总体的认识

Hive 基础概念

官网:https://hive.apache.org/

The Apache Hive data warehouse software facilitates reading, writing, and managing large datasets residing in distributed storage using SQL. Structure can be projected onto data already in storage. A command line tool and JDBC driver are provided to connect users to Hive.

Apache Hive 数据仓库软件支持使用SQL读取、写入和管理分布存储中的大型数据集。结构可以映射到存储中的数据。提供了一个命令行工具和JDBC驱动程序来将用户连接到Hive。

Hive的 特点:

  • Hive是一个构建于Hadoop顶层的数据仓库工具,可以查询和管理PB级别的分布式数据。
  • 支持大规模数据存储、分析,具有良好的可扩展性
  • 某种程度上可以看作是用户编程接口,本身不存储和处理数据。
  • 依赖分布式文件系统HDFS存储数据。
  • 依赖分布式并行计算模型MapReduce处理数据。
  • 定义了简单的类似SQL 的查询语言——HiveQL。
  • 用户可以通过编写的HiveQL语句运行MapReduce任务。
  • 可以很容易把原来构建在关系数据库上的数据仓库应用程序移植到Hadoop平台上。
  • 是一个可以提供有效、合理、直观组织和使用数据的分析工具。

Hive应用场景:

  • 数据挖掘:用户行为分析;兴趣分区;区域展示;
  • 非实时分析:日志分析;文本分析。
  • 数据汇总:每天/每周用户点击数,流量统计。
  • 数据仓库:数据抽取,加载,转换(ETL)。
  • 思考: Hive 其实不是一个数据库或者数据存储系统,而且是一个数据工具,主要是将SQL语句转化为MapReduce任务执行。

    Hive 的结构

    该组件图包含不同的单元。下表描述每个单元:

    Hive的工作原理

    下表定义Hive和Hadoop框架的交互方式:

    Handoop 的结构

    (1)Pig是一个基于Hadoop的大规模数据分析平台,Pig为复杂的海量数据并行计算提供了一个简单的操作和编程接口; (2)Hive是基于Hadoop的一个工具,提供完整的SQL查询,可以将sql语句转换为MapReduce任务进行运行; (3)ZooKeeper:高效的,可拓展的协调系统,存储和协调关键共享状态; (4)HBase是一个开源的,基于列存储模型的分布式数据库; (5)HDFS是一个分布式文件系统,有着高容错性的特点,适合那些超大数据集的应用程序; (6)MapReduce是一种编程模型,用于大规模数据集(大于1TB)的并行运算。

    Handoop 集群部署

    Handoop 组件依赖关系

    Handoop的核心

    参考资料:

    https://blog.csdn.net/zl834205311/article/details/80334346

    https://www.cnblogs.com/tieandxiao/p/8799287.html

    https://www.yiibai.com/hive

    https://www.jianshu.com/p/d68272609bf8

    郑重声明:本文内容及图片均整理自互联网,不代表本站立场,版权归原作者所有,如有侵权请联系管理员(admin#wlmqw.com)删除。
    用户投稿
    上一篇 2022年7月28日 18:09
    下一篇 2022年7月28日 18:09

    相关推荐

    • ios手游模拟器(手游模拟器ios)

      本文主要讲的是ios手游模拟器,以及和手游模拟器ios相关的知识,如果觉得本文对您有所帮助,不要忘了将本文分享给朋友。 哪个iOS模拟器能多开手游账号?可以推荐个好用的模拟器给我吗…

      2022年11月27日
    • 短视频策划内容的3个要点(短视频策划内容怎么做)

      短视频在制作时,内容框架非常重要。如果直奔主题,然后结束,聚卓告诉你,这样的短视频已经过时了。现在的短视频需要框架的,但不是任何框架,它需要一种易于理解和消化的框架。而且,现在大多…

      2022年11月27日
    • 美团第三季度实现营收626亿元,即时配送订单量增至50亿笔

      新京报讯(记者秦胜南)11月25日,美团发布业绩公告显示,第三季度营收为626亿元,较去年同比增长28.2%,净利润为12.2亿元。第三季度,美团即时配送订单数增长至50亿笔。截至…

      2022年11月27日
    • 个人怎么做抖音带货(个人做抖音带货能赚钱吗)

      抖音如今是大家很熟悉的短视频平台,不过现在的抖音却不只是短视频那么简单,它的功能非常丰富,其中一个就是可以带货,相信很多小伙伴都有在抖音上买过东西,抖音如今的变现能力也是不容小觑的…

      2022年11月25日
    • 抖音带货怎么做入门(抖音带货怎么做入门教学)

      相信很多小伙伴都有注意到,现在抖音已经成为大家最常光顾的一个平台了,作为一个日活破亿的流量池,如今抖音上的用户数量极大。因此,现在在抖音上带货、卖货的人也是越来越多了,那么想在抖音…

      2022年11月25日
    • 小红书平台的一些机制及玩法详解(小红书玩法有哪些)

      关于小红书 一:小红书平台的一些机制 1. 笔记内容的CES评分机制 2. 笔记流量入口与长尾效应 二:小红书优质笔记的特点(分维度、类型分析) 1.笔记的本身架构组成 维度 2.…

      2022年11月25日
    • 什么是推广cpa一篇文章带你看懂CPA推广渠道

      CPA渠道 CPA指的是按照指定的行为结算,可以是搜索,可以是注册,可以是激活,可以是搜索下载激活,可以是绑卡,实名认证,可以是付费,可以是浏览等等。甲乙双方可以根据自己的情况来定…

      2022年11月25日
    • 百度关键词快速排名的4大原理解析(百度怎么刷关键词)

      近期百度公告惊雷算法2.0,升级之快还是第一次吧,看来百度对于刷点击行为是零容忍了。之前尹华峰SEO技术博客介绍过一篇如何使用刷点击工具,其实市面上有很多这类SEO快速排名的软件,…

      2022年11月25日
    • 抖音直播带货有哪些方法技巧(抖音直播带货有哪些痛点)

      如今抖音这个短视频的变现能力越来越突显了,尤其是在平台上开通直播,更具有超强的带货属性,已经有越来越多的普通人加入到其中了。不过直播带货虽然很火,但是也不是每个人都能做好的,那么在…

      2022年11月24日
    • 抖音世界杯投屏怎么弄 抖音看世界杯怎么看能投屏吗

      抖音作为短视频平台第一次进军世界杯直播,小编还是很期待的,毕竟每天没事的时候都会刷一下抖音,看直播的话也是方便了不少,那抖音看世界杯可以投屏吗?下面一起来了解一下。 抖音世界杯投屏…

      2022年11月24日

    联系我们

    联系邮箱:admin#wlmqw.com
    工作时间:周一至周五,10:30-18:30,节假日休息