偶数科技:深入理解“湖仓一体”,避免错过最佳转型战略时机

偶数科技:深入理解“湖仓一体”,避免错过最佳转型战略时机

本月,阿里云在北京举办了 “2022 年阿里云数据存储生态发布会”,偶数科技作为目前国内云原生数据仓库技术领域的开拓者受邀参加了本次大会。

偶数科技首席架构师陶征霖作为演讲嘉宾,在会上与行技术仁共同回顾了分析型数据库的演进历程,以及目前偶数科技在湖仓一体方面的前沿理念和实践。

随着企业数字化转型进入深水区,越来越多的企业视“湖仓一体”为数字变革的重要契机,如今湖仓一体受到前所未有的关注。在Gartner 2021年度数据管理领域的成熟度模型报告”Hype Cycle”中,”湖仓一体”(Lakehouse)与Edge Data Management、Intercloud Data Management、Active Metadata等新兴技术一起,成为了首次进入成熟度模型的五个新军之一。

然而,关注度越高意味着嘈杂声也会越多。对“湖仓一体”的错误理解,也会将转型中的企业引入更加复杂的数据孤岛局面,尽管这些错误理解最终会得被市场淘汰,但从现实而言可能会造成企业成本上升,甚至会错过数字化转型的战略时机。

对此,陶征霖在会上重点介绍了湖仓一体 ANCHOR 六大特性:实时 T+0、一份数据、超高并发、数据一致性、云原生、多类型数据支持。通过 OushuDB 最新版本和架构的加持,偶数湖仓一体方案将在云设施上帮助客户发挥数据价值。

为什么“湖”+“仓”的分体模式不是最佳选择

随着近年来Hadoop 大数据平台建设逐步推广,企业开始尝试将 Hadoop 用于一些非核心场景,但 Hadoop 性能和并发支持有限,而且事务支持弱,交付、运维成本高,无法替代核心数仓,基本只能作为“数据湖”。为了满足用户在性能、事务等方面的要求,很多企业开始考虑数据湖和数据仓库互补的方式。在构建数据湖的同时,也使用MPP,湖仓各自独立部署,数据通过ETL的方式打通。

这就是业内常说的 Hadoop+MPP 的”湖仓分体”模式。

尽管这种模式能够让湖和仓有很好的技术特性互补,但同时它也会产生经常让企业感到困惑的严重问题,包括:

  • 分体模式下的湖和仓各自形成数据孤岛;
  • Hadoop 和 MPP 集群规模扩展能力受限;
  • Hadoop 和 MPP 需要拆成多个集群,同一份数据在多个集群冗余存储;
  • 多份数据增加维护成本,数据一致性难保障;
  • 在面对高并发数据查询时,易造成业务应用崩溃;
  • T+1甚至更长的处理周期,不能满足业务的实时决策;
  • 建模路径冗长、非结构化数据无法整合;
  • 湖+仓异构分体带来复杂的实施和运维问题。

这些常见的状况更让从业者头疼不已。要解决这些问题,必须实现数据和查询层面形成一体化架构,彻底摆脱大数据平台遇到的这些瓶颈,这样可以大大降低 IT 运维成本和数据管理的技术门槛。

OushuDB存算分离的湖仓一体模式有何不同

那么,基于OushuDB存算分离的湖仓一体模式与Hadoop+MPP 的”湖仓分体”模式有何不同呢?

偶数科技研发的全球最快的新一代分析型数据库引擎OushuDB创新性的采用了存算分离的云原生架构。作为一个崭新的数据平台架构,存算分离架构可以保证存储和计算可以独立的弹性扩展和伸缩。

而传统 MPP 和 Hadoop 都不适应这样的要求:

  • MPP 数据库存算耦合;
  • Hadoop 必须通过计算和存储部署在同一物理集群拉近计算与数据的距离,仅在同一集群下构成逻辑存算分离。

另外,为了同时满足实时流处理、实时按需分析和离线分析需求,偶数科技独创性的探索出了Omega全实时数据处理架构,相比于传统的Kappa架构、Lambda架构优势明显。

可以说,OushuDB基本解决了”湖仓分体”的技术瓶颈,技术优势相当显眼:

  • OushuDB突破了传统MPP和Hadoop的局限,将计算和存储部署在不同的物理集群中,使得计算和存储资源可以独立的弹性伸缩;
  • 通过构建虚拟计算集群,OushuDB可以在数十万节点的超大规模集群上满足高并发需求,形成了统一的数据体系,不仅使得湖仓更适应云环境,还降低了用户的成本;
  • 通过支持分布式表存储Magma,OushuDB的计算引擎便于实现快照视图,能够高效实现实时查询需求,从而在性能和事务方面的支持更加完善。
  • Omega架构通过流处理系统WASP实现实时连续的流处理或批流一提处理,并通过存储于实时数仓的快照视图完成实时查询,从而解决了传统Kappa架构落地困难、Lambda架构难以保证数据一致性的问题,并极大简化了数据架构。

湖仓选型,ANCHOR先行

偶数科技认为,要真正的解决业务的痛点,选择企业适合的湖仓产品,我们可以按照前面提到的ANCHOR 标准来选型。ANCHOR 的6个首字母分别代表六大特性:

  • 实时 T+0(Real-Time):通过全量数据 T+0 的流处理和实时按需查询,满足基于数据的事前预测、事中判断和事后分析。
  • 一份数据(One Copy of Data):所有用户(BI 用户、数据科学家等)可以共享同一份数据,避免数据孤岛。
  • 超高并发(High Concurrency):支持数十万用户使用复杂分析查询并发访问同一份数据。
  • 数据一致性(Consistency):通过完善的事务机制,保障不同用户同时查询和更新同一份数据时的一致性。
  • 云原生(Native on Cloud):适合云环境,自由增减计算和存储资源,按用量计费,节约成本。
  • 支持多类型数据(All Data Types, Structured & Unstructured):支持关系表、文本、图像、视频等结构化数据和非结构化数据存储。
  • 行业的认可与偶数的持续突破创新

    自偶数科技诞生以来,偶数科技的产品和解决方案也已在非银金融、电信、政府、能源、制造和互联网等行业中被广泛的部署和应用,帮助多个行业中的企业小步快跑,进行数智化转型。同时,作为在数据库领域的领先创业,其商业模式的可行性与成长性也得到了资本的认可,连续获得了国内顶级投资机构红杉中国、腾讯、红点中国与金山云的四轮投资。

    在大数据的常见客户行业中,银行业是对应用的自主可控、高可用、高可靠性的要求最高的领域之一,偶数科技解决方案在银行业的落地正是其技术实力和对用户痛点理解力的明证。早在2020年,偶数科技就与建设银行成立了高性能大数据联合实验室,共同探索湖仓一体化的实施路径。经过持续的技术探讨与应用验证,二者合作开发的基于云原生数据库技术的全实时湖仓一体方案,采用了一套技术栈、统一存储进行湖仓双重能力建设,已具备极速性能、弹性伸缩、计算资源按需分配、全量数据单一存储、无须频繁导数、混合负载等相关能力,能够充分建设银行及其客户的实时应用场景,帮助建行提升了实时需求响应性能、增强了系统弹性,同时节约运维成本。

    近期,偶数科技正式入选国家级专精特新(专业化、精细化、特色化、新颖化)“小巨人”企业名单。作为助力国家突破关键技术领域“卡脖子”难题的初创企业,偶数科技在数据库国产化、技术自主安全上的努力正在被逐步验证、得到国家层面的肯定。

    随着未来物联网、工业互联网的逐步建立,大数据领域将面临越来越广的数据来源、越来越大的数据量、越来越多的非结构化数据、越来越丰富的应用场景和越来越复杂的技术栈,大数据处理和分析的难度将进一步提升。从上世纪60年代的数据库,到数据仓库、数据湖,到现在的湖仓一体,新产品总是在性能、功能上去解决以前从业者在业务上的痛点,我们可以说湖仓一体是数据库发展到云原生时代的必然产物。

    通过虚拟计算集群技术在数十万节点的超大规模集群上实现高并发,保障事务支持,提供实时能力,一份数据再无数据孤岛,新一代湖仓一体架构将是未来的发展趋势。偶数科技作为湖仓一体化领域的领导者,也将持续优化技术,为用户带来更高性能、更稳健的解决方案,支撑更多行业用户将数据转化为生产力。

    郑重声明:本文内容及图片均整理自互联网,不代表本站立场,版权归原作者所有,如有侵权请联系管理员(admin#wlmqw.com)删除。
    用户投稿
    上一篇 2022年8月23日 12:07
    下一篇 2022年8月23日 12:08

    相关推荐

    • ios手游模拟器(手游模拟器ios)

      本文主要讲的是ios手游模拟器,以及和手游模拟器ios相关的知识,如果觉得本文对您有所帮助,不要忘了将本文分享给朋友。 哪个iOS模拟器能多开手游账号?可以推荐个好用的模拟器给我吗…

      2022年11月27日
    • 我国首台130吨级重复使用液氧煤油补燃循环发动机试车成功

      新华社西安11月26日电记者26日从中国航天科技集团六院获悉,由该院自主研制的首台130吨级重复使用液氧煤油补燃循环发动机两次起动试车取得圆满成功。 该型发动机是瞄准我国新一代运载…

      2022年11月27日
    • 明年底验收!我国重点地区将实现秒级地震预警

      记者从日前召开的2022年全国地震科技工作会议上了解到,近年来,地震科技助力防震减灾工作提质增效。我国地震监测核心技术实现自主创新可控,国内地震自动速报平均用时缩短到2分钟,地震参…

      2022年11月27日
    • 世界领先!我国已应用于新一代战机→

      本文转自【央视军事】; “3D打印技术在飞机上的应用 我们已达到规模化、工程化 处于世界领先位置” 如何运用3D打印设备 生产新一代战机的零部件? 规模化+工程化 3D打印件批量装…

      2022年11月27日
    • 短视频策划内容的3个要点(短视频策划内容怎么做)

      短视频在制作时,内容框架非常重要。如果直奔主题,然后结束,聚卓告诉你,这样的短视频已经过时了。现在的短视频需要框架的,但不是任何框架,它需要一种易于理解和消化的框架。而且,现在大多…

      2022年11月27日
    • 美团第三季度实现营收626亿元,即时配送订单量增至50亿笔

      新京报讯(记者秦胜南)11月25日,美团发布业绩公告显示,第三季度营收为626亿元,较去年同比增长28.2%,净利润为12.2亿元。第三季度,美团即时配送订单数增长至50亿笔。截至…

      2022年11月27日
    • 净利润率越高越好吗(净利润率多少合适)

      一、持续增收不增利,平均净利润率首次跌入个位数 2021年,增收不增利依旧是行业主流。具体来看,大部分企业营业收入呈增长态势,E50企业平均同比增速达到17.3%,但是利润增速则明…

      2022年11月26日
    • 个人怎么做抖音带货(个人做抖音带货能赚钱吗)

      抖音如今是大家很熟悉的短视频平台,不过现在的抖音却不只是短视频那么简单,它的功能非常丰富,其中一个就是可以带货,相信很多小伙伴都有在抖音上买过东西,抖音如今的变现能力也是不容小觑的…

      2022年11月25日
    • 六大行与优质房企签约 支持房地产市场平稳健康发展

      新华社北京11月24日电 记者了解到,为促进房地产市场平稳健康发展,银行业在积极行动。截至目前,工商银行、农业银行、中国银行、建设银行、交通银行、邮储银行等六大国有商业银行均已宣布…

      2022年11月25日
    • 商家收到货才会退款吗(淘宝代付款退款钱到哪里了)

      在淘宝上有一些人下单购买商品的时候是通过代付的形式来支付的,一般情况下是家长帮助家里的小孩或者长辈进行代付,而代付订单和普通的订单没有太大的区别,不过如果发生退款的话,钱是退到哪里…

      2022年11月25日

    联系我们

    联系邮箱:admin#wlmqw.com
    工作时间:周一至周五,10:30-18:30,节假日休息