
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
作者|同程数科大数据高级工程师 王星同程数科是同程集团旗下的旅游产业金融服务平台,前身是同程金服,正式成立于 2015 年。同程数科以“数字科技引领旅游产业”为愿景,坚持以科技的力量,赋能我国旅游产业。目前,同程数科的业务涵盖产业金融服务、消费金融服务、金融科技及数字科技等板块,累计服务覆盖超过千万用户和 76 座城市。图1.1 业务场景-业务介绍主要包含四大类:图1.2 业务场景-业务需求综合以
这样我们就可以在下面这个列表里找到我们这个tablet 的 partition VisibleVersion。好,到这里我们看到这出问题这个tablet 所有的副本,在上面这个查询返回结果里我们关注几个字段。的时候返回的信息里最后一列,我们通过这一列可以知道我们要找的tablet 对应的。这个时候我们通过上面1-8条说明里讲解的内容就可以定位错误的 tablet 副本。这个时候我们都知道通过下面的

名词解释FE:Frontend,即 Doris 的前端节点。主要负责接收和返回客户端请求、元数据以及集群管理、查询计划生成等工作。BE:Backend,即 Doris 的后端节点。主要负责数据存储与管理、查询计划执行等工作。bdbje:Oracle Berkeley DB Java Edition。在 Doris 中,我们使用 bdbje 完成元数据操作日志的持久化、FE 高可用等功能。整体架构如
我们找到 permits 较大的一个任务对应的 tablet id,如下图permit 为 4096 的任务的 tablet id 为 5103093,然后继续分析这个 tablet 的 compaction 情况。今天一个用户出现BE(用户使用的是0.14.13.1这个版本) 启动之后,过一会就会挂掉,be.out也没有错误信息,不知道什么问题造成的。确认是OOM问题,这个时候我们要知道是什么引

1.环境准备JDK1.8+ , Intellj IDEA1.linux上编译好fe前端代码,主要目的是获取自动生成的代码,加入到前段工程里面去用于在idea中编译fe工程在linux下,进入到源码目录,执行下面的命令:$ sh build.sh --clean --fe然后将 gensrc目录打包,拿出来,如下图2.在windows下解压gensrc.tar.gz,解压后的目录如下图:3.进入bu
前期准备工作本教程是在Ubuntu 20.04下进行的下载doris源代码下载地址为:apache/incubator-doris: Apache Doris (Incubating) (github.com)安装GCC 8.3.1+,Oracle JDK 1.8+,Python 2.7+,确认 gcc, java, python 命令指向正确版本, 设置 JAVA_HOME 环境变量安装其他依赖
但是因为 Doris 它最早是给凤巢的一个广告报表做的,广告报表有一个很大的特点,就是它只关心统计分析的结果,而不太关心明细的数据,所以 Doris 最早一代的数据模型,是一个聚合的模型。通过上面的图我们可以看到,这是一个典型的用户信息和访问行为的事实表。也就是说,任何还未聚合的数据(比如说两个不同导入批次的数据),必须通过某种方式,以保证对外展示的一致性,特别是在聚合模型上做count计算,可能

Advance Intelligence Group(领创集团)成立于 2016 年,是一家以 AI 技术驱动的科技集团,致力于通过科技创新的本地化应用,改造和重塑金融和零售行业,以多元化的业务布局打造一个服务于消费者、企业和商户的生态圈。集团旗下包含企业业务和消费者业务两大板块,企业业务包含 ADVANCE.AI 和 Ginee,分别为银行、金融、金融科技、零售和电商行业客户提供基于 AI 技术
数仓分层模型数仓分层模型的好处:1、数据结构化更清晰:每一个数据分层都有它的作用域和职责,在使用表的时候能更方便地定位和理解。2、数据血缘追踪:提供给外界使用的是一张业务表,但是这张业务表可能来源很多张表。如果有一张来源表出问题了,我们可以快速准确的定位到问题,并清楚每张表的作用范围。3、增强数据复用能力:减少重复开发,通过数据分层规范化,开发一些通用的中间层数据,能够减少重复计算,提高单张业务表
📌本文将介绍云器科技自研的Lakehouse产品。通过本次分享,您将了解云器Lakehouse产品特性,了解一体化数据平台如何提升数据处理和数据分析的效率,使之更轻松、更简洁、更高效,了解增量计算如何做到平衡数据新鲜度、查询性能和成本。此外,数据湖仓的一体化架构,为目前热门的人工智能大模型提供开放的接口,可以直接使用云器Lakehouse的数据湖中数据进行模型训练。云器一体化平台统一批、流和交互








