
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
Apache Doris 提供三种数据模型:Duplicate 模型保留所有原始数据;Aggregate 模型对相同维度数据进行聚合计算;Unique 模型保证主键唯一性。建表语句支持定义列属性、分区、索引等优化功能,并包含两种变体:CTAS(基于查询创建预填充表)和LIKE(复制表结构)。通过合理配置分区、分布方式等参数可提升存储和查询性能。
2.join 连接:inner join 内连接;left join 左连接;right join 右链接;full join 全外链接。分区排序:类似 MR 中 partition,进行分区,结合 sort by 使用。对分组后的数据进行筛选,使用。

本文介绍了HIVE拉链表的实现方法。需求涉及从current_data表获取增量数据,更新history_data表和deleted_data表。history_data表存储历史数据,标记数据状态(新增、不变、删除),deleted_data表存储被删除的数据。处理逻辑包括:对不存在的数据标记为删除并更新版本号,存在的数据标记为不变,新增数据插入并标记为新增。示例展示了三天的数据处理过程,包括数
本文介绍了基于版本变更的数据拉链表实现方法。业务规则要求记录数据在连续版本间的存在状态,每条数据需标注进入版本号(start_version)和离开版本号(end_version)。通过三天的示例数据演示了处理过程:从初始插入,到更新失效数据,再到处理重新加入的数据。文章还提供了Hive SQL实现方案,包括更新失效数据和插入新增数据的操作,并强调需要注意动态版本号处理、性能优化和数据完整性保障等
摘要 本文构建了大数据开发工程师的能力成长体系,聚焦企业级数据场景(数仓/湖仓/实时数仓/数据平台),提出以业务复杂度、系统可靠性和架构决策力为核心的职级划分标准。 能力框架分为5个维度: 数据开发与计算引擎(SQL/Spark/Flink等) 数据集成与实时同步(CDC/Kafka/调度系统) 存储与性能工程(分布式数据库/执行计划优化) 数据治理与安全(质量/血缘/指标管理) 工程化与平台能力
本文介绍了一种简洁的Hive数据更新算法,通过两阶段处理实现历史数据更新和新数据合并:1) 用CASE WHEN判断旧数据是否被更新,保留最新值;2) 用UNION ALL合并纯新增数据。算法巧妙利用LEFT JOIN和NULL判断,区分已更新数据与全新数据。参数化设计支持每日增量更新,将ODS当日数据与DWD历史数据合并生成新版本全量数据。相比row_number()去重等方法更高效,适用于Hi
该问题出现在用idea连接Oracle数据库的时候,代码都写好了但是发现连不上Oracle。连接oracle数据库时,一直报错找不到驱动,后来发现自己没整驱动。3. 然后打开IDEA,如下操作:点击添加,把jar添加进去。然后把项目刷新一下就可以了,或者关掉IDEA重新打开。(或者是能连Oracle,但是只能连一半。首先要保证自己的Oracle数据库是启动了的噢。

该问题出现在用idea连接Oracle数据库的时候,代码都写好了但是发现连不上Oracle。连接oracle数据库时,一直报错找不到驱动,后来发现自己没整驱动。3. 然后打开IDEA,如下操作:点击添加,把jar添加进去。然后把项目刷新一下就可以了,或者关掉IDEA重新打开。(或者是能连Oracle,但是只能连一半。首先要保证自己的Oracle数据库是启动了的噢。

将 Hive 数据导入到 Doris 的常见方法包括:1. Broker Load:通过 Doris 的 Broker 直接读取 HDFS 上的 Hive 数据文件,适用于离线批量导入历史数据。2. Spark Load:利用 Spark 进行数据转换和导入,适合复杂处理或大规模数据场景。3. Stream Load:先将 Hive 数据导出到本地文件,再通过 Stream Load 导入,适用于








