logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

聊聊Hive数据血缘——从Atlas没有列级血缘的Bug讲起

正文共:9053字12图预计阅读时间:23分钟前几天,Datahub提供了最新的字段级别数据血缘功能,很多朋友迫不及待想对比一下Datahub的字段级血缘与Atlas的区别。这个时候问题来了,在Atlas收集Hive血缘的时候,由于部分版本问题,没有显示出字段级的数据血缘。这是为什么呢?其实只要做一个简单的修复就可以了,但是知其然也要知其所以然。今天我们就来看一下这个问题到底...

#hive#bug#大数据 +2
6道经典大数据面试题(ChatGPT回答版)

1、HDFS 读写流程是什么?HDFS(Hadoop Distributed File System)的读写流程如下:写流程:客户端向 NameNode 发送写请求,请求在 HDFS 上创建一个新的文件。NameNode 为该文件分配一些数据块(默认情况下为 128 MB)以及在哪些 DataNode 上存储这些数据块的信息。NameNode 向客户端返回可用于写入数据的 DataNode 列表。

#大数据#hadoop#hdfs +2
【开源项目推荐】Apache Superset——最优秀的开源数据可视化与数据探索平台

大家好,我是独孤风。数据可视化是数据领域一个非常重要的应用。而结合了数据可视化和数据探索功能的BI(商业智能)工具,更是被各大公司青睐。但是,由于数据可视化工具的开发成本过高,长期以来一直是商业化的BI工具处于垄断地位。 那么,有没有优秀的开源数据可视化与数据探索平台呢? 今天为大家推荐的开源项目,就是极为优秀的数据可视化项目,Github标星高达55K。让我们一起来看看吧~今天为大家推荐的开源项

#开源#信息可视化
官宣|Apache Paimon 孵化成功!毕业!

2024年4月16日 - Apache软件基金会(ASF),这个由320多个活跃的开源项目和计划的志愿开发者、管理员和孵化器组成的组织,今天宣布Apache Paimon已从孵化器毕业,成为一个顶级项目(TLP)。恭喜Paimon!01流式湖仓解决方案Paimon 流式湖仓解决方案 Streaming Lakehouse提到数据湖,我们会想到三大开源数据湖Iceberg、Hudi、Delta,但是

#apache
一图看懂《关于深化智慧城市发展 推进城市全域数字化转型的指导意见》

近日,《国家发展改革委 国家数据局 财政部 自然资源部关于深化智慧城市发展 推进城市全域数字化转型的指导意见》正式发布。具体内容已经整理为思维导图,可以参考。新时代背景下,数字技术的创新突破和数字经济的高速发展,为城市发展注入了新的动能和活力。作为数字中国建设的综合载体,推进城市全域数字化转型已经成为大势所趻。这不仅是面向未来构筑城市竞争新优势的关键之举,更是推动城市治理体...

#智慧城市#大数据#人工智能
Flink入门(二)——Flink架构介绍

1、基本组件栈了解Spark的朋友会发现Flink的架构和Spark是非常类似的,在整个软件架构体系中,同样遵循着分层的架构设计理念,在降低系统耦合度的同时,也为上层用户构建Flink应用提供了丰富且友好的接口。Flink分为架构分为三层,由上往下依次是API&Libraries层、Runtime核心层以及物理部署层​API&Libraries层作为分布式数据处理框...

工信部电子标准院人工智能从业人员认证培训:提升AI专业水平的权威途径

在当今快速发展的人工智能(AI)领域,专业认证已成为衡量从业人员技术水平和能力的重要标准。工业和信息化部电子工业标准化研究院(以下简称“电子标准院”)颁发的人工智能从业人员认证证书,凭借其权威性和专业性,成为众多AI从业者追求的目标。本文将详细介绍即将在青岛举办的《自然语言及语音处理设计开发工程师》(中级)专项培训,探讨其重要性、课程内容及认证的价值。培训背景及重要性随着人工智能技术的迅猛发展,A

#人工智能
在企业数字化转型浪潮中领先一步,2025年CDMP认证考试时间表已公布!

大家好,我是独孤风,一位曾经的港口煤炭工人,如今在某国企担任大数据负责人,同时也是大数据流动的作者。在我的职业生涯中,我深刻感受到数字化转型对企业未来发展的重要性,而数据治理能力是其中的核心。这几年,数字化浪潮席卷全球,企业对数据治理和管理人才的需求愈发迫切。作为数据治理领域的权威认证,CDMP被视为数字化转型中的必备利器。近期,2025年CDMP认证考试的时间表已经正式对外公布,这无疑是所有关注

#java#开发语言
2025年CDMP认证考试时间表已公布!训练营开放报名!在企业数字化转型浪潮中领先一步!...

大家好,我是独孤风,一位曾经的港口煤炭工人,如今在某国企担任大数据负责人,同时也是大数据流动的作者。在我的职业生涯中,我深刻感受到数字化转型对企业未来发展的重要性,而数据治理能力是其中的核心。这几年,数字化浪潮席卷全球,企业对数据治理和管理人才的需求愈发迫切。作为数据治理领域的权威认证,CDMP被视为数字化转型中的必备利器。近期,2025年CDMP认证考试的时间表已经正式对外公布,这无疑是所有关注

滴滴被罚,数据安全该怎么做?——大数据安全入门宝典

昨天,大家都被一则新闻刷屏了。经查实,滴滴全球股份有限公司违反《网络安全法》《数据安全法》《个人信息保护法》的违法违规行为事实清楚、证据确凿、情节严重、性质恶劣。7月21日,国家互联网信息办公室依据《网络安全法》《数据安全法》《个人信息保护法》《行政处罚法》等法律法规,对滴滴全球股份有限公司处人民币80.26亿元罚款,对滴滴全球股份有限公司董事长兼CEO程维、总裁柳青各处人民币100万元罚款。这.

#大数据#hadoop#java +1
    共 89 条
  • 1
  • 2
  • 3
  • 9
  • 请选择