
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
本报告总结了电商用户行为数据分析的完整实践,基于18.6MB日志数据,通过Hadoop MR与Hive on MR实现六层递进分析:从数据治理(B01-B02)到描述性分析(B03-B09),再到关联分群、方法论演示与建模预测(B10-B16)。实验揭示数据质量关键问题,验证分析假设,构建可复用的数据底座。结果表明,数据结构缺陷直接影响下游分析有效性,强调“先治理后分析”的工程逻辑。最终形成一套可
小肥柴慢慢学习数据结构笔记(C篇)(5-3 树的遍历)目录5-10 BST/AVL的前序、中序和后序遍历5-10-1 直观理解有序二叉树的3种遍历5-10-2 更加一般的规律5-11 再看二叉树的前/中/后序遍历5-11-1 经典问题热身5-11-2 二叉树递归框架5-11-3 再看3种遍历5-11-4 尝试解决复杂问题5-11-5 深度优先搜索(DFS)与二叉树遍历浅谈5-12 层序遍历5-12

小肥柴慢慢学习数据结构笔记(C篇)(5-2 AVL树目录5-5 AVL出现的原因5-5-1 平衡树5-5-2 平衡二叉树的具体案例5-6 AVL平衡策略的讨论5-7 不使用平衡因子的实现(黑皮书,训练思维)5-8 使用平衡因子的实现(更加常见的实现方法)5-9 一些数学讨论参考文献目录5-5 AVL出现的原因5-5-1 平衡树(1)设想如下场景:使用之前实现的BST,从空树开始向其中插入如下序列n

一套在(本地)虚拟机中模拟完全分布式Hadoop环境搭建过程,适配3.0以上版本;对潜在踩坑都做了预判,能够快速上手这门非遗技术。

文章摘要 本文记录了在Hive数据仓库中对全国102,430个气象站点的921万条数据进行干旱事件识别与多维统计分析的过程。通过窗口函数和gaps-and-islands算法识别连续干旱事件,并解决磁盘空间不足导致的Map端Spill失败问题——利用LVM逻辑卷扩容根分区,从根本上释放闲置的14GB空间。最终构建全站点干旱画像表,发现仅3.75%的站点存在连续干旱,验证了干旱事件的稀有性和短暂性。
本文介绍了动态数组(ArrayList)的设计与实现。首先分析了静态数组的优缺点,指出其固定大小的局限性,进而引出动态数组的概念。动态数组能够自动扩容缩容,并提供增删改查等便捷操作。文章详细阐述了抽象数据类型(ADT)的设计过程,包括存储结构(指针数组、长度、容量)和基本操作接口(创建、增删改查等)。在具体实现部分,重点讲解了createList函数的代码实现,讨论了内存分配、初始化的注意事项。全
文章摘要 本文介绍了在2GB内存的Hadoop集群上使用Hive构建气象数据仓库并进行干旱指标分析的实践。重点阐述了在资源受限环境下如何通过内存估算和安全策略来避免OOM问题。作者详细分析了MapReduce作业各阶段(Map、Shuffle、Reduce)的内存消耗模型,特别针对分组聚合场景提出了Reducer内存估算公式。通过合理设置容器内存参数(256MB JVM堆)和分区策略,成功在低配置
文章摘要 本文记录了在Hive数据仓库中对全国102,430个气象站点的921万条数据进行干旱事件识别与多维统计分析的过程。通过窗口函数和gaps-and-islands算法识别连续干旱事件,并解决磁盘空间不足导致的Map端Spill失败问题——利用LVM逻辑卷扩容根分区,从根本上释放闲置的14GB空间。最终构建全站点干旱画像表,发现仅3.75%的站点存在连续干旱,验证了干旱事件的稀有性和短暂性。
从门外汉边学边上课,到入门的菜鸡,对如何正确的学习Hadoop有了一点点自己的理解和感想,遂做成一个教程方便同学们在线学习(努力避免误人子弟),同时与网友们分享交流。(2)学习Hadoop要有较为扎实的Java语言、数据结构与算法、计算机网络、软件工程(特别是各种设计模式)和操作系统基础知识,能做到心中有概念,现学现用即可。(4)多看源码、多思考、多验证、多练习;【声明】我的博客内容是参考了《Ha

文章摘要 本文介绍了在2GB内存的Hadoop集群上使用Hive构建气象数据仓库并进行干旱指标分析的实践。重点阐述了在资源受限环境下如何通过内存估算和安全策略来避免OOM问题。作者详细分析了MapReduce作业各阶段(Map、Shuffle、Reduce)的内存消耗模型,特别针对分组聚合场景提出了Reducer内存估算公式。通过合理设置容器内存参数(256MB JVM堆)和分区策略,成功在低配置







