logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

基于DCMM框架的数据治理体系构建与电商落地实践研究

数据治理是企业数字化转型的核心基石,绝非简单的数据优化工作。依托DCMM国家标准框架的体系化治理,能够帮助企业从“无序数据管理”走向“标准化、规范化、资产化的数据运营”。通过诊断规划、体系搭建、专项治理、业务赋能、长效迭代的全流程落地,可彻底解决数据孤岛、口径混乱、质量低下、合规失控等核心问题,让数据真正成为驱动企业降本增效、科学决策的核心资产。

#大数据
Apache Doris 4.0 AI 函数实战:SQL 直连 DeepSeek 等主流大模型完整落地排坑教程

Apache Doris 4.0 重磅推出原生 AI 函数(AI Function)直接在 SQL 语句内部调用外部大语言模型(LLM),完成各类非结构化文本智能分析,无需把数据导出到 Python、Java 等外部程序做中转处理,真正实现「数据分析 + AI 处理」同一条 SQL 闭环执行Apache Doris。Doris 导出数据 → 外部服务调用大模型 API → 结果写回 Doris,链

文章图片
#人工智能#apache#sql
看懂智能体底层真相:Agent、Skill、MCP 不是一回事!核心组件分工、优劣、协同全拆解

Agent 是脑子,Skill 是手艺,MCP 是工具接口。高端企业级智能体的核心架构:用 Agent 保灵活,用 Skill 保准确,用 MCP 保连通。

#人工智能
颠覆人机交互!一文吃透 AI 智能体(Agent)核心原理与底层逻辑

传统大模型像一个只会答题的学霸:你问一题、它答一题,不会主动思考、不会主动做事,超出指令范围就无能为力。而 AI 智能体是一个独立自主的全能助理:你只需要告诉它最终目标,比如“帮我整理本周行业资讯、筛选热点、生成复盘报告并排版”,它会自动拆解步骤、自主搜索信息、调用编辑工具、纠错优化、完成闭环任务,全程自主推进。简单总结:大模型负责思考,智能体负责做事。

#人工智能#人机交互#大数据
杀疯了!Hive 高频核心函数全解析:Map/Struct/Array/ 日期 / 字符串 / 聚合一网打尽

Array 数组[下标]取值、size长度、explode炸开、判断包含、concat_ws数组转字符串;Map['key']取值、explode行转列、str_to_map字符串转 Map;Struct取字段、固定结构数据;日期当前日期、格式化、datediff算天数;字符串concat_ws拼接、split切割、explode炸开;条件判断nvl处理空值、分支判断;高级解析解析 JSON、pa

文章图片
#hive#hadoop#数据仓库
Hive 实战|连续行为万能解法!从连续数字到用户活跃,一套代码秒杀所有连续类需求

固定连续次数→ 自连接任意连续天数→ 窗口函数(date_sub + row_number)分组排序行号 → 日期减行号 → 分组统计次数面试高频:连续数字、连续活跃、最长连续、TopN 连续只要掌握这一套,Hive 里所有连续类问题直接秒杀。

文章图片
#hive#hadoop#数据仓库
踩遍 Flink-MySQL-CDC 所有大坑,终于跑通全量 + 实时同步 Kafka

最近在做反欺诈项目实时数据流搭建,需求是通过 Flink MySQL-CDC 抓取交易表增删改数据,同步投递到 Kafka 供下游风控引擎消费。本以为复制模板就能一键跑通,结果接连踩了三处典型大坑:initial全量模式跑完存量不切实时、print()直接阻塞流式任务数据投递 Kafka 格式不对无法识别。把排查过程、根源、最终修复方案完整记录下来,给同样做 CDC 同步的同学避坑。

#flink#mysql#kafka
Flink 实时去重三部曲:HashSet → 布隆过滤器 → 布隆 + 窗口触发器渐进式优化实战

布隆过滤器是空间利用率极高的概率型二进制数据结构,底层本质是一个超长 bit 位数组,数组内元素只有01两种值。方案一 HashSet:窗口等待所有数据齐了再遍历迭代器统计,超大流量下迭代器积攒海量对象,堆内存暴涨极易 OOM;方案二 Redis 布隆过滤器:依然依赖窗口攒齐全部数据再统一遍历计算,迭代器数据积压问题没有解决;同时逐条落地 MySQL 频繁创建关闭连接,IO 压力大、写入性能极差。

#flink#大数据
硬核吃透 Flink KeyedProcessFunction:底层核心、实战用法、场景落地全解

在 Flink 流式开发中,大多数开发者日常使用mapfilterflatMapkeyBy+ 聚合等高阶 API,这些 API 简洁易用,但能力存在局限性:无法精细管控流处理的时间机制、无法灵活使用状态、不支持自定义定时触发逻辑。而是 Flink专属的底层核心 API,堪称 Flink 按键流处理的「万能工具箱」。它打破了高阶 API 的能力壁垒,同时整合了状态编程、定时器机制、上下文精准操控三大

#flink#java#前端 +1
    共 11 条
  • 1
  • 2
  • 请选择