logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

一篇文章搞懂HDFS的数据负载均衡策略

写在前面本文隶属于专栏《1000个问题搞定大数据技术体系》,该专栏为笔者原创,引用请注明来源,不足和错误之处请在评论区帮忙指出,谢谢!本专栏目录结构和文献引用请见1000个问题搞定大数据技术体系解答什么是数据负载均衡策略?HDFS的架构支持数据均衡策略。如果某个 DataNode 节点上的空闲空间低于特定的临界点,按照均衡策略系统就会自动地将数据从这个 DataNode 移动到其他空闲的 Data

#大数据#hdfs
启动 CM agent 报错——ImportError: libssl.so.10: cannot open shared object file: No such file or directory

启动 CM agent 报错——ImportError: libssl.so.10: cannot open shared object file: No such file or directory,启动命令如下:/opt/cm-5.14.2/etc/init.d/cloudera-scm-agent start

#python
一篇文章搞懂 HDFS 的 Archive 到底是什么

前言本文隶属于专栏《1000个问题搞定大数据技术体系》,该专栏为笔者原创,引用请注明来源,不足和错误之处请在评论区帮忙指出,谢谢!本专栏目录结构和参考文献请见1000个问题搞定大数据技术体系正文什么是 Hadoop Archives ?Hadoop Archives 为特殊的档案格式。一个 Hadoop Archive 对应一个文件系统目录。Hadoop Archives 的扩展名为 *.har。

#大数据#hdfs
大数据处理架构详解:Lambda架构、Kappa架构、流批一体、Dataflow模型、实时数仓

面对海量异构数据,如何设计高效可靠的大数据处理架构?本文全方位解析大数据处理的典型架构模式。想知道兼具低延迟和批处理能力的Lambda架构和Kappa架构有何区别?简单高效的流批一体架构如何实现?灵活的Dataflow数据流模型的原理是什么?实时数仓如何做到毫秒级分析?本文通过详细的原理分析和业界案例,以八股文体系全面介绍各类大数据处理架构的模式、特点、适用场景,并对不同架构进行横向对比。无论你是

文章图片
#架构#大数据#数据仓库
分布式和大数据有什么区别?

本文详解了分布式和大数据之间的区别

#大数据#分布式
大数据开发主要做什么?

写在前面本文隶属于专栏《100个问题搞定大数据理论体系》,该专栏为笔者原创,引用请注明来源,不足和错误之处请在评论区帮忙指出,谢谢!本专栏目录结构和文献引用请见100个问题搞定大数据理论体系解答一个大数据平台架构通常如图所示,大数据开发涵盖了图中从下到上各层的实现,其中主要的部分是采集层、储存层、计算层、模型层和接口层,核心部分是储存层和计算层。各层中功能模块的技术实现会根据实际业务场景不同而有所

#大数据
大数据处理的基本流程是什么?

写在前面本文隶属于专栏《100个问题搞定大数据理论体系》,该专栏为笔者原创,引用请注明来源,不足和错误之处请在评论区帮忙指出,谢谢!本专栏目录结构和文献引用请见100个问题搞定大数据理论体系解答大数据处理流程主要分为3步:1.数据抽取和集成2.数据分析3.数据解释补充1.数据抽取与集成由于大数据处理的数据来源类型丰富,利用多个数据库来接收来自客户端的数据, 包括企业内部数据库、互联网数据和物联网数

文章图片
#大数据
大数据是如何发展起来的?

写在前面本文隶属于专栏《100个问题搞定大数据理论体系》,该专栏为笔者原创,引用请注明来源,不足和错误之处请在评论区帮忙指出,谢谢!本专栏目录结构和文献引用请见100个问题搞定大数据理论体系解答大数据起源于Google在2004年前后发表的三篇论文,也就是著名的“三驾马车”,分别是分布式文件系统GFS、大数据分布式计算框架MapReduce和NoSQL数据库系统BigTable。...

#大数据
面向生产环境的大模型应用开发

大模型应用开发已从“写功能”转向“评估驱动的机器学习工程”。课程梳理:范式演进、四层生产架构(数据/模型/编排/可观测)、模型生态位与量化选型、推理性能指标(TTFT/Tokens/s)、Prompt 资产化、评估闭环、数据合成与 RAG、多场景金融实践、全生命周期与常见踩坑。核心:先评估→再迭代→持续数据回流形成自增强。

文章图片
大模型应用介绍和典型范式

大模型应用介绍和典型范式:厘清LLM与“泛大模型”边界,揭示其本质是下一个token概率预测;系统梳理幻觉、缺规划、记忆短板及RAG、CoT、Workflow、Tool/Agent、Memory、微调组合补救路径;强调评测与数据工程驱动ROI。助你高效打造可靠AI应用。全链提效升级快

文章图片
    共 198 条
  • 1
  • 2
  • 3
  • 20
  • 请选择