logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Redis特性、应用场景和常见的数据结构

Redis简介redis是用C语言开发的一个基于内存的、高性能key-value键值对的、开源nosql数据库。目前,redis的key是字符串类型的,但value支持多种数据类型:字符串(string)、哈希(hash)、列表(list)、集合(set)、有序集合(sortedset),通过提供多种键值数据类型来适应不同场景下的存储需求。Redis应用场景介绍几种常见的应用:构建队列系统可以用l

#redis#数据库#数据结构
Spark集群和任务执行

Driver:Spark框架中的驱动器,运行用户编写Application 的main()函数。类比于MapReduce的MRAppmaster。Executor:运算任务执行器,运行在worker节点上的一个进程。类似于MapReduce中的MapTask和ReduceTask。Worker:从节点,负责控制计算节点,启动Executor。类比Yarn中的节点资源管理器。Master:主节点,控

#spark#大数据#分布式
java.lang.NoSuchMethodError: net.jpountz.lz4.LZ4BlockInputStream.<init>(Ljava/io/InputStream;Z)V

1. 现象在利用Spark和Kafka处理数据时,有时会同时在maven pom中引入Spark和Kafka的相关依赖。但是当利用Spark SQL处理数据生成的DataSet/DataFrame进行collect或者show等操作时,抛出以下异常信息:in stage 3.0 (TID 403, localhost, executor driver): java.lang.NoSuchMetho

#大数据#spark#kafka
一站式AI Agent开发、优化和管理平台 — 字节扣子之Coze Loop和Coze Studio

最近字节开源了扣子(Coze)的2个核心项目:Coze Loop(扣子罗盘)和Coze Studio(扣子开发平台),且采用Apache 2.0许可证。加上此前已经开源的开发框架Enio(AI应用编排框架,让Agent能灵活接入不同模型和数据源),可以说是覆盖了Agent从开发、评测到运维的全生命周期。本文将详细介绍Coze Loop和Coze Studio能够解决什么问题、架构和核心特性。

#人工智能#大数据
一站式AI Agent开发、优化和管理平台 — 字节扣子之Coze Loop和Coze Studio

最近字节开源了扣子(Coze)的2个核心项目:Coze Loop(扣子罗盘)和Coze Studio(扣子开发平台),且采用Apache 2.0许可证。加上此前已经开源的开发框架Enio(AI应用编排框架,让Agent能灵活接入不同模型和数据源),可以说是覆盖了Agent从开发、评测到运维的全生命周期。本文将详细介绍Coze Loop和Coze Studio能够解决什么问题、架构和核心特性。

#人工智能#大数据
高级大数据研发工程师面试题总结

1.Spark处理数据流程、并行度决定机制2.SparkSQL解析SQL的详细流程、hash广播底层实现3.Spark shuffle、shuffle文件4.groupByKey、reduceByKey、aggregateByKey、combineByKey区别5.repartition和coalesce区别6.Spark内存管理模型7.Spark中能够进行下推的算子和不能进行下推的算子有哪些?谓

#大数据
Flink CDC支持Oracle RAC架构CDB+PDB模式的实时数据同步吗,可以上生产环境吗

Logminer是Oracle推出的一个开源工具,原本初衷是帮助DBA来排查数据库问题的,现在很多非Oracle官方推出的基于日志解析的Oracle CDC实时同步工具基本都是基于Logminer做的封装,存在各种问题。那么接下来作为在Flink CDC Oracle踩过坑的用户之一,分享下Flink CDC对Oracle RAC架构CDB+PDB模式的实时数据同步之Oracle端怎么配置。Fli

#oracle#flink#大数据
常用的AI工具集锦-辅助编程,办公工具,图像生成,内容检测,AI Agent

金灵是一款专门为金融领域设计的AI Agent产品,学习了大量的金融专业知识,能够熟练使用各种金融工具,例如使用代码生成能力根据金融数据进行计算和分析,支持绘制金融分析图表等。由阿里云提供的智能编码辅助工具,提供代码智能生成、智能问答、多文件修改、编程智能体等能力,为开发者带来高效、流畅的编码体验,引领 AI 原生研发新范式。无论你是否有编程基础,都可以在扣子上快速搭建基于大模型的各类AI应用,并

#人工智能#AI
大数据常用技术栈

提起大数据,不得不提由IBM提出的关于大数据的5V特点:Volume(大量)、Velocity(高速)、Variety(多样)、Value(低价值密度)、Veracity(真实性),而对于大数据领域的从业人员的日常工作也与这5V密切相关。大数据技术在过去的几十年中取得非常迅速的发展,尤以Hadoop和Spark最为突出,已构建起庞大的技术生态体系圈。首先通过一张图来了解一下目前大数据领域常用的一.

#大数据
【大数据学习与分享】技术干货合集

【大数据学习与分享】主要是做什么的?【大数据学习与分享】主要专注于大数据领域常用的技术,如Spark、Hadoop、Hive、HBase、Kafka、Zookeeper等技术的使用、实战技巧、源码解读,语言主要以Java和Scala为主,保证文章质量,为大家提供一个优质的大数据学习与分享平台。同时也会涉及到目前市场上已经开源的并且在企业中已得到实际应用的基于这些技术进行“封装”的一些技术。但是专注

#大数据#编程语言#hadoop +1
    共 12 条
  • 1
  • 2
  • 请选择