logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Spark内容分享(三十):Firestorm - 腾讯自研Remote Shuffle Service在Spark云原生场景的实践

将耗时最长的Stage展开,进一步看下具体的耗时比对,先看下Shuffle Read的耗时,由于原生Spark Shuffle需要从各个Executor上拉取数据,涉及到大量的网络开销以及磁盘的随机IO,耗时非常长,甚至达到了2分钟,而Remote Shuffle Service由于读取时降低了网络开销,且读取的是整块Shuffle数据,所以耗时短且较为稳定。这种shuffle方式多用于类MR的框

文章图片
#spark#云原生#大数据
JAVA面试小结四十三:Elasticsearch与关系型数据库对比

不同之处在于索引中的每个文档可以具有不同的结构(字段),但是对于通用字段应该具有相同的数据类型。群集是一个或多个节点(服务器)的集合,它们共同保存您的整个数据,并提供跨所有节点的联合索引和搜索功能。此名称很重要,因为如果节点设置为按名称加入群集,则该节点只能是群集的一部分。这种索引表中的每一项都包括一个属性值和具有该属性值的各记录的地址。一个ES集群可以包含多个索引(数据库),每个索引又包含了很多

文章图片
#elasticsearch#数据库#大数据
Flink 内容分享(二十一):通过Flink CDC一键整库同步MongoDB到Paimon

通过上面的操作你感受到了吗,通过 Paimon CDC 的入湖程序可以让你全自动的同步业务数据库到 Paimon 里,数据、Schema Evolution、新增表,全部被自动完成,你只用管好这一个 Flink 作业即可。这套入湖程序已经被部署到各行各业,各个公司里,给业务数据带来非常方便的镜像到湖存储里面的能力。上图是使用 Paimon CDC 工具来同步数据,可以看到,当源表发生列的新增后,流

文章图片
#flink#mongodb#大数据
AIGC内容分享(四十):生成式人工智能(AIGC)应用进展浅析

生成式人工智能(AIGC, Artificial Intelligence Generated Content)是指基于生成对抗网络、大型预训练模型等人工智能的技术方法,通过已有数据的学习和识别,以适当的泛化能力生成相关内容的技术。AIGC技术的核心思想是利用人工智能算法生成具有一定创意和质量的内容。通过训练模型和大量数据的学习,AIGC可以根据输入的条件或指令,生成与之相关的内容。

文章图片
#AIGC#人工智能
AI 内容分享(一):人工智能技术概述

人工智能 (AI),数字计算机或计算机控制的机器人执行通常与智能生物相关的任务的能力。该术语经常用于开发具有人类智力过程特征的系统的项目,例如推理、发现意义、概括或从过去的经验中学习的能力。自 1940 年代数字计算机发展以来,已经证明可以对计算机进行编程以非常熟练地执行非常复杂的任务,例如发现数学定理的证明或下棋。尽管如此,尽管计算机处理速度和内存容量不断进步,但目前还没有程序可以在更广泛的领域

文章图片
#人工智能
AIGC内容分享(三十):推荐四本人工智能和AIGC相关的书籍

因此,我们需要继续探索和完善AI创意的技术和应用,以更好地服务于人类社会的发展和进步。《人工智能革命》是一本介绍人工智能领域的优秀书籍,它不仅详细讲解了人工智能的基本原理和技术,而且探讨了人工智能的伦理和社会影响,提出了一些有价值的观点和建议。此外,作者还强调了人工智能的伦理和社会影响,提出了一些值得思考的问题,比如人工智能是否会取代人类工作、如何保障人工智能的安全性和隐私保护等。本书中介绍的生成

文章图片
#AIGC#人工智能
JAVA面试题分享五十九:JVM 中的三色标记法是什么?

GC 垃圾回收器其主要的目的是为了实现内存的回收,在这个过程中主要的两个步骤就是:内存标记,内存回收。三色标记法,主要是为了高效的标记可被回收的内存块。白色:表示对象尚未被垃圾收集器访问过。显然在可达性分析刚刚开始的阶段,所有的对象都是白色的,若在分析结束的阶段,仍然是白色的对象,即代表不可达。黑色:表示对象已经被垃圾收集器访问过,且这个对象的所有引用都已经扫描过。黑色的对象代 表已经扫描过,它是

文章图片
#java#jvm#面试
大模型内容分享(十四):大模型产品经理高频面试题

OpenAI的语言类大模型主要有GPT系列,包括GPT-1、GPT-2、GPT-3、GPT-3.5和GPT-4。最简单的提示工程方法就是通过输入一些类似问题和问题答案,让模型参考学习,并在同一个prompt的末尾提出新的问题,zero-shot可以理解为:不给大模型任何的提示,直接提问,让大模型自己做决策。我还剩下多少个苹果?,即根据任务的难度和复杂度,选择一个适合生成代码的人工智能模型,例如GP

文章图片
设计模式内容分享(二十):中介者模式

中介者是迪米特法则的一个典型应用,通过引入中介者对象,可以将系统的【网状结构】变成以中介者为中心的【星形结构】,中介者承担了中转作用和协调作用,简化了对象之间的交互,还可以进一步的控制组件类之间的交互。

文章图片
#设计模式#中介者模式
Hive内容分享(十一):Hive数据迁移

在数据量不大的情况下,Hive迁移一般常用的方式是使用Export、Import进行数据和元数据的导出导入,Export会将数据和元数据写到一起,并且元数据在恢复时是直接关联数据的,不需要再做其他的操作。一般在企业进行数据库改造、历史数据库区域创建、业务条线改造等,或是数据库出现瓶颈的情况下,会进行部分数据迁移,那么此时Hive迁移建议使用表和数据分步迁移的方式进行迁移。Hive的数据迁移其实有多

文章图片
#hive#hadoop#数据仓库
    共 94 条
  • 1
  • 2
  • 3
  • 10
  • 请选择