logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

高并发架构下的 Kafka 与消息队列核心机制

最多一次 (At most once):对于消息丢失不敏感的场景。最少一次 (At least once):对于消息丢失敏感的场景,但可能产生重复消息。精确一次 (Exactly once):消息既不会丢失也不会重复,适用于对可靠性要求极高的场景。

#kafka#分布式
XDU 机器学习:无线电信号调制识别作业

RML2016.10a是由RadioML实验室发布的开源调制识别数据集,广泛用于评估调制识别算法性能,是该领域的基准数据集之一。本文基于RML2016.10a数据集,设计了一种增强型双分支CNN模型用于无线电信号调制识别,通过融合时频特征、引入注意力机制和数据增强策略,有效提升了识别性能。引入Transformer结构捕获长距离时序依赖结合元学习提升低样本、低信噪比场景的性能扩展多任务学习,同时实

#机器学习
从 Karpathy 手写 BPE 到 CS336 `train_bpe` 作业实现

这篇文章详细介绍了BPE(Byte Pair Encoding)分词器的实现过程,主要分为两个阶段: 核心BPE算法实现:基于Karpathy的讲解,实现了基础的BPE训练逻辑,包括统计相邻token对频率(get_stats)、合并最高频token对(merge)以及训练循环。 作业要求适配:根据CS336作业要求进行了多项改进: 支持特殊token处理 使用GPT-2风格的正则表达式进行预分词

#人工智能#自然语言处理#机器学习 +1
CS336,作业一,GPT-2 XL Transformer 资源开销分析

本文分析了GPT-2 XL模型的资源开销。计算显示该模型约有1.56B参数,FP32存储需要6.24GB内存。在1024上下文长度下,前向传播总计3.52 TFLOPs,其中SwiGLU FFN占比最高(57.53%)。随着模型规模扩大,FFN占比上升;当上下文增至16384时,总算力增长38倍,attention的二次计算成为主要瓶颈(占比61.73%)。研究表明,模型扩容时计算瓶颈会从FFN转

#transformer#深度学习
Transformer 训练资源估算:以 CS336 GPT-2 XL 配置为例

本文以CS336作业中的GPT-2 XL配置为例,详细估算了Transformer训练过程中显存、FLOPs和训练时间的消耗。模型参数约为1.64B,显存需求主要包括模型参数(6.562GB)、梯度(6.562GB)、优化器状态(13.123GB)和激活值(约16.489B GB,B为batch size)。80GB显存下最大batch size为3,实际建议使用2以保证稳定性。FLOPs计算涵盖

#人工智能#自然语言处理#机器学习 +2
Agent 记忆力机制设计学习路线:从主流项目中学习

适合理解如何评测记忆。LOCOMO:多会话对话记忆。LongMemEval:长期记忆问答。BEAM:更大规模真实记忆检索。ingest → search → answer → judge:评测流水线。top-k cutoff:检索窗口大小如何影响答案。retrieval audit:要看系统到底检索到了什么。的价值在于:它告诉你,不能只说“这个系统记忆更好”,必须拆成写入、检索、生成、裁判四个环节

#学习
深入理解 JVM 与 Linux 内存:区域划分、分配机制与交互全过程

JVM 运行时数据区严格遵循《Java 虚拟机规范》,同时在 HotSpot + Linux 环境下有具体实现差异,并非所有内存区域都受 JVM 自身管控。权责划分:JVM 管“用户空间的内存划分与堆内回收”,Linux 管“底层物理内存分配、Swap 调度、内核内存管理”,二者分工明确,缺一不可。关键认知:-Xmx 只是 Java 堆的上限,JVM 进程总内存 = Java 堆 + 线程栈 +

#jvm#linux#运维
Redis 事务深度总结与技术选型指南

Redis 事务是一套以性能为优先、将逻辑正确性责任上交给开发者的轻量级批处理机制;而 Lua 脚本则是 Redis 提供的一种“存储过程”,用于在单线程模型下实现强原子性的复杂逻辑。优秀的架构设计不在于强行要求 Redis 提供类似 MySQL 的回滚能力,而在于利用其极速的内存操作特性,在应用侧做好状态机的流转与补偿。

#redis#数据库#缓存
Redis 与 MySQL 的持久化机制的 Tradeoff:性能 Or 安全

维度Redis设计核心严谨的 ACID 保障,金融级安全极致的内存访问速度,亚毫秒延迟持久化载体Redo Log (物理) + Binlog (逻辑) + 脏页RDB (二进制快照) + AOF (命令级逻辑日志)触发机制强绑定事务生命周期 (WAL 预写)时间驱动 (RDB) 或命令后置异步追加 (AOF)一致性保障两阶段提交 (2PC) 保障跨日志一致性依赖于主线程单线程顺序执行,无需 2PC

#redis#mysql#安全
告别浮点数陷阱:Java 高精度金额计算方案对比

优先无脑选择BigDecimal:对于 95% 以上的常规系统(如银行核心网关、电商订单支付、ERP 财务报表、ERP 进销存),数据的准确性和代码的可维护性远远大于那微不足道的性能损耗。请毫不犹豫地使用BigDecimal,并在数据库对应使用类型。在极限性能下退化为long:如果你正在开发的是量化高频交易引擎实时广告竞价系统 (RTB)或者区块链底层计算虚拟机。在这些场景中,每秒可能需要处理数千

#java#开发语言
    共 43 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择