logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

PPO:强化学习中的近端策略优化——原理、演进与大规模应用实践

是由OpenAI团队于2017年提出的,通过约束策略更新幅度,解决了传统策略梯度方法训练不稳定、易发散的核心问题。该算法兼具的稳定性与一阶优化的简洁性,已成为深度强化学习(DRL)和大语言模型对齐(RLHF)的。

文章图片
#人工智能#深度学习#算法
大语言模型强化学习中的熵崩溃现象:机制、影响与解决方案

具体来说,研究者计算每个token的协方差,然后随机选择r·N个协方差在预设范围[ωlow, ωhigh]内的token(r为裁剪比例,N为总token数),将这些token从策略梯度更新中排除。这种熵崩溃现象在不同规模的大语言模型中都存在,包括从0.5B到32B参数规模的模型,以及不同模型家族(Qwen2.5、Mistral、LLaMA)和不同任务(数学和编程)。"的局部最优策略,从而停止尝试新

文章图片
#语言模型#人工智能#自然语言处理
汉明距离:度量差异的基石与AI应用

汉明距离以其数学上的优雅和计算上的高效,成为了连接离散数学、计算机科学和人工智能的重要桥梁。从保障数据可靠传输的纠错码,到支撑海量数据快速检索的哈希技术,再到新兴的二值化神经网络模型,其身影无处不在。作为最基础的差异度量之一,理解汉明距离不仅有助于我们把握诸多经典算法的核心,更能为设计和理解现代高效AI系统提供关键视角。在追求更高计算效率和更智能算法的道路上,这把经典的“卡尺”依然锋利无比。⚙️本

文章图片
#人工智能#机器学习
DeepSeek-Coder:开源代码大模型的架构演进与技术突破

DeepSeek-Coder系列模型作为这一领域的杰出代表,自开源发布以来,凭借其在专业基准测试中的卓越性能和极具包容性的开源协议,迅速成为学术界和工业界关注的焦点。通过融合创新的模型架构(如稀疏混合专家SMoE)与前沿的训练范式(如代码思维链提炼),该系列模型正重新定义AI辅助编程的边界,推动软件开发从“手动编写”向“智能协同”的范式转变。则采用236B参数的稀疏混合专家(SMoE)架构,在保持

文章图片
#人工智能#机器学习#DeepSeek
告别 Java 风格代码:使用 openapi-python-client 生成原生 Pythonic 的企业级 SDK

通过配合整理好的 OpenAPI 文档,就可以直接得到一个90% 完成度的高质量 SDK。只需要补充剩下的 10%(主要是鉴权签名的封装),即可达到企业交付标准。本文由「大千AI助手」原创发布,专注用真话讲AI,回归技术本质。拒绝神话或妖魔化。搜索「大千AI助手」关注我,一起撕掉过度包装,学习真实的AI技术!

文章图片
#java#python#开发语言
一文看懂openapi-python-client生成的SDK和openai-python库的风格差异

两者在(都支持同步/异步、都基于强类型模型、都对 IDE 友好)上是非常相似的。但在上,OpenAI 的官方 SDK(v1.0+ 版本,由 Stainless 引擎生成)属于“豪华精装修版”,而生成的代码属于“实用毛坯版”或“标准工业版”。

文章图片
#python#机器学习#人工智能
SantaCoder:专注于代码生成的轻量级高效大语言模型

SantaCoder作为一个高效、专注的代码生成模型,在人工智能辅助编程的发展历程中占据着独特地位。它证明了模型的专业化设计和训练目标的创新,是弥补参数量差距、实现高性能与高效率平衡的有效路径。它的成功也为后续研究指明了方向,例如如何在模型中更有效地整合仓库级别的上下文信息,以及如何通过课程学习策略进一步提升模型处理复杂代码模式的能力。SantaCoder的开源及其采用的OpenRAIL许可证,不

文章图片
#语言模型#人工智能#自然语言处理 +1
DeepSeek V3.2 技术解读:一次不靠“堆参数”的模型升级

在不牺牲推理能力的前提下,大幅提升长上下文与 Agent 场景下的计算效率与泛化能力。:一种可训练、硬件友好的稀疏注意力机制;可扩展的强化学习(RL)后训练框架:以 GRPO 为核心,支持大规模推理能力放大;面向工具调用的 Agentic 任务合成与思考管理机制:将“思考(thinking)”稳定地嵌入工具使用流程。这些设计共同使 DeepSeek-V3.2 在多个推理与 Agent 基准上达到或

文章图片
#人工智能#机器学习#DeepSeek
DeepSeek V3.2 到底有多强?一文看懂各大测试基准与真实水平

DeepSeek V3.2 及其加强变体 V3.2-Speciale 在多个权威评测基准中表现稳健,涵盖:✅数学推理基准(AIME、HMMT、IMO):DeepSeek-Speciale 在高级数学推理上表现甚至超过部分领先闭源模型。✅编程与代码生成:在 Codeforces 和 LiveCodeBench 等综合编程测试中达到了大师级水平。✅Agentic 任务能力:在多轮思考 + 工具调用场景

文章图片
#人工智能#机器学习#语言模型 +1
别让你的数据写串了!Python 多进程文件锁 FileLock 避坑指南

如果你只是简单地用写入,在高并发环境下,你的数据可能会发生“踩踏事件”:内容交织、数据丢失,甚至导致文件损坏。今天,我们就来聊聊如何在 Python 中优雅地使用文件锁(FileLock),确保多进程环境下的数据安全。

文章图片
#python
    共 289 条
  • 1
  • 2
  • 3
  • 29
  • 请选择