- @Eternity__Aurora
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
FlashMLA是DeepSeek专为H架构的GPU设计的的高效MLA解码内核，优化了可变长度序列的多头潜在注意力机制。官方开源代码链接：https://github.com/deepseek-ai/FlashMLA
DeepGEMM 是一个专为 NVIDIA Hopper 架构设计的高效 FP8 矩阵乘法库，支持普通和混合专家模型（MoE）分组矩阵乘法，通过简洁的实现和即时编译技术，实现了高性能和易用性。官方开源代码链接：https://github.com/deepseek-ai/DeepGEMM
DualPipe 是一种创新的双向流水线并行算法。它通过在流水线的两端同时注入微批次，实现了前向和反向传播的完全重叠，从而大幅减少了流水线空闲时间（Pipeline Bubble），显著提高了计算资源的利用率。EPLB（Expert Parallelism Load Balancer）则是一种专家并行负载均衡算法。通过冗余专家策略和分组限制专家路由，优化了专家并行（EP）中的负载分配，确保不同 G
DeepEP 是由DeepSeek专为Mixture-of-Experts (MoE) 和专家并行 (Expert Parallelism, EP)设计的高效通信库。它提供了高吞吐量和低延迟的全对全（all-to-all）GPU内核，这些内核也被称为MoE分发（dispatch）和合并（combine）。该库还支持低精度操作，包括FP8。官方开源代码链接：https://github.com/de
LLaVA 是一种大型多模态模型，通过指令微调将视觉编码器与大型语言模型（LLM）相结合，显著提升了视觉和语言任务的性能，尤其在多模态对话和指令遵循方面表现出色。
LLaVA 是一种大型多模态模型，通过指令微调将视觉编码器与大型语言模型（LLM）相结合，显著提升了视觉和语言任务的性能，尤其在多模态对话和指令遵循方面表现出色。
随着大语言模型在多步推理任务中的能力不断提升，Chain-of-Thought（CoT）推理已成为分析与改进模型行为的重要工具。然而，相比推理方法本身，如何可靠地评估模型生成的推理过程这一问题长期缺乏统一答案。本文系统梳理了 CoT 推理评估方法的发展脉络，重点总结近年来代表性的无参考评估指标与基准，并进一步讨论不同自动评估方法与人类判断之间的一致性问题。
LLaVA 是一种大型多模态模型，通过指令微调将视觉编码器与大型语言模型（LLM）相结合，显著提升了视觉和语言任务的性能，尤其在多模态对话和指令遵循方面表现出色。
SAM 2是一个能够处理图像和视频的统一模型，通过提示驱动的分割任务和流式记忆机制，在视频分割中减少交互次数并提高准确性，同时在图像分割中显著提升速度和精度。
FlashMLA是DeepSeek专为H架构的GPU设计的的高效MLA解码内核，优化了可变长度序列的多头潜在注意力机制。官方开源代码链接：https://github.com/deepseek-ai/FlashMLA