logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

具身智能概述、模拟平台以及应用

具身智能仿真平台对于具身智能至关重要,因为它们提供了成本效益高的实验手段,能够通过模拟潜在危险场景来确保安全,具有在多样环境中进行测试的可扩展性,快速的原型设计能力,能够为更广泛的研究群体提供便利,提供用于精确研究的可控环境,生成用于训练和评估数据,并提供算法比较的标准化基准。Habitat 平台包括 Habitat-Sim 和 Habitat-API 两个主要组成部分,前者是一个高性能的 3D

#人工智能
探秘 LEGENT:开启具身智能新时代的数字孪生平台

在模拟环境中,环境信息是已知的,大语言模型和控制算法可以分别完成任务规划和运动规划的功能。生成的具体流程是先确定轮廓和房间布局,再放置地面大型物体,最后在大型物体上放置小物体,这个过程主要利用标注的物体出现、组合、摆放的先验知识,比如。LEGENT平台支持大规模生成可直接用于训练具身智能体的轨迹数据,这种轨迹数据由一系列连续的第一人称视角观察和对应的执行行动组成,即观察-行动序列。通过这种方式,可

文章图片
#人工智能#nlp#语言模型 +1
github私有仓库部署实践记录

摘要: 在多服务器部署GitHub项目时,为每台服务器生成独立的SSH密钥(而非共享本地密钥或使用HTTPS+Token)是更安全高效的做法。HTTPS方式易受TLS兼容性问题影响,而SSH结合GitHub的DeployKey机制可实现仓库级权限控制,避免单点泄露风险。操作步骤包括:在目标服务器生成密钥、添加为DeployKey、配置SSH客户端并设置严格文件权限。每台服务器的独立密钥支持精准权限

文章图片
#github#python
蛋白质大模型论文:《SaProt: Protein Language Modeling with Structure-aware Vocabulary》

大规模蛋白质语言模型(PLM),例如ESM系列,通过对残基序列进行无监督训练,在与蛋白质结构和功能相关的各种下游任务中取得了显着的性能。它们已成为生物学研究人员和实践者的重要工具。然而,

文章图片
#语言模型#人工智能#自然语言处理
一文了解大模型微调与对齐

🌟大模型微调与对齐技术解析🌟 本文系统介绍了大模型的两大核心技术: 1️⃣微调(Fine-tuning)- 让模型掌握新技能 全参数/参数高效/指令微调三种方式 LoRA、Adapter等轻量化方案受青睐 2️⃣对齐(Alignment)- 确保模型输出安全可靠 主流方法:RLHF、DPO及其变体 目标:符合人类价值观,避免有害输出 📌核心区别: 微调=提升任务能力 对齐=规范输出行为 💡

文章图片
#人工智能
一文了解大模型压缩与部署

大模型压缩与部署关键技术 针对大模型(如Qwen-72B)部署难题,核心解决方案包括: 1️⃣ 量化技术:INT4/AWQ量化可减少75%显存,速度提升3倍,性能损失<2%,适配边缘设备; 2️⃣ 知识蒸馏:将7B模型压缩至1.8B,速度提升4倍,适合手机端专用场景; 3️⃣ MoE架构:如Mixtral 8x7B仅激活部分专家,实现"万亿参数、十亿计算"; 4️⃣ 高效部署:

文章图片
#人工智能#机器学习#深度学习
RMSNorm 是什么?为什么大模型都在用它?

摘要: RMSNorm是LayerNorm的轻量级变体,通过省去均值计算(仅保留均方根归一化),在大语言模型(LLM)中广泛替代LayerNorm。其优势包括:1)计算更快,训练速度提升5%-8%;2)显存占用更少,支持更大batch;3)在LLM任务中性能相当甚至更优(如LLaMA实测效果)。RMSNorm契合LLM输入分布稳定的特性,成为高效训练的“标配”,但传统CV任务仍需谨慎使用。代码实现

文章图片
#人工智能#语言模型#自然语言处理
一文了解大模型分词技术

需求推荐方案纯英文任务BPE 或 WordPiece中文或中英混合✅兼容性要求高SentencePiece(通用性强)复现 BERTWordPiece复现 GPTBPE 或 Byte-level BPE大模型训练✅SentencePiece 是主流选择分词是大模型的“第一道门”。token 数量更少 → 训练更快语义单元更合理 → 模型理解更好支持多语言 → 应用更广。

文章图片
#人工智能#自然语言处理#语言模型
大模型推理全解析:从你提问到它回答,中间到底发生了什么?

大模型推理全过程解析:从输入到输出的智能生成之旅。当用户提问时,模型首先将文本分词并转换为向量表示,通过Transformer层进行语义理解。生成答案时采用自回归方式逐字输出,借助KVCache机制缓存中间计算结果,大幅提升推理效率。现代大模型通过预训练海量数据、指令微调以及优化的注意力机制(如RoPE位置编码和稀疏注意力),实现了长上下文记忆和流畅的对话能力。未来发展方向包括无限上下文支持、显存

文章图片
#自然语言处理#人工智能#语言模型
大模型开发入门指南:从零到构建系统的完整工具链(附学习路径)

本文系统梳理了大模型开发的完整工具链,提供从入门到进阶的学习路径。核心内容包括:1)基础必备的HuggingFace生态圈(Transformers/Datasets);2)高效微调工具PEFT+LLaMA-Factory;3)应用开发框架LangChain/LlamaIndex;4)高性能推理部署方案vLLM/TGI。针对不同需求推荐学习重点:研究者侧重模型微调,开发者优先掌握应用构建。文章强调

文章图片
#人工智能#自然语言处理#语言模型
    共 51 条
  • 1
  • 2
  • 3
  • 6
  • 请选择