logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

多模态大模型串讲--BLIP2、LLaVA、Qwen-VL,tokenizer是什么、如何训练的及其作用

本文系统梳理了多模态大模型(MLLM)的核心技术架构与发展趋势。首先详细解析了Tokenizer的工作原理,包括文本和图像的分词方法(如BPE、ViT、VQ-VAE),并比较了不同模态的统一tokenization实现。随后重点分析了BLIP、BLIP-2、LLaVA等代表性视觉语言模型的技术特点:BLIP通过多模态混合架构统一理解与生成任务;BLIP-2创新性地采用轻量级Q-Former桥接冻结

文章图片
#人工智能#论文阅读
深度学习常用 Linux + tmux + conda + GPU + 网络/系统检查 指令总表

本文系统整理了深度学习研发在 Linux 服务器上最常用的指令与工具,共分为十一大类,涵盖从文件系统操作、环境管理、GPU 查询、tmux 会话管理,到网络诊断、系统监控、编辑器使用等几乎所有日常开发场景。无论你是在远程服务器中训练模型、排查 GPU 问题、管理 conda 环境、维护后台进程,还是编辑配置文件、监测网络状态,这篇速查手册都能作为你随时可查的工具合集。同时,文章用简洁的“指令用法

文章图片
#linux#深度学习#conda +1
论文精读--《Training LMs to follow instructions with human feedback》--InstructGPT:大模型SFT+RLFH(PPO)详解,含代码

原文介绍了一种通过人类反馈微调(RLHF)来对齐大型语言模型与用户意图的方法。先通过监督学习微调模型(SFT),再训练奖励模型(RM)预测人类偏好,最后用强化学习(PPO)优化模型。实验表明,1.3B参数的InstructGPT模型输出比175B的GPT-3更受人类偏好,且在真实性、毒性方面有所改善。该方法能以较低成本显著提升模型的有用性和安全性,但仍存在过度服从指令、编造事实等问题。研究证明人类

文章图片
#人工智能#论文阅读
Docker学习笔记--作用,安装,Dockerfile,运行,DockerCompose,停止服务,删除,常用指令和使用 Portainer 管理

本文结合实习中 Docker 的学习经历,系统梳理了 Docker 的基本概念、安装及 Windows 与 Linux 环境下的使用差异,并介绍了从编写 requirements.txt、Dockerfile 和 .dockerignore,到执行 build、run、查看日志、进入容器、停止与删除容器的完整流程。同时总结了镜像、容器、端口映射、目录挂载、数据卷、网络、环境变量和清理命令等常用操作

文章图片
#docker#容器
大模型应用开发--Agent笔记1(定义,ReAct、Plan-and-execute范式,Coze、Dify低代码平台,LangChain、LlamaIndex、AutoGen框架,评估,含代码)

本文基于datawhale的Hello-Agents开源项目及其他大模型开发资料整理而成。内容分为四个部分: 智能体基础概念、智能体构建范式、智能体框架比较和智能体性能评估。笔记重点分析了不同范式的优缺点,并通过实际代码示例展示了各框架的具体实现方式。作者将持续更新学习内容,深入探索智能体开发的实践应用。

文章图片
大模型应用开发--Agent笔记2(记忆与检索,上下文工程,MCP等通信协议,Skills,Harness,Loop Engineering,含面试常见问题和代码)

本文基于datawhale的Hello-Agents开源项目及其他大模型开发资料整理而成。内容分为八个部分:记忆系统、上下文工程、通信协议、RL、Skills、Harness、Loop Engineering和常见面试问题。系统性地总结了智能体开发的关键技术和方法,并配合实战案例,适合开发者从理论到实践全面学习。

文章图片
#MCP
大模型应用开发--Agent笔记1(定义,ReAct、Plan-and-execute范式,Coze、Dify低代码平台,LangChain、LlamaIndex、AutoGen框架,评估,含代码)

Datawhale Hello-Agents学习笔记,记录了核心概念、可运行的demo和结果、思考。适合入门AI Agent开发。

文章图片
#MCP
大模型应用开发--Agent笔记1(定义,ReAct、Plan-and-execute范式,Coze、Dify低代码平台,LangChain、LlamaIndex、AutoGen框架,评估,含代码)

Datawhale Hello-Agents学习笔记,记录了核心概念、可运行的demo和结果、思考。适合入门AI Agent开发。

文章图片
#MCP
论文串读--OpenAI-GPT系列1.2.3.4--大语言模型标准架构和预训练流程

本文系统梳理了GPT系列模型的技术演进路线,从GPT-1到GPT-4的核心技术始终基于Decoder-only Transformer架构。GPT-1首创无监督预训练+微调范式,通过任务特定输入表示实现迁移学习;GPT-2转向纯预训练,探索zero-shot能力;GPT-3突破性地提出few-shot上下文学习,利用1750亿参数实现元学习;GPT-4则实现多模态突破,通过RLHF提升对齐能力。

文章图片
#人工智能
Docker学习笔记--作用,安装,Dockerfile,运行,DockerCompose,停止服务,删除,常用指令和使用 Portainer 管理

本文结合实习中 Docker 的学习经历,系统梳理了 Docker 的基本概念、安装及 Windows 与 Linux 环境下的使用差异,并介绍了从编写 requirements.txt、Dockerfile 和 .dockerignore,到执行 build、run、查看日志、进入容器、停止与删除容器的完整流程。同时总结了镜像、容器、端口映射、目录挂载、数据卷、网络、环境变量和清理命令等常用操作

文章图片
#docker#容器
    共 100 条
  • 1
  • 2
  • 3
  • 10
  • 请选择