
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
从d2l-zh到nanoGPT:两阶段吃透Transformer。先跟d2l-zh敲完注意力机制,再用nanoGPT跑通训练并生成莎士比亚风格文本。走完这步你能手写简化版GPT,理解token、embedding、attention的真正含义。

本文介绍了如何使用单张显卡(如RTX 3060)微调7B大模型的全流程,重点包括: 微调原理:利用预训练基座模型,通过LoRA/QLoRA技术仅更新少量参数,使模型适配特定任务,大幅降低计算需求。 硬件要求:最低RTX 3060(12GB显存)可QLoRA微调7B模型,推荐RTX 4090(16GB+)获得更好效果。

本文介绍了如何使用单张显卡(如RTX 3060)微调7B大模型的全流程,重点包括: 微调原理:利用预训练基座模型,通过LoRA/QLoRA技术仅更新少量参数,使模型适配特定任务,大幅降低计算需求。 硬件要求:最低RTX 3060(12GB显存)可QLoRA微调7B模型,推荐RTX 4090(16GB+)获得更好效果。

本文介绍了如何从零搭建一个检索增强生成(RAG)系统,让大模型能够基于用户提供的私人文档回答问题。RAG的核心流程包括:文档分块、向量化存储、检索相似文档块,并将相关内容拼接到提示词中供大模型生成回答。文章提供了不到40行的核心代码实现,使用SentenceTransformer进行文本嵌入,ChromaDB作为向量数据库。关键优化点包括分块策略、嵌入模型选择、检索数量控制等,并推荐使用Ragas

30分钟搭好AI学习环境:装Python 3.11+ → 装Ollama跑通qwen2.5:7b模型 → 克隆d2l-zh教科书 → 配好VS Code插件。三件事做完,你就有了一套可用的AI学习基础设施。








