面试大模型需要掌握的技术
·
下面是面试大模型需要了解的一些技术
⚫ 多维数据工程：主导 LLM 自动化数据抽取、分类与知识图谱构建；应用数据合成技术填补垂直领域数据空白，增强模型泛化能力。
⚫ 模型训练与 RAG 优化：负责大模型微调训练；结合 LangChain 与向量数据库（PGVector）优化RAG 检索链路，集成 OCR 异步并发处理，实现私有知识库的高精度问答。
⚫ 前沿 AI 应用开发：独立开发支持内外链联动的 DeepResearch 及内置多级模板的 Paper2Blog，支持自动生成专业图表与万字可追溯报告。
⚫ 大语言模型优化与服务封装：应用 AWQ/GGUF 量化技术优化模型推理性能，显著降低显存占用；实现兼容 OpenAI 协议的标准 API 封装，支撑多端业务高并发调用。
⚫ 环境部署与算力优化：负责 H800 服务器以及 4090 服务器环境及 Docker 服务化部署。
⚫ 技术栈：Cloud 微服务、OCR、LangChain、ES、Minio、Redis、PGVector、量化加速、RAG。
更多推荐
0
0- 0
已为社区贡献2条内容
所有评论(0)