logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Qwen32B 全量微调和LoRA显存占用对比

Qwen2.5-32B 全量微调:硬件门槛极高,适合有大规模集群、追求极限性能的场景。Qwen2.5-32B + LoRA 微调:硬件门槛适中,适合资源有限的情况。在效果与全量微调非常接近的情况下,显存需求降至1/4,是微调 32B 级别模型的首选方案。

文章图片
#分布式#transformer
Claude Code如何使用?

安装 Git(可选)安装 Node安装 Claude Code。

文章图片
#人工智能
在调用大模型时,确保输出结果可复现、稳定一致的关键

在调用大模型时,固定随机数种子是确保输出结果可复现、稳定一致的关键操作。这通常需要从三个层面协同设置:模型调用参数、推理框架环境和底层计算库。

文章图片
#人工智能
Qwen‑VLM

组件作用视觉编码器将图像转成视觉向量文本编码将文字转成语言向量融合层/投影将视觉向量映射进语言空间Transformer(交叉注意力)实现文字与视觉之间的信息交互联合预训练让模型学会图文之间的深层联系通过这种组合,Qwen‑VLM 能够在同一个 Transformer 内部处理和融合视觉与语言信息,实现联合理解与生成。

文章图片
#人工智能
在 AutoDL 容器内安装 PostgreSQL + pgvector

编译它需要 PostgreSQL 的开发环境(pg_config工具),但 AutoDL 容器默认没有安装 PostgreSQL。

文章图片
#postgresql#数据库
Neo4j 可视化工具和产品

和。Neo4j 浏览器是面向开发人员的工具,允许开发人员执行Cypher查询并可视化结果,它是Neo4j数据库的企业版和社区版的默认开发人员界面。Neo4j Bloom是一种商业许可的产品,允许用户使用自然语言浏览其图数据。我们将在这里简要讨论每个关键细节。如上所述,Neo4j浏览器是现成的,具有Neo4j的所有图数据库产品,包括Neo4j Server(社区版和企业版)和Neo4j Deskto

文章图片
#neo4j
Neo4j CQL 核心命令与操作

MATCH (n:`西游`) RETURN id(n), n.name, n.tail, n.relation。MATCH (n:`西游`) RETURN n LIMIT 2-- 前两行。WHERE n.name = '孙悟空' OR n.name = '猪八戒'MATCH (n:person {name:"沙僧"})<-[r]-(m)MATCH (n:`西游`) RETURN n LIMIT 2

文章图片
#neo4j#数据库
LangChain 中少样本提示(Few-shot Prompting)

少样本提示(Few-shot Prompting)是一种通过在提示中提供少量“输入-输出”示例(即“few-shot examples”),来引导大语言模型(LLM)按照指定风格或逻辑回答新问题的技术。特性(文本)(聊天)适用模型OllamaLLMOpenAI非聊天接口ChatOllamaChatOpenAI输入类型str格式化方法.format()示例格式是否支持角色不支持支持 system/h

文章图片
LangChain 框架-长期记忆能力

特性Redis 示例MySQL 示例存储类型内存数据库(快速读写)关系型数据库(结构化、持久)适用场景缓存、实时性强的应用需要事务、备份、审计的场景部署要求安装 Redis 服务安装 MySQL 并配置权限扩展性易于集群扩展支持主从复制、分库分表数据结构简单键值对表格形式,支持 JOIN 查询自动建表❌✅(首次运行时自动创建)通过结合或,可以在 LangChain 中轻松实现基于会话的长期记忆功能

文章图片
LangChain 框架-短期记忆能力

是 LangChain 中实现短期对话记忆的最简单方式,适用于单次会话内的上下文保持。只需几行代码,就能让 AI 记住你说过的话!控制历史长度→ 用节省 token→ 用多用户持久化→ 用。

文章图片
    共 71 条
  • 1
  • 2
  • 3
  • 8
  • 请选择