logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大数据:Kappa架构

Kappa架构是一种简化的大数据处理架构,由Jay Kreps提出,旨在解决Lambda架构的复杂性。其核心思想是"所有数据都是流,批处理只是流的一个特例",通过单一流处理引擎处理实时和历史数据。主要组件包括:1)支持数据重放的消息队列(如Kafka);2)流处理引擎(如Flink);3)服务层存储计算结果。当业务逻辑变更时,Kappa架构通过数据重放机制重新处理历史数据,无需

#大数据
大模型:阶段简介

这是最耗时、耗资最巨大的阶段,目标是赋予模型通用的语言理解和世界知识。让模型的理解与人类的偏好、价值观和安全准则对齐。此阶段让“通才”基座模型变成“专才”助手。

大模型:监督微调(SFT)

监督微调(SFT)是将预训练大模型适配到具体任务的关键技术。其核心工作流程包括:数据构建(人工撰写、模型合成等)、格式化处理、训练执行(全参数微调或参数高效方法如LoRA/QLoRA)及评估部署。主流技术包括全量微调(性能优但资源消耗大)和参数高效微调(如LoRA仅更新0.1%-1%参数)。当前生态系统主要有NVIDIA的Megatron-DeepSpeed组合和Hugging Face的Tran

#人工智能
LangChain: Model I/O

本文系统介绍了LangChain模型调用核心组件:1)模型类型对比(LLMs/ChatModels/Embedding Models)及其参数配置;2)消息体系(System/Human/AIMessage等)与对话结构;3)提示模板(PromptTemplate/ChatPromptTemplate/FewShot等)的创建与使用;4)输出解析器(Str/Json/XML等)的功能实现。特别包含

RAG优化思路

检索增强生成(RAG)优化技术通过改进检索质量、增强生成准确性和提升系统效率,解决传统RAG系统在模糊查询处理、幻觉抑制和复杂问题应对等方面的不足。其核心在于优化索引、检索和生成全流程,包括数据预处理、查询改写、混合检索、上下文压缩和引用溯源等关键技术。RAG优化实现了高忠实度、强相关性和低延迟等特性,相比纯微调或提示工程更具实时性和可解释性,但需权衡成本与效果。该技术适用于智能客服、法律咨询等场

#人工智能#算法#机器学习
大模型:监督微调(SFT)

监督微调(SFT)是将预训练大模型适配到具体任务的关键技术。其核心工作流程包括:数据构建(人工撰写、模型合成等)、格式化处理、训练执行(全参数微调或参数高效方法如LoRA/QLoRA)及评估部署。主流技术包括全量微调(性能优但资源消耗大)和参数高效微调(如LoRA仅更新0.1%-1%参数)。当前生态系统主要有NVIDIA的Megatron-DeepSpeed组合和Hugging Face的Tran

#人工智能
模型微调技术一览

模型微调技术综述:从全参数到高效参数优化 本文系统梳理了当前主流的模型微调技术,主要包括全参数微调、冻结微调、参数高效微调(PEFT)等核心方法。全参数微调通过更新所有层参数实现最优性能但计算成本高;冻结微调仅训练顶层参数,适合资源有限场景;PEFT技术(如LoRA)通过低秩矩阵适配大幅降低参数更新量,成为大模型微调的主流方案。文章详细分析了各类技术的原理、适用场景和计算需求,并提供了基于Hugg

RAG优化思路

检索增强生成(RAG)优化技术通过改进检索质量、增强生成准确性和提升系统效率,解决传统RAG系统在模糊查询处理、幻觉抑制和复杂问题应对等方面的不足。其核心在于优化索引、检索和生成全流程,包括数据预处理、查询改写、混合检索、上下文压缩和引用溯源等关键技术。RAG优化实现了高忠实度、强相关性和低延迟等特性,相比纯微调或提示工程更具实时性和可解释性,但需权衡成本与效果。该技术适用于智能客服、法律咨询等场

#人工智能#算法#机器学习
模型微调技术一览

模型微调技术综述:从全参数到高效参数优化 本文系统梳理了当前主流的模型微调技术,主要包括全参数微调、冻结微调、参数高效微调(PEFT)等核心方法。全参数微调通过更新所有层参数实现最优性能但计算成本高;冻结微调仅训练顶层参数,适合资源有限场景;PEFT技术(如LoRA)通过低秩矩阵适配大幅降低参数更新量,成为大模型微调的主流方案。文章详细分析了各类技术的原理、适用场景和计算需求,并提供了基于Hugg

大模型:监督微调(SFT)

监督微调(SFT)是将预训练大模型适配到具体任务的关键技术。其核心工作流程包括:数据构建(人工撰写、模型合成等)、格式化处理、训练执行(全参数微调或参数高效方法如LoRA/QLoRA)及评估部署。主流技术包括全量微调(性能优但资源消耗大)和参数高效微调(如LoRA仅更新0.1%-1%参数)。当前生态系统主要有NVIDIA的Megatron-DeepSpeed组合和Hugging Face的Tran

#人工智能
    共 13 条
  • 1
  • 2
  • 请选择