logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Docker大全,包你满意

镜像是一个只读的模板,包含了运行应用所需的所有内容:代码、运行时、库文件、环境变量和配置文件。定义了容器的运行环境(如操作系统、软件配置等)。通过分层存储(Layer)优化空间和构建速度。仓库是存储和分发镜像的地方,可以包含一个镜像的多个版本。公共仓库:如 Docker Hub,任何人都可以使用私有仓库:企业内部搭建,用于存储私有镜像官方仓库:由软件官方维护的镜像仓库Registry:仓库注册服务

文章图片
#docker#容器#运维
将Go项目部署到Docker,最合适的保姆级教程

本文详细介绍了基于Docker的Go语言聊天室项目的部署流程。主要内容包括:1.项目目录结构规划;2.文件上传虚拟机的两种方法;3.客户端和服务端Dockerfile的编写说明;4.docker-compose.yml配置,包含MySQL、Redis、服务端和客户端的容器化部署;5.关键连接参数的调整方法;6.完整的项目运行步骤,包括镜像构建、数据库初始化、容器启动和日志监控等。该方案实现了Go项

文章图片
#数据库#后端#mysql +3
为什么大模型总在“胡说八道”?

AI幻觉问题解析:大模型为何会"一本正经地胡说八道" AI幻觉是指大模型自信地生成虚假信息的现象,其本质源于大模型的工作原理。作为"语言概率机器",AI的核心是预测最可能出现的词,而非验证事实真相。这种机制导致三大问题:1)训练方式使其擅长"猜"而非判断;2)训练数据本身包含错误信息;3)强化学习使其更倾向生成"讨好人类&quo

文章图片
#人工智能#机器学习#深度学习
一文读懂 Transformer:大模型的核心架构,从 Attention 到 LLM

Transformer是基于注意力机制的深度学习模型架构。相比传统RNN/LSTM的顺序处理方式,Transformer通过自注意力机制让每个词都能直接关注所有其他词,解决了长距离依赖和并行计算问题。其核心是多头注意力机制(Q/K/V)和位置编码,前者能捕捉词语间的多种关系,后者保留位置信息。Transformer具有并行计算能力强、长距离依赖处理优秀、训练速度快等显著优势,成为主流大模型的共同基

文章图片
#transformer#深度学习#人工智能
大模型微调(Fine-tuning)全面解析:Full Fine-tuning、LoRA、QLoRA 原理与实践

本文系统介绍了大语言模型微调技术。首先阐明微调的概念:在预训练模型基础上,通过新数据训练使其适应特定任务(如客服、知识问答等)。对比了Prompt工程与微调的适用场景,指出微调更适合固定输出格式和专业领域需求。重点解析了当前主流微调方法:全参数微调成本过高,PEFT参数高效微调成为主流,尤其是LoRA技术通过低秩矩阵分解大幅减少参数量,而QLoRA进一步结合4位量化使消费级GPU也能微调大模型。文

文章图片
Agent如何使用RAG检索策略生成详尽回答?

摘要:RAG(检索增强生成)是一种通过结合信息检索和大语言模型来减少AI幻觉的技术。其核心流程包括:1)加载上下文记忆;2)智能改写用户问题;3)并行执行语义与关键词检索;4)动态融合检索结果;5)重排序获取最优片段;6)构建包含检索结果的提示词;7)生成回答。该方案通过实时检索权威资料来约束大模型的自由发挥,同时采用对话摘要、混合检索、动态权重等策略提升回答准确性,并维护10轮对话的上下文记忆。

文章图片
#golang
利用LLama Factory + Ollama 微调大模型并部署

本文介绍了如何利用LLama Factory和Ollama工具对大语言模型进行本地微调与部署。主要内容包括: 工具简介: LLama Factory:提供零代码微调功能,支持多种前沿技术,适配主流模型。 Ollama:本地模型运行工具,简化模型部署与应用集成。 环境准备: 安装Anaconda创建隔离的Python环境。 配置GPU支持,安装适配的PyTorch版本。 微调流程: 安装LLama

文章图片
为什么大模型总在“胡说八道”?

AI幻觉问题解析:大模型为何会"一本正经地胡说八道" AI幻觉是指大模型自信地生成虚假信息的现象,其本质源于大模型的工作原理。作为"语言概率机器",AI的核心是预测最可能出现的词,而非验证事实真相。这种机制导致三大问题:1)训练方式使其擅长"猜"而非判断;2)训练数据本身包含错误信息;3)强化学习使其更倾向生成"讨好人类&quo

文章图片
#人工智能#机器学习#深度学习
一文读懂 Transformer:大模型的核心架构,从 Attention 到 LLM

Transformer是基于注意力机制的深度学习模型架构。相比传统RNN/LSTM的顺序处理方式,Transformer通过自注意力机制让每个词都能直接关注所有其他词,解决了长距离依赖和并行计算问题。其核心是多头注意力机制(Q/K/V)和位置编码,前者能捕捉词语间的多种关系,后者保留位置信息。Transformer具有并行计算能力强、长距离依赖处理优秀、训练速度快等显著优势,成为主流大模型的共同基

文章图片
#transformer#深度学习#人工智能
大模型微调(Fine-tuning)全面解析:Full Fine-tuning、LoRA、QLoRA 原理与实践

本文系统介绍了大语言模型微调技术。首先阐明微调的概念:在预训练模型基础上,通过新数据训练使其适应特定任务(如客服、知识问答等)。对比了Prompt工程与微调的适用场景,指出微调更适合固定输出格式和专业领域需求。重点解析了当前主流微调方法:全参数微调成本过高,PEFT参数高效微调成为主流,尤其是LoRA技术通过低秩矩阵分解大幅减少参数量,而QLoRA进一步结合4位量化使消费级GPU也能微调大模型。文

文章图片
    共 17 条
  • 1
  • 2
  • 请选择