logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

linux部署VLLM、大模型(详细图文)

本文介绍了vllm的安装部署流程:1)创建Python3.10虚拟环境,安装vllm和PyTorch(需验证CUDA可用性);2)安装flash-attn解决长序列处理的性能问题,并提供测试脚本验证安装;3)演示如何使用modelscope下载Qwen1.5-1.8B模型(支持git lfs管理大文件),并说明删除方法。整个过程涵盖环境配置、依赖安装和模型部署等关键步骤,为高效运行大语言模型提供完

文章图片
服务器上部署ollama、LLM

本文详细介绍了Ollama本地部署及Qwen2-32B模型安装过程。首先指导用户下载并解压Ollama 0.17.5版本,通过环境变量配置监听地址和端口,解决服务启动参数不兼容问题。随后介绍Windows环境下安装Ollama客户端,下载Qwen2.5-32B模型的方法。最后讲解如何通过Docker部署OpenWebUI界面,包括端口映射调试和常见错误排查。整个流程涵盖Linux/Windows双

文章图片
#服务器#运维
Cursor的下载以及使用(详细图文)

Cursor是一款AI辅助编程工具,提供便捷的下载安装流程(.exe文件一键安装)和中文语言包支持。内置多款先进LLM模型(GPT4、Claude3.5等),支持通过快捷键实现代码编辑(Tab补全、Ctrl+K编辑等)和项目级操作。特色功能包括:1)可配置第三方API(如阿里百炼);2)按需求选择不同能力的模型(qwen3.5-plus适合复杂算法,qwen3.5-flash适合日常编码);3)提

文章图片
#人工智能
Trae安装配置教程(详细图文)

关于trae的完整安装配置流程,包含详细图文以及常见的问题解决方法

文章图片
Anaconda下载及安装保姆级教程(详细图文)

本文介绍了Anaconda的下载与安装方法。Anaconda是一款集成了Python和R语言的发行版本,专为数据科学和机器学习设计。下载时推荐使用清华镜像源获取稳定版本,选择与操作系统匹配的完整版安装包。安装过程中需注意路径选择,避免空格和中文字符。安装完成后需配置环境变量,添加Anaconda的Scripts目录,并通过CMD输入conda --version验证是否配置成功。该指南帮助用户快速

文章图片
模型微调(Fine-Tuning)

本文系统梳理了自然语言处理中Fine-Tuning技术的发展历程与主要方法。从传统机器学习、深度学习到预训练模型,Fine-Tuning经历了四个范式演进,逐渐从特征工程转向模型适配。重点分析了Prompt-Tuning的核心思想:将下游任务重构为预训练模型熟悉的完形填空问题,通过设计自然语言模板(Pattern)和标签词映射(Verbalizer)实现任务适配。详细介绍了PET模型及其两种训练方

文章图片
#人工智能
neo4j图数据库安装教程(windows)

本文介绍了Neo4j图数据库的基本概念、安装配置及Cypher查询语言的使用。主要内容包括:1)Neo4j作为开源NoSQL图数据库的特点和版本差异;2)Java环境配置和Neo4j安装步骤;3)Cypher语法详解,涵盖节点/关系的创建(CREATE/MERGE)、查询(MATCH)、删除(DELETE)等操作;4)常用字符串函数和聚合函数;5)索引的创建与管理。文章通过具体示例演示了如何操作图

文章图片
#neo4j#数据库
知识图谱(carel模型)【第十二章】

本文介绍了基于CasRel模型的关系抽取实现方法。该方法使用BERT模型进行token编码,通过双层线性层和sigmoid函数预测实体边界。文章详细阐述了数据处理流程、模型架构及训练评估过程,包括主客体实体抽取、关系预测等关键步骤。实验结果显示,该方法能有效识别文本中的实体关系三元组。作者还提出了多种优化方向:升级预训练模型、改进实体融合方式、增加边界探索层等。该方法实现了联合抽取,减少了训练预测

文章图片
#知识图谱#人工智能
知识图谱(关系抽取方法)【第十一章】

本文介绍了基于BiLSTM和注意力机制的关系抽取模型实现与优化方法。主要内容包括:1)模型实现部分详细展示了BiLSTM_Attention类的代码结构,包含词嵌入层、BiLSTM层、注意力机制和全连接层的设计;2)训练过程包括数据加载、模型初始化、损失函数和优化器设置等步骤;3)提出多种优化方案,如改进句子嵌入方式、替换BiLSTM为BERT/RoBERTa、引入多头注意力机制等;4)分析了Pi

文章图片
#知识图谱#人工智能
linux部署VLLM、大模型(详细图文)

本文介绍了vllm的安装部署流程:1)创建Python3.10虚拟环境,安装vllm和PyTorch(需验证CUDA可用性);2)安装flash-attn解决长序列处理的性能问题,并提供测试脚本验证安装;3)演示如何使用modelscope下载Qwen1.5-1.8B模型(支持git lfs管理大文件),并说明删除方法。整个过程涵盖环境配置、依赖安装和模型部署等关键步骤,为高效运行大语言模型提供完

文章图片
    共 46 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择