logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Ollama:一个在本地部署、运行大型语言模型的工具

本文介绍了Ollama工具的部署和使用方法。Ollama是一个支持在本地机器上运行大型语言模型(LLM)的工具,兼容macOS、Linux和Windows平台。文章详细讲解了Linux系统的安装步骤,包括通过命令行安装、查看服务状态和版本验证。在配置部分,说明了如何修改HOST设置实现远程访问、自定义模型存储路径、指定GPU运行等关键配置,并提供了权限设置和问题排查方法。最后列举了Ollama的主

文章图片
#语言模型#人工智能#自然语言处理
Ollama 本地运行大模型(LLM)完全指南_ollama token速度计算

Ollama 是一个开源工具,支持在本地便捷部署和运行大语言模型(LLM)。文章详细介绍了其安装方法(支持MacOS、Windows、Linux及Docker容器运行)、模型下载与运行、自定义模型导入、系统提示配置等核心功能。同时涵盖了CLI命令、REST/Python API、日志调试、服务化部署、模型存储管理以及OpenAI兼容性等实用技巧。特别针对企业本地化部署需求,提供了CPU/GPU模式

文章图片
#人工智能#Ollama
本地部署大模型?Ollama 部署和实战,看这篇就够了!_ollama本地部署

本文介绍了如何在本地部署和使用Ollama大模型服务。主要内容包括:1) Ollama在不同系统(Mac、Windows、Linux)的安装方法,其中Linux提供裸机和Docker两种部署方式;2) 服务配置说明,如修改模型存储路径、指定GPU设备等;3) 基本使用指南,包括常用命令解释和官方模型库介绍。Ollama作为便捷的大模型本地部署工具,配合Open WebUI可实现人人拥有大模型自由的

文章图片
#人工智能#语言模型
本地部署大模型?Ollama 部署和实战,看这篇就够了!_ollama本地部署

本文介绍了如何在本地部署和使用Ollama大模型服务。主要内容包括:1) Ollama在不同系统(Mac、Windows、Linux)的安装方法,其中Linux提供裸机和Docker两种部署方式;2) 服务配置说明,如修改模型存储路径、指定GPU设备等;3) 基本使用指南,包括常用命令解释和官方模型库介绍。Ollama作为便捷的大模型本地部署工具,配合Open WebUI可实现人人拥有大模型自由的

文章图片
#人工智能#语言模型
本地部署大模型?Ollama 部署和实战,看这篇就够了!_ollama本地部署

本文介绍了如何在本地部署和运行大模型工具Ollama,支持Mac、Windows和Linux系统。Linux可通过一键脚本或Docker安装,并提供了配置修改指南。Ollama支持从0.5B到236B的多种模型,用户可根据设备配置选择合适的模型。文章还介绍了Ollama的常用命令和模型库,帮助用户快速上手使用这一便捷的大模型本地运行工具。通过Ollama,用户可以轻松在本地实现大模型的部署和应用。

文章图片
#人工智能
一文彻底搞懂大模型 - LLaMA-Factory

如何高效地微调和部署大型语言模型(LLM)?LLaMA-Factory作为一个开源的微调框架,应运而生,为开发者提供了一个简便、高效的工具,以便在现有的预训练模型基础上,快速适应特定任务需求,提升模型表现。LLaMA-Factory作为一个功能强大且高效的大模型微调框架,通过其用户友好的界面和丰富的功能特性,为开发者提供了极大的便利。

文章图片
#自然语言处理#语言模型
别再死磕前端了!我用6个月转型AI Agent,薪资直接翻倍!!

前端转AI Agent实战指南 从切图到AI:6个月成功转型经验分享。前端开发者转AI Agent具有天然优势:1)交互逻辑思维可直接复用;2)联调经验适配AI工作流搭建;3)JS/TS技术栈部分延续。关键补充LangChain框架和Prompt工程技能,建议学习路径:从ChatGPT API入门,逐步掌握Function Calling和复杂流程搭建。转型后不仅薪资提升30%+,更构建了技术壁垒

文章图片
#前端#人工智能#产品经理
字节大佬爆肝整理:65页《企业级知识库搭建搭建手册》

字节跳动技术专家整理的《企业级知识库搭建手册》近日在GitHub曝光,这份65页的实战指南详细讲解了基于vLLM+Qwen 7B模型构建本地大模型的完整流程。手册涵盖环境准备、模型部署(支持CPU/GPU)、Langchain框架解析、RAG实现等核心内容,并配套Faiss向量数据库应用方案。通过清晰的代码示例和架构图,帮助开发者快速掌握企业级知识库搭建技术。手册特别适合AI开发者和企业技术团队,

文章图片
#人工智能
7大主流大模型微调平台全解析:从入门到精通的完整指南!

本文介绍了当前主流的7个模型微调平台和框架,重点分析了Hugging Face Transformers、LLaMA-Factory、Unsloth和MS-SWIFT四个代表性工具。这些平台通过提供预训练模型、参数高效微调技术(如LoRA/QLoRA)、可视化界面和优化训练流程等功能,显著降低了模型微调的技术门槛。其中,Hugging Face Transformers凭借其丰富的模型生态(4万+

文章图片
#人工智能
花2.5小时练完这168页,你的Agent搭建就很牛了!

这篇文章推荐了一个零基础学习AI Agent搭建的教程资源包,包含168页系统化资料和配套代码。作者分享了自己从零实操的经验,整理了搭建步骤、常见问题和技巧,帮助新手快速入门。资料免费提供,适合想入局AI Agent但受困于碎片化信息的学习者。通过2.5小时的学习即可掌握基础搭建技能,无需深厚技术背景。文末附有获取链接。

文章图片
#人工智能
    共 527 条
  • 1
  • 2
  • 3
  • 53
  • 请选择