logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型本地部署与调优

本文介绍了本地部署大模型的方法和Ollama工具的使用。本地部署可节省成本、保障数据安全并支持离线使用。Ollama是基于llama.cpp开发的Go语言工具,负责模型管理、API服务和用户交互。文章详细说明了Ollama的安装步骤、不同硬件配置下的模型选择建议(如8G显卡推荐7B模型),以及基础命令操作。最后介绍了通过Modelfile进行模型调优的方法,包括调整温度参数、上下文窗口大小等性能参

#人工智能#python#react.js
AI MCP理论及实践

MCP(Model Context Protocol)是Anthropic公司2024年推出的开放标准,采用JSON-RPC 2.0协议实现大模型与外部系统的交互。该协议基于C/S架构,通过标准输入输出或TCP/HTTP通信,提供初始化、工具列表查询和功能调用等方法。典型应用包括MySQL连接、浏览器自动化(Puppeteer/Playwright)、GitHub管理、Excel操作等。Anthr

#人工智能
AI MCP理论及实践

MCP(Model Context Protocol)是Anthropic公司2024年推出的开放标准,采用JSON-RPC 2.0协议实现大模型与外部系统的交互。该协议基于C/S架构,通过标准输入输出或TCP/HTTP通信,提供初始化、工具列表查询和功能调用等方法。典型应用包括MySQL连接、浏览器自动化(Puppeteer/Playwright)、GitHub管理、Excel操作等。Anthr

#人工智能
到底了