
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
本文介绍了四种Python调用大语言模型(LLM)API的方式:原生HTTP请求提供最高灵活性;封装式API调用便于维护和模型切换;OpenAI SDK方式稳定性好且功能丰富;传统OpenAI库简洁易用。每种方式各有特点:原生HTTP适合精确控制请求,封装式适合频繁切换模型,SDK适合官方API调用,传统库适合快速开发。开发者应根据项目需求(灵活性、维护性、功能丰富度等)选择合适方式,同时注意AP
Termius是一款支持全平台的SSH终端管理工具,适用于Windows/macOS/Linux/iOS/Android系统。它提供SSH/Mosh/Telnet连接、SFTP文件传输、多主题界面、服务器分组管理等功能,并支持端到端加密的跨设备同步。
大模型分词器是LLM的核心组件,负责将文本转换为模型可处理的数字Token。它通过子词分割算法(BPE、WordPiece、Unigram等)解决词汇无限性和未登录词问题,在字符与单词间取得平衡。
本文深入对比Python开发中常用的环境管理工具Conda和Docker。
本文介绍了两种实现Docker容器自动启动的方法,以及针对模型加载问题,提出了自动加载脚本方案。
本文介绍了如何修改Docker镜像源以提升国内镜像拉取速度。
本文介绍了Ollama服务的端口查看与修改方法。默认情况下,Ollama监听11434端口,可通过netstat或ss命令确认。修改端口需编辑/etc/systemd/system/ollama.service文件,在[Service]部分添加OLLAMA_HOST环境变量(如0.0.0.0:11435)。修改后需重启服务并验证新端口是否生效。
本文详细介绍了构建Docker基础镜像的方法:1)使用Dockerfile从现有镜像定制(推荐),提供Ubuntu和Alpine两种示例;2)通过docker commit命令从容器创建(适合快速测试);3)使用debootstrap从头构建最小系统(适合需要完全控制)。
LLaMA-Factory是一个整合主流高效训练微调技术的开源框架,旨在降低大模型微调门槛。该项目提供多阶段训练、推理测试、评测和API服务等模块化功能.
在阿里云服务器上部署Dify服务时,MCP服务发布失败。经排查发现Docker容器无法通过公网IP访问宿主机的8083端口,主要原因是Docker默认网络配置阻止了容器到宿主机的通信。







