logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型本地部署与实践指南

本文详细介绍了三种主流的大模型本地部署方案:Ollama、vLLM和llama.cpp。Ollama适合新手,提供极简的一键式部署体验;vLLM针对企业级高并发场景,具有卓越性能;llama.cpp则以轻量和跨平台著称。文章对比了三者的核心特性,包括定位、运行格式、硬件需求和适用场景,并提供了详细的安装、配置和使用示例代码,帮助开发者根据实际需求选择合适的部署方案。

#人工智能
AI技术名词解释

AI技术名词解释摘要(150字) 本文系统梳理了AI领域的核心概念:1)AGI/ASI代表通用与超级人工智能的发展愿景;2)AIGC和Vibe Coding展示了AI的内容生成与编程能力;3)交互技术包括Prompt Engineering(优化提问)、Context Engineering(上下文管理)和HITL(人机协作);4)Agent架构通过角色扮演、工作流和函数调用实现复杂任务;5)MC

#人工智能#AIGC
FastAPI 知识点总结 - 第三部分:高级应用

FastAPI数据库操作总结(SQLAlchemy) 本文总结了FastAPI中使用SQLAlchemy进行数据库操作的关键知识点: 核心配置: 使用create_engine()创建数据库引擎,配置连接池参数 通过SessionLocal管理数据库会话生命周期 模型定义: 使用Column定义字段类型和约束 通过relationship()建立表关系(一对多/一对一/多对多) CRUD操作: 会

#fastapi#数据库#python +3
FastAPI 知识点总结 - 第二部分:进阶特性

本文总结了FastAPI的进阶特性,重点介绍了数据验证和异常处理两大核心功能。在数据验证部分,详细讲解了Pydantic模型的基本用法和Field参数,包括类型约束、自定义验证器以及查询/路径参数的校验方法,并展示了嵌套模型的实现。异常处理部分涵盖了HTTPException的使用、自定义异常处理器和全局异常处理器的创建,提供了错误响应的标准化处理方案。这些特性共同构建了FastAPI强大的请求验

#fastapi#python#服务器 +1
Linux知识点总结

Linux 操作系统核心知识点摘要 Linux 是一种开源的类 Unix 操作系统,具有开源免费、硬件要求低、稳定性高、安全性强和多用户多任务等特点。主要知识点包括: 基础概念: 采用树形文件系统结构,根目录为 / 严格区分大小写,使用通配符(*、.、..、~) 常见发行版:Ubuntu(桌面友好)、CentOS(服务器稳定) 文件与目录操作: ls查看文件、mkdir创建目录、cd切换路径 cp

#linux#运维#服务器
Linux知识点总结

Linux 操作系统核心知识点摘要 Linux 是一种开源的类 Unix 操作系统,具有开源免费、硬件要求低、稳定性高、安全性强和多用户多任务等特点。主要知识点包括: 基础概念: 采用树形文件系统结构,根目录为 / 严格区分大小写,使用通配符(*、.、..、~) 常见发行版:Ubuntu(桌面友好)、CentOS(服务器稳定) 文件与目录操作: ls查看文件、mkdir创建目录、cd切换路径 cp

#linux#运维#服务器
到底了