logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

一文读懂人工智能,机器学习,深度学习,神经网络,Transformer

定义:让机器具备感知、推理、决策、理解、创造等类人智能的技术总称。包含内容传统人工智能(非机器学习)符号推理、规则系统、专家系统、搜索算法、博弈算法知识图谱(规则推理)、自动逻辑证明现代人工智能(机器学习方向)传统机器学习深度学习其他分支模糊控制、进化算法(遗传算法)、机器人控制、多智能体AI:范围最大机器学习:AI里“靠数据学习”的路线深度学习:机器学习里“用深层神经网络”的路线神经网络:深度学

#人工智能#机器学习#深度学习
claude-context 本地部署方案

本文介绍了一种完全离线的本地化解决方案,用于对接本地部署的Claude-Code。该方案采用全本地架构,包括本地Milvus向量数据库、Ollama开源嵌入模型、本地构建的MCP索引服务和本地Claude-Code客户端,无需依赖任何云端API。安装过程包括配置Docker、Node.js、pnpm和Ollama环境,启动本地Milvus向量库和嵌入模型,构建Claude-Context服务,并进

#AI
一文看懂大模型有哪些架构

大模型架构围绕Transformer三大基础范式扩展,形成多元生态。选择架构应匹配任务:理解优先选Encoder-Only,生成优先选Decoder-Only,转换任务选Encoder-Decoder,复杂场景选MoE或混合架构,超长序列考虑Mamba等新兴架构。

#AI
vLLM 全部8种部署方式(按从简单到企业级排序,附适用场景+最简命令)

适用:本地开发、调试、二次开发、嵌入RAG/Agent项目。特点:张量并行TP、流水线并行PP,拆分模型到多卡/多机。适用:快速搭OpenAI兼容接口、临时测试、内网小服务。适用:70B、110B、MoE大模型,单张GPU放不下。能力:流量分发、限流、熔断、接口统一域名、隐藏后端实例。适用:线上高并发、多GPU节点、自动扩缩容、灰度发布。特点:集群化管理、故障自愈、负载均衡、多模型统一调度。适用:

#人工智能#AI
大模型训练框架全景解析(2026最新)

大模型训练框架生态呈现分层化、专业化趋势:通用框架(PyTorch/TensorFlow/JAX)提供基础能力,分布式专用框架(DeepSpeed/Megatron/FSDP)解决超大规模训练痛点,集成框架(NeMo/PyTorch Lightning)降低工程化门槛。选型核心原则:小规模模型选易用性,大规模模型选性能,超大规模模型选混合方案。同时需考虑团队技术栈、硬件环境与项目阶段,灵活组合不同

#AI
大模型部署全流程深度解析

准备阶段:明确业务需求→选择模型→规划硬件→搭建环境优化阶段:量化(INT4/INT8)→并行策略(TP/PP)→推理引擎选择(vLLM/TensorRT-LLM)→KV缓存配置服务化阶段:封装API→配置负载均衡→设置扩缩容规则→接口测试部署阶段:容器化(Docker)→编排(K8s)→灰度发布→全量上线运维阶段:监控指标→日志分析→告警处理→性能优化→版本迭代。

#AI#人工智能
vLLM全解析:定义、用途与竞品对比

vLLM(Very Large Language Model inference) 是由加州大学伯克利分校LMSYS团队于2023年6月开源的高性能大模型推理与服务引擎,专注解决大模型部署中的显存效率低、吞吐量瓶颈、延迟高三大核心问题。核心技术创新PagedAttention(分页注意力):借鉴操作系统虚拟内存管理思路,将KV缓存分割为固定大小的块,内存浪费控制在4%以内,支持动态分配与释放,单卡

#AI#人工智能
Data Lakes vs Data Warehouses vs Feature Stores

数据仓库、数据湖和特征存储是企业数据架构中三个互补的层级系统,各有不同定位。数据仓库用于结构化业务分析和BI报表;数据湖存储全量原始数据,支持探索式分析;特征存储则专注于机器学习特征的全生命周期管理。三者协作形成数据流转体系:数据湖为底层数据源,数据仓库加工业务分析数据,特征存储提供模型所需特征数据。选型需根据业务需求,分别适用于传统分析、数据探索和机器学习场景。三者并非替代关系,而是共同构建完整

#AI#数据仓库
(MySQLdb._exceptions.OperationalError) (2003, “Can‘t connect to MySQL server on ‘10.0.0.106‘ (110)

MySQL 2003错误(连接超时)常见原因包括:网络不通、防火墙阻止、MySQL服务未启动、绑定地址限制、端口配置错误、云服务器安全组限制或用户权限不足。排查时需依次检查网络连通性(ping/telnet)、服务状态、防火墙设置、MySQL配置文件的bind-address参数、端口监听情况及用户权限。对于内网地址10.0.0.106,还需检查容器网络配置。

#网络
(MySQLdb._exceptions.OperationalError) (2006, ‘MySQL server has gone away‘)

MySQL 2006 "Server has gone away"错误表示客户端与服务器的连接意外断开。主要成因包括:连接超时(wait_timeout参数)、数据包过大(max_allowed_packet限制)、查询执行时间过长、服务器崩溃/重启、网络不稳定、连接池配置不当等。解决方法需根据具体原因调整相关参数或优化查询,如启用连接验证、增大数据包限制、优化长时间查询等。建

#网络#python
    共 68 条
  • 1
  • 2
  • 3
  • 7
  • 请选择