logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

架构之OpenResty

OpenResty® 是一个基于 Nginx 与 LuaJIT 的高性能 Web 平台,由章亦春(agentzh)创建。它将 LuaJIT 集成到 Nginx 中,使开发者能够使用 Lua 脚本编写高性能的 Web 应用、API 服务和网关。核心特性高性能:基于 Nginx 的事件驱动模型和 LuaJIT 的即时编译技术低延迟:避免了传统 Web 框架的进程/线程切换开销高并发:单机可处理数万至数

#架构#openresty#nginx
Ceph分布式存储系统技术指南

Ceph是一个开源的、统一的分布式存储系统,旨在提供卓越的性能、可靠性和可扩展性。它最初由Sage Weil于2004年作为博士论文项目开始开发,后来成为Linux基金会旗下的顶级开源项目。Ceph的核心特性统一存储平台:同时支持对象存储、块存储和文件系统存储无中心架构:没有单点故障,完全分布式设计自愈能力:自动检测和恢复故障节点线性可扩展:性能和容量随节点增加线性增长智能数据分布:使用CRUSH

#ceph#分布式
架构之异步

异步架构是构建高性能、高并发系统的关键技术。通过合理选择异步编程模型、设计异步API、使用消息队列和事件驱动架构,可以显著提升系统的吞吐量和响应能力。关键要点选择合适的异步模型:根据场景选择Promise、async/await、响应式编程等设计清晰的异步API:明确状态、超时、错误处理使用消息队列解耦:通过生产者-消费者、发布-订阅模式实现松耦合关注错误处理:重试、断路器、降级等策略监控与可观测

#架构
LLM-18Transformer深度学习架构和张量计算

摘要:本文系统介绍了Transformer架构的深度学习基础,重点分析了张量计算和批处理机制。内容涵盖:1) 深度学习架构从传统神经网络到Transformer的演进过程;2) 张量作为基本数据单元的多维表示形式;3) 批处理在提升计算效率和训练稳定性中的作用;4) Transformer中各层张量形状的变换流程;5) 高阶张量操作如变形、广播和矩阵乘法的具体应用。文章通过Python代码示例展示

#深度学习#架构#人工智能 +1
架构之高性能搜索

在海量数据时代,全文搜索已成为现代应用的核心功能。无论是电商平台的商品搜索、社交媒体的内容检索,还是企业级的日志分析,都需要在海量数据中快速定位目标信息。当数据量达到TB甚至PB级别时,传统的数据库查询方式已无法满足性能要求,必须借助专门的搜索索引技术。高性能搜索法则强调:海量数据的全文搜索必须使用搜索索引技术,如ElasticSearch,同时必须考虑全量数据与搜索索引之间的数据一致性问题。这一

#架构
LLM-09神经网络模型训练

本文系统总结了神经网络训练的完整流程,将整个过程类比为工厂生产,分为数据准备、模型构建、训练循环和核心算法四个关键阶段。数据准备阶段涵盖数据收集、清洗、特征工程和划分;模型构建阶段包括网络架构设计、权重初始化和超参数设置;训练循环阶段详细说明了训练框架、单个epoch流程和监控指标;核心算法部分则深入讲解了前向传播、损失计算和反向传播的实现原理。文章通过清晰的流程图和代码示例,为读者构建了完整的神

#神经网络#人工智能
LLM-32Transformer源码学习

Transformer源码学习摘要 学习Transformer源码是深入理解其工作原理的关键。建议从Hugging Face Transformers或PyTorch官方实现入手,采用从整体到局部、理论到实践的阅读方法。源码分析应重点关注核心组件如多头注意力机制,其实现涉及QKV矩阵计算、注意力权重计算和输出投影等关键步骤。通过拆解源码,可以掌握Transformer的工程实现细节、优化技巧和扩展

#transformer
Prompt-03提示词高级技巧

高级提示词技巧是在基础设计模式之上,结合深度学习、认知科学和工程实践的创新方法。这些技巧能够:- **提升推理能力**:让模型进行更复杂的逻辑推理- **增强创造力**:激发模型的创新思维和想象力- **改善准确性**:减少错误和幻觉,提高结果可靠性- **优化效率**:用更少的资源获得更好的效果- **实现自适应**:让系统能够自主学习和改进

AI-Hugging Face Transformers框架技术文档

Hugging Face Transformers已成为2025年主流多模态AI框架,最新v4.45.0版本实现了从NLP专用到多模态平台的重大转型。其架构包含多模态统一模块(支持文本、视觉、音频等)、模型类(AutoModel/Pipeline等)、训练框架(Trainer API/Accelerate)及推理优化工具(ONNX/TensorRT)。该框架提供企业级功能如模型版本管理、安全扫描,

#人工智能#AI
LangChain-06提示词模板和提示词工程

LangChain提示词模板与工程摘要 LangChain提示词模板是结构化AI对话的"配方",解决了传统提示词不一致、难维护等问题。基础模板通过参数化实现复用,如PromptTemplate可定义变量占位符。高级功能包括: 验证模板:通过类型、范围和选项验证输入有效性 Few-Shot模板:利用示例演示任务模式 动态示例选择:基于语义相似度自动选取最相关示例 模板化设计使提示

    共 128 条
  • 1
  • 2
  • 3
  • 13
  • 请选择