
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
在网络通信中,SSH(Secure Shell)协议是保障远程操作与数据传输安全的 “基石”,广泛用于服务器运维、文件传输等场景。但传统技术仅能识别 “这是 SSH 流量”,却无法区分其具体承载的业务 —— 实际上,SSH 流量下隐藏着三类核心应用:用于文件传输的 SFTP、高效复制文件的 SCP,以及实现远程命令交互的 SHELL。这三类应用的安全风险与资源需求差异显著:SHELL 涉及命令执行

是一个基于 C++ 从零实现的轻量级深度学习训练框架,具有 PyTorch 风格的 API,支持 CPU 和 CUDA 运行,可用于神经网络训练与推理,还支持 LLM(如 llama/qwen/mistral 模型)的推理。抓本质:聚焦深度学习的核心流程——数据输入→模型计算→梯度更新→参数迭代,所有模块都围绕这个流程展开,不做无关功能。做减法:去掉冗余依赖和复杂封装,用最简洁的结构实现核心功能,

摘要: FlipAttack是一种绕过大模型安全机制的文本变形攻击方法,通过翻转、编码等手法将有害指令伪装成"乱码"或"怪话"。其核心思路是利用传统安全检测器依赖正向关键词匹配的弱点,将原始文本(如"忽略安全设置")通过8种变形手法(如单词倒序、ROT13加密、Unicode双向覆盖符等)转换为机器可读但检测器难识别的形式。代码架构包含三个核心组件:FlipTransformer(执行文本变形)、

这个项目虽然代码量少,但横跨了多个 AI 系统领域领域涉及知识点模型格式GGUF v3 规范、张量存储、元数据解析量化压缩8-bit/4-bit/1-bit 量化、反量化、分组缩放Transformer 架构多头注意力、GQA、RoPE、RMSNorm、SwiGLU、残差连接内存优化mmap 零拷贝、KV Cache、按需加载CPU 优化SIMD 指令(AVX2/NEON)、矩阵乘法优化分词BPE

本文介绍了一个用纯C++17从零实现的深度学习框架,具有以下核心特点: 零依赖设计:仅使用C++标准库,实现了完整的深度学习功能栈 核心架构: 张量引擎:基于内存共享和stride映射的多维数据表示 自动微分:动态计算图实现PyTorch风格的自动求导 多线程优化:通过线程池并行处理计算密集型操作 完整Transformer实现: 包含编码器/解码器堆栈 实现多头注意力机制 支持训练和推理流程 工

知识领域关键要点项目中的应用C++系统编程RAII、内存管理、文件I/O、字符串处理整个引擎的骨架,手动管理模型生命周期LLM推理原理自回归生成、KV缓存、采样策略(Top-K/Temp)调用llama.cpp API完成token-by-token生成模型量化GGUF格式、Q4_K_M/Q8_0等量化方案支持任意GGUF模型,让用户根据硬件选模型RAG架构检索增强生成、上下文注入、向量检索(本项

这个项目虽然不能用来替代ChatGPT去写论文或写代码,但它的价值在于“祛魅”。它告诉我们,GPT模型剥去华丽的外衣后,本质上就是大量的矩阵乘法、指数运算和链式法则。对于开发者而言,这个项目的核心启示是:不要过度依赖框架: 理解底层原理,才能在遇到性能瓶颈时知道如何优化。C语言依然是基石: 无论AI上层应用多么花哨,底层的推理引擎依然离不开C/C++的高效内存管理。手动优化的力量: 在资源受限的嵌

本文介绍了一个用纯C++实现GPT-2推理引擎的开源项目。该项目完全摒弃了PyTorch等框架的封装,从零实现了包括张量系统、分词器、权重加载、Transformer层等核心模块。项目特点包括:仅依赖C++17标准库,支持1.24亿参数的GPT-2 Small模型,计算精度与HuggingFace实现误差小于10^-4级,完整实现了从文本输入到生成输出的全流程。核心模块包含自研的张量存储系统、BP

摘要:本文介绍了一套基于C++17的纯本地语音合成(TTS)解决方案,旨在解决Python生态中TTS系统工程化部署的痛点。该系统通过C++实现了完整的TTS流水线,包含四大核心模块:LLM生成音频码本、WavLM提取说话人特征、MioCodec声码器解码和iSTFT波形合成。采用分层架构设计,从底层推理引擎到上层应用接口全部用C++实现,最终打包为单一可执行文件,无需Python环境或解释器即可

不是"全用低精度",而是"该高的地方高,该低的地方低"。前向/反向计算:bf16/fp16(快,省显存)权重更新:fp32(稳,防误差累积):fp16训练时,损失值乘一个缩放因子,防止梯度下溢这套方案最大的价值,在于证明了大模型训练完全可以脱离PyTorch生态,直接对着CUDA编程。它不是简单的"用C++重写PyTorch",而是从内存分配、Kernel编写、反向传播、多卡通信到量化更新的全链路








