
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
本文深入探讨了LLM在企业应用中的数据安全与隐私保护策略。主要内容包括: 数据分级管理:将企业数据划分为公开、内部、敏感和极密四个等级,分别采取不同处理措施; 隐私保护技术:提出假名化/实体替换的脱敏方案,平衡隐私保护与模型效果; 合规性设计:涵盖数据跨境传输、多地区法规兼容、第三方供应商评估等关键环节; 安全架构:包括日志脱敏、权限控制、审计追踪等系统级防护措施; 特殊场景处理:针对训练数据泄露
本文深入探讨了LLM在企业应用中的数据安全与隐私保护策略。主要内容包括: 数据分级管理:将企业数据划分为公开、内部、敏感和极密四个等级,分别采取不同处理措施; 隐私保护技术:提出假名化/实体替换的脱敏方案,平衡隐私保护与模型效果; 合规性设计:涵盖数据跨境传输、多地区法规兼容、第三方供应商评估等关键环节; 安全架构:包括日志脱敏、权限控制、审计追踪等系统级防护措施; 特殊场景处理:针对训练数据泄露
本文探讨了LLM在代码生成、工具调用和智能体应用中的关键技术方案。重点包括:1)构建"生成-测试-修复"循环的自动编程系统;2)通过Prompt优化、模型选择和后处理提升代码可执行率;3)采用Prompt防御、静态分析和沙箱隔离确保代码安全;4)工具调用系统的Schema设计和解析方法;5)多工具调用的顺序控制和依赖处理;6)通过硬限制和循环检测避免Agent无限循环;7)基于
本文探讨了LLM在代码生成、工具调用和智能体应用中的关键技术方案。重点包括:1)构建"生成-测试-修复"循环的自动编程系统;2)通过Prompt优化、模型选择和后处理提升代码可执行率;3)采用Prompt防御、静态分析和沙箱隔离确保代码安全;4)工具调用系统的Schema设计和解析方法;5)多工具调用的顺序控制和依赖处理;6)通过硬限制和循环检测避免Agent无限循环;7)基于
摘要:本文针对深度学习与分布式系统中的典型故障场景,提供了一套实战排查方法论。核心问题包括:推理超时(GIL/GC阻塞)、训练NaN(学习率/数据异常)、多卡死锁(NCCL通信)、显存泄漏(计算图残留)、I/O性能瓶颈等。每个问题均给出分层诊断工具链(如py-spy、NCCL_DEBUG、torch内存分析)和修复方案,强调从监控指标(GPU利用率、网络拓扑)到代码细节(同步I/O、梯度裁剪)的系
摘要:本文针对深度学习与分布式系统中的典型故障场景,提供了一套实战排查方法论。核心问题包括:推理超时(GIL/GC阻塞)、训练NaN(学习率/数据异常)、多卡死锁(NCCL通信)、显存泄漏(计算图残留)、I/O性能瓶颈等。每个问题均给出分层诊断工具链(如py-spy、NCCL_DEBUG、torch内存分析)和修复方案,强调从监控指标(GPU利用率、网络拓扑)到代码细节(同步I/O、梯度裁剪)的系
本文聚焦大模型项目实践中的关键能力考察点,包括工程落地、问题解决、团队协作和技术视野。重点内容包括:1)项目介绍方法论(STAR原则),强调从业务背景到技术方案的系统性呈现;2)典型技术难点解析,如长文档处理、性能优化等问题的解决思路;3)团队协作与沟通技巧,包括技术分歧处理、能力边界沟通等;4)事故处理与学习路径,体现运维意识和持续学习能力。文章通过具体案例展示了如何在实际项目中平衡技术深度与业
本文聚焦大模型项目实践中的关键能力考察点,包括工程落地、问题解决、团队协作和技术视野。重点内容包括:1)项目介绍方法论(STAR原则),强调从业务背景到技术方案的系统性呈现;2)典型技术难点解析,如长文档处理、性能优化等问题的解决思路;3)团队协作与沟通技巧,包括技术分歧处理、能力边界沟通等;4)事故处理与学习路径,体现运维意识和持续学习能力。文章通过具体案例展示了如何在实际项目中平衡技术深度与业
三级应对策略:Level 1: PyTorch 组合拼凑 (Composite Ops)如果缺失某个融合算子(如 SwiGLU),先用 PyTorch 原生基础算子(mulsigmoid)组合实现。开发极快,保证功能跑通。显存读写次数多,性能差。Level 2: 脚本级编译优化 (TorchCompile / JIT)利用(Inductor) 或国产平台的图编译能力,自动将上述组合算子融合,减少
三级应对策略:Level 1: PyTorch 组合拼凑 (Composite Ops)如果缺失某个融合算子(如 SwiGLU),先用 PyTorch 原生基础算子(mulsigmoid)组合实现。开发极快,保证功能跑通。显存读写次数多,性能差。Level 2: 脚本级编译优化 (TorchCompile / JIT)利用(Inductor) 或国产平台的图编译能力,自动将上述组合算子融合,减少







