logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

OWASP 的《大规模语言模型应用 Top 10》大规模语言模型中的敏感信息披露问题及防护策略

随着AI技术的不断发展,LLM已经成为了我们日常生活的一部分。但当我们享受它带来的便利时,也不能忽视它可能带来的安全风险。**AI不会背叛你,但它的“记忆”**需要我们小心照料。希望通过这篇文章,你能够意识到敏感信息泄露的风险,并采取有效的防护措施,确保AI成为我们最值得信赖的助手,而不是潜在的风险源。

文章图片
#语言模型#人工智能#自然语言处理
用 Go 实现一个 Model Context Protocol(MCP) 服务器

MCP,全称是 Model Context Protocol,是一种用于配置分发的 gRPC 协议,最初被 Istio 引入,用于把配置从 control plane 推送到 data plane。简单来说,它让你可以通过 gRPC 发送一大堆“配置资源”(例如服务发现、路由规则、安全策略等)给一个客户端。客户端接收之后就可以更新本地的服务网格配置。虽然 MCP 后来被 xDS 替代,但了解它仍有

文章图片
#golang#服务器#qt
OWASP LLM Top 10 中文解读:大语言模型安全设计指南(一)

摘要:OWASP发布的LLM应用十大安全风险列表(LLM Top 10)针对大语言模型应用的新型安全威胁提供了系统指南。该榜单包含提示注入、训练数据中毒、敏感信息泄露等10大关键风险,并提出了防御建议:重构prompt模板、输出无害化处理、最小权限设计等。作为AI应用安全设计的重要参考,该指南帮助开发者打造可信可控的LLM系统,助力安全思维在AI时代的落地实践。(149字)

#语言模型#安全#人工智能
Go语言性能优化手册 -第1章: pprof 使用与性能火焰图分析

技巧描述💥 找“最宽”火焰,锁定主要瓶颈函数📈 查“上游调用链”,找出是谁触发的🔬 看“热点函数的下游”,是不是内部有隐藏逻辑🧹 如果是 Heap 火焰图,关注有没有没释放的结构体。

文章图片
#golang#性能优化#开发语言
MCP 错误码体系与问题排查实战:让大模型服务更可预期

PARAM_MISSING(10001, "参数缺失"),TOKEN_EXPIRED(20004, "Token 已过期"),MODEL_TIMEOUT(30001, "模型响应超时"),PLUGIN_ERROR(40003, "插件处理异常"),INTERNAL_ERROR(50001, "系统异常");

文章图片
#人工智能#安全#开源软件 +1
OWASP LLM Top 10 中文解读:大语言模型安全设计指南(一)

摘要:OWASP发布的LLM应用十大安全风险列表(LLM Top 10)针对大语言模型应用的新型安全威胁提供了系统指南。该榜单包含提示注入、训练数据中毒、敏感信息泄露等10大关键风险,并提出了防御建议:重构prompt模板、输出无害化处理、最小权限设计等。作为AI应用安全设计的重要参考,该指南帮助开发者打造可信可控的LLM系统,助力安全思维在AI时代的落地实践。(149字)

#语言模型#安全#人工智能
APIsec 数据泄露事件:当“测试安全”的人成为了风险源

APIsec 的事情告诉我们:“测试不是没有责任的游乐场,而是必须受控的实验室。企业的安全短板,往往不是在最硬的地方,而是在“你以为不重要”的地方。当你在写一个“方便调试”的接口时,也许你正在给未来埋一个舆论炸弹。

文章图片
#安全#开源#开源软件 +2
大模型平台Dify安装部署

本文介绍了使用Docker Compose快速部署Dify AI平台的方法。主要步骤包括:克隆最新版本代码、配置环境变量并启动容器(包含3个核心服务和6个依赖组件)。文档详细说明了访问初始化页面、运维管理、模型接入(特别是Ollama本地模型配置)以及离线部署要点。同时提供了K8s/Helm等可选部署方式,并汇总了端口冲突、文件大小限制等常见问题的解决方案。文中多次引用官方文档和GitHub资源,

#安全#大数据#开源软件
大模型平台Dify安装部署

本文介绍了使用Docker Compose快速部署Dify AI平台的方法。主要步骤包括:克隆最新版本代码、配置环境变量并启动容器(包含3个核心服务和6个依赖组件)。文档详细说明了访问初始化页面、运维管理、模型接入(特别是Ollama本地模型配置)以及离线部署要点。同时提供了K8s/Helm等可选部署方式,并汇总了端口冲突、文件大小限制等常见问题的解决方案。文中多次引用官方文档和GitHub资源,

#安全#大数据#开源软件
大模型 × 代码审计:让机器成为最懂代码的安全专家

摘要: 随着软件复杂度激增,传统人工代码审计已无法应对千万行代码的安全挑战。大模型(LLM)通过语义理解与静态分析(SAST)的深度融合,重构代码审计范式:静态层精确定位缺陷,模型层解析漏洞上下文并生成修复建议,实现"检测-理解-修复"闭环。其核心价值在于通过逻辑推理降低误报率(如识别隐藏的输入校验),并输出带自然语言解释的智能报告。系统持续学习人工反馈,形成企业私有知识库,推

文章图片
#安全#网络#安全威胁分析 +2
    共 31 条
  • 1
  • 2
  • 3
  • 4
  • 请选择