JoySafety - 京东开源大模型安全框架

概述

JoySafety 是京东开源的企业级大模型安全防护框架，提供成熟、可靠、免费的安全解决方案，确保AI应用生成内容的安全合规与稳定运行。

核心特性：

• 🛡️ 企业级安全防护
• 🆓 完全开源免费
• 🚀 高并发高扩展
• ⚙️ 动态策略更新
• 📦 一键Docker部署

主要功能

内容安全检测

• 敏感内容拦截：识别并拦截违法违规内容
• 红线代答机制：对禁止性问题返回安全话术
• 智能纠偏：修正有偏见或不准确的内容输出

数据安全防护

• 敏感信息识别：检测个人身份信息、银行账号等
• 数据脱敏处理：防止敏感数据泄露
• 合规性保障：符合GDPR、个保法等隐私法规

提示词攻击防御

• 多轮对话分析：基于上下文识别恶意引导
• 攻击类型覆盖：防御Prompt Injection、越狱等攻击
• 系统稳定性：确保对话系统安全可靠

策略编排与动态更新

• API动态调整：实时更新安全策略无需重启
• 原子能力热插拔：灵活启用禁用检测模块
• 业务场景适配：支持不同行业的定制化需求

高扩展性与负载均衡

• 集群化部署：支持水平扩展提升处理能力
• 智能负载均衡：优化资源分配和请求分发
• 并发处理：满足高并发业务场景需求

易用性与集成

• Docker一键启动：快速部署简化运维
• 标准化API：提供RESTful接口
• 多语言支持：方便现有系统集成

技术架构

多模型协同检测

检测流程示例
输入内容 → BERT分类 → FastText辅助 → 规则库匹配 → 风险判定

核心组件

组件	功能	技术
检测引擎	内容风险识别	BERT, Transformer
规则库	敏感词匹配	知识图谱
异步处理器	性能优化	异步IO
编排引擎	策略管理	轻量级调度

性能优化策略

• 异步检测机制：与主业务解耦，提升响应速度
• 窗口化检测：平衡性能与准确性
• 负载均衡：智能分发请求至计算节点

快速开始

环境要求

• Docker
• Docker Compose
• 4GB+ RAM

一键部署

bash
克隆项目
git clone https://github.com/jd-opensource/JoySafety.git
启动服务
cd JoySafety
docker-compose up -d

API调用示例

python
import requests
api_url = "http://localhost:8080/check"
payload = {
"text": "需要检测的文本内容",
"scene": "ecommerce" # 业务场景
}
response = requests.post(api_url, json=payload)
result = response.json()

应用场景

场景	安全需求	解决方案
AI导购	推荐内容合规性	商品推荐安全过滤
物流客服	客户信息保护	敏感信息脱敏
销售助手	商业机密保护	数据防泄露
医疗问诊	医疗建议合规	内容安全审核
商家工作台	隐私数据保护	多层级安全防护

项目信息

开源协议： Apache 2.0
源码地址： https://github.com/jd-opensource/JoySafety
文档地址： 项目Wiki页面

优势总结

1. 全面防护：覆盖内容安全、数据安全、攻击防御
2. 企业级特性：高可用、高扩展、动态更新
3. 开源免费：无商业限制，可自由使用和修改
4. 易于集成：标准化API，多语言支持
5. 性能优异：异步处理，负载均衡优化

---

最后更新： 2024年12月
维护团队： 京东开源团队
推荐场景： 电商、金融、医疗、客服等大模型应用场景