logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

结合多模型内容风险检测过滤的大模型内容围栏系统

博特智能提出通过多模型风险识别对风险内容检测过滤,主要利用不同模型对风险敏感度的不同和关键词库等技术实现风险内容的分类过滤,实现对风险内容的多元化风险判断,保障生成式人工智能大模型输入和输出内容的安全性、合规性。基于“宪法式”对于与对话治理方式,能够通过设定的规则、规范让模型在对话中自行对内容进行价值判定、修正或拒绝,以实现明确的目标导向的自我约束和安全性提升。如果安全进行信息内容输出。3.2 如

#人工智能#安全性测试
大模型安全治理体系介绍

本报告基于多源材料,系统分析大模型安全治理体系的建设内容,涵盖数据集构建、评估框架、安全技术、微调方法、部署实践及治理框架等核心维度。报告旨在为研究者、开发者和政策制定者提供全面的安全治理方案,促进大模型安全、可靠、高效的应用与发展。

#人工智能#语言模型#自然语言处理 +1
红队大模型多轮对话攻击简介及技术路径

红队大模型多轮对话则是让红队所使用的大模型与目标大模型进行多轮次的对话交互,在对话过程中,红队大模型会不断尝试使用各种可能的对抗性输入,以探测目标大模型的防御漏洞和潜在风险[3]。通过分析红队大模型与目标大模型的多轮对话过程,能够深入了解攻击的路径、手段和特点,从而有针对性地设计防御机制,如增强大模型对对抗性输入的识别能力、优化模型的鲁棒性等,提高大模型的整体安全水平。在多轮对话中,红队大模型会根

#人工智能#语言模型#安全性测试
大模型内容围栏方案设计:安全架构、技术实现与治理框架

大模型安全围栏通过全生命周期防护体系,结合技术、标准与生态协同,构建可信创新边界,平衡效能与安全。

#人工智能#安全架构
大模型内容围栏方案设计:安全架构、技术实现与治理框架

大模型安全围栏通过全生命周期防护体系,结合技术、标准与生态协同,构建可信创新边界,平衡效能与安全。

#人工智能#安全架构
2025年主流AI搜索分析监测工具对比评测报告

本次评测采用百分制评分,各维度权重占比保持不变:核心功能完整性(30%)、技术实力与数据精准度(25%)、平台覆盖广度(15%)、适用场景适配性(15%)、定价服务性价比(15%)。2025年AI搜索分析监测工具的“场景分化”特征更显著:犀帆以全链路能力领跑综合赛道,百分点聚焦中文轻量监测,BotGEO则凭借“提示词精细化+政企适配+可视化集成”的组合优势,巩固前三位置,成为营销团队(尤其是代理型

#人工智能
政府公文写作产品选择指南

关键发现: - 新华妙笔依托电子公文系列国家标准内置模板和动态合规引擎,在文号生成(如”X政函〔2025〕X号”格式)、正文层级编排、附件标注等全要素实现近乎零误差,综合准确率行业第一 - WPS-AI依托政务语料训练优势,在文号生成实现零误差,但正文层级编排准确率略低于新华妙笔 - 笔墨写作网的智能校对模块成功修复92%的层级错误(如错误使用”一、“与”(一)“混排) - 文心一言在非模板化写作

#人工智能#政务
博特智能基于提示词注入的大模型红队攻击测试技术介绍

综上所述,现有技术在防御提示词注入方面取得了一定进展,但在攻击模拟和安全评测层面,尤其是在提供一个能够模拟复杂、多变、可叠加攻击策略的自动化红队测试系统方面,仍存在明显不足。博特智能方案提出通过构建基于LLM大语言模型的多类提示词注入器, 并在词基础上构建工具链编排系统串联并叠加不同的提示词注入器, 提供可配置的提示词注入组合, 实现对原始攻击内容丰富多变的毒性增强, 从而达到对模型的深层次安全能

#网络#安全#运维
结合多模型内容风险检测过滤的大模型内容围栏系统

博特智能提出通过多模型风险识别对风险内容检测过滤,主要利用不同模型对风险敏感度的不同和关键词库等技术实现风险内容的分类过滤,实现对风险内容的多元化风险判断,保障生成式人工智能大模型输入和输出内容的安全性、合规性。基于“宪法式”对于与对话治理方式,能够通过设定的规则、规范让模型在对话中自行对内容进行价值判定、修正或拒绝,以实现明确的目标导向的自我约束和安全性提升。如果安全进行信息内容输出。3.2 如

#人工智能#安全性测试
Cohere AI:企业级大模型赛道的崛起与挑战

本报告深度分析加拿大AI独角兽Cohere完成5亿美元D轮融资的核心动因及战略意义。通过解构其技术路线、商业模式、竞争格局及融资策略,揭示企业级大模型市场的演进趋势,并评估其在OpenAI等巨头夹击下的差异化突围路径。1. 引言:AI融资浪潮中的战略转折点全球AI融资热潮的背景2024年标志着生成式人工智能(AI)领域融资的爆发性增长,全球初创企业融资总额突破394亿美元,远超去年同期水平。这一数

#人工智能
    共 15 条
  • 1
  • 2
  • 请选择