logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

OWASP LLM Top 10 中文解读:大语言模型安全设计指南(一)

摘要:OWASP发布的LLM应用十大安全风险列表(LLM Top 10)针对大语言模型应用的新型安全威胁提供了系统指南。该榜单包含提示注入、训练数据中毒、敏感信息泄露等10大关键风险,并提出了防御建议:重构prompt模板、输出无害化处理、最小权限设计等。作为AI应用安全设计的重要参考,该指南帮助开发者打造可信可控的LLM系统,助力安全思维在AI时代的落地实践。(149字)

#语言模型#安全#人工智能
为什么金融业需要开源软件管理?标准的背景与管理架构 (金融业开源软件应用管理指南 JR/T 0290—2024)

金融业数字化转型加速,开源软件已成为关键基础设施,但伴随的安全与合规风险不容忽视。2024年央行发布的《金融业开源软件应用管理指南》为行业提供系统化管理框架,要求建立覆盖全生命周期的治理体系,包括组织架构、规章制度、流程管理、风险控制等六大支柱。标准强调从制度、流程到工具的三层落地,推动金融机构实现开源使用的体系化、可追溯和风险可控。随着AI等新技术发展,健全的开源治理将成为金融机构数字化转型的重

#开源软件#架构
Go 学习笔记 · 进阶篇 · 第四天:内存模型与逃逸分析

当一个变量不能保证在函数结束后不会被其他地方使用,Go 编译器就会把它放到堆上,这叫“逃逸”。栈快但短命,堆慢但持久Go 编译器会做逃逸分析,把变量自动安排到合理的位置是你的逃逸显微镜性能调优第一步:先看变量是不是逃逸了!今日咒语:“不要试图控制一切,但至少要知道谁在偷偷溜出函数体。

文章图片
#golang#学习
BERT + 向量相似度:文本相似度计算的语义王炸组合

BERT(Bidirectional Encoder Representations from Transformers)是 Google 提出的预训练语言模型,具备双向上下文理解能力,是语义级 NLP 的开山之作。它能将一句话变成一个高维向量(通常 768 维或 1024 维),这个向量就代表了这句话的语义。

文章图片
#bert#自然语言处理#深度学习
兄弟是最深的信任,还是最大的风险?——从《棋士》谈 DevOps 中的信任链安全

DevOps 本质上是开发(Dev)与运维(Ops)的一体化协作。:触发构建的起点构建脚本 / Dockerfile:定义镜像环境制品仓库 / 镜像仓库:存储构建产物测试与安全扫描工具:验证构建安全性部署平台(如 K8s、Serverless):最终上线执行这些组件通过访问权限、API 密钥、Webhook、SSH 密钥、Token等形式串联在一起,形成了一个完整的信任链(Trust Chain)

文章图片
#devops#信任链#安全
DQN:深度 Q 学习,让 AI 自己学会走迷宫!

每一轮训练(Episode)就像一次“刷副本”,智能体一边探索环境、一边更新自己的大脑。DQN 就像给 Q-learning 装上了“大脑”,不再手动查表,而是通过神经网络自己学会如何评估每一个动作的价值。ε 一开始设得大一点,然后逐渐降低,比如从 1 降到 0.01,逐步让智能体从“瞎玩”变成“聪明玩”。训练时随机从这些“回忆”里抽样,打乱顺序训练,避免连续样本带来的偏差。每次训练就是在更新这个

文章图片
#学习#人工智能
模型说我写得像攻击者,我谢谢你啊

我真没想到,有一天我会被自己的代码“举报”。事情是这样的:我用某个 AI 模型帮忙做代码安全审查,想着能抓几个疏漏,顺便看看它水平怎么样。结果它看完之后,语气严厉得像个站在安全部楼道口的老师傅:“这段代码有 SSRF 风险。“你这个可能是未授权访问。“你这个日志行为疑似信息泄露。我人都傻了,我这是正经业务逻辑啊,你这是在拿我当黑客啊兄弟!

文章图片
#人工智能#开源#大数据 +2
大模型+代码分析:我用 AI 找到了10个历史安全漏洞

前段时间我一时兴起,把三年前写的老项目丢给了一个大模型审一审,结果它翻出了我亲手埋的十个安全雷。看着模型一本正经地告诉我:“你这段 SQL 拼接有注入风险”,我竟一时语塞——因为那真的是线上出过事故的地方。于是我开始认真思考:这个 AI 是不是该发年终奖了?今天这篇文章,就带大家复盘一下这场“AI 揪出自己写的锅”的全过程。

文章图片
#人工智能#大数据#开源 +1
金融业开源软件应用管理指南 JR/T 0290—2024: 平台在手,天下我有?金融机构如何用工具化管好开源软件

可视化:告别“Excel管天下”高效协同:流程自动流转、结果可追溯责任清晰:职责到人、通知到位数据驱动:支持统计、预警、分析工具本身不会解决问题,但**“工具 + 机制 + 流程”**可以。别让工具沦为形式、只出报告、没人看;别让平台变成摆设、只挂链接、不接地气。嵌入研发流程中连接组织结构中绑定责任人提供实时数据与可操作性闭环金融机构在引入这些平台与工具时,更要注重从组织制度、人员配置、流程设计等

文章图片
#开源软件#网络
AI RAG系列: 第8篇:【常用RAG开源框架对比与选择】

本文为【深入理解RAG】系列第8篇,聚焦主流开源RAG框架的优劣与适配场景,帮助你快速找到最适合自己项目的技术选型路线。欢迎继续关注系列更新!

文章图片
#人工智能#开源
    共 20 条
  • 1
  • 2
  • 请选择