logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Havenlon|Policy 不是神谕(三):为什么 SaaS Policy 不能单独放行执行

现代企业越来越依赖 SaaS Policy。身份、权限、审批、额度、风控、组织关系、任务编排、AI Agent 治理,往往都集中在云端完成。SaaS 的优势非常明显:它能够看到更完整的业务上下文,可以快速更新策略,可以协调多个成员与系统,可以统一记录审批与操作日志,可以根据实时数据调整风险判断。因此,人们很容易进一步推导:既然 SaaS 掌握最多信息,它就应该拥有最终放行权。但这一步并不成立。信息

文章图片
#人工智能#安全架构#安全 +1
Havenlon|Policy 不是神谕(三):为什么 SaaS Policy 不能单独放行执行

现代企业越来越依赖 SaaS Policy。身份、权限、审批、额度、风控、组织关系、任务编排、AI Agent 治理,往往都集中在云端完成。SaaS 的优势非常明显:它能够看到更完整的业务上下文,可以快速更新策略,可以协调多个成员与系统,可以统一记录审批与操作日志,可以根据实时数据调整风险判断。因此,人们很容易进一步推导:既然 SaaS 掌握最多信息,它就应该拥有最终放行权。但这一步并不成立。信息

文章图片
#人工智能#安全架构#安全 +1
Havenlon|执行缝隙(十一):执行证据链为什么必须从 Intent 开始

摘要: 执行系统的核心安全挑战在于证明“最终执行的动作是否仍符合原始意图”。传统审计日志(如审批记录、签名、执行结果)仅能记录“发生了什么”,却无法验证“该不该发生”。真正的执行证据链必须从**Intent(意图)**开始,将其作为根节点,结构化记录其边界(发起者、目标、范围等),并确保后续每一步(审批、策略、签名、执行)都绑定该意图,形成一条可验证的“同一性”链条。在高风险场景或AI Agent

文章图片
#人工智能#安全架构#安全威胁分析
Havenlon|执行缝隙(十一):执行证据链为什么必须从 Intent 开始

摘要: 执行系统的核心安全挑战在于证明“最终执行的动作是否仍符合原始意图”。传统审计日志(如审批记录、签名、执行结果)仅能记录“发生了什么”,却无法验证“该不该发生”。真正的执行证据链必须从**Intent(意图)**开始,将其作为根节点,结构化记录其边界(发起者、目标、范围等),并确保后续每一步(审批、策略、签名、执行)都绑定该意图,形成一条可验证的“同一性”链条。在高风险场景或AI Agent

文章图片
#人工智能#安全架构#安全威胁分析
Havenlon|Policy 不是神谕(一):策略不是安全本身

在今天的软件系统里,Policy 正在被赋予越来越高的地位。权限系统依赖 Policy,风控系统依赖 Policy,AI Agent 的工具调用依赖 Policy,企业审批、支付放行、数据导出、证书轮换、基础设施变更,也都依赖 Policy。只要策略引擎返回 Allow,系统就继续向前。久而久之,我们很容易产生一种错觉:只要策略判断通过,执行就是安全的。但 Policy 从来不是安全本身。

文章图片
#安全#数据库#人工智能 +2
Havenlon|Policy 不是神谕(一):策略不是安全本身

在今天的软件系统里,Policy 正在被赋予越来越高的地位。权限系统依赖 Policy,风控系统依赖 Policy,AI Agent 的工具调用依赖 Policy,企业审批、支付放行、数据导出、证书轮换、基础设施变更,也都依赖 Policy。只要策略引擎返回 Allow,系统就继续向前。久而久之,我们很容易产生一种错觉:只要策略判断通过,执行就是安全的。但 Policy 从来不是安全本身。

文章图片
#安全#数据库#人工智能 +2
Havenlon|AI 时代的执行控制(五):Tool Calling 改变的不是交互方式,而是安全模型

Tool Calling 真正改变的,不是交互方式,而是安全模型。因为从这一刻开始,AI 不再只是信息生成器,而是进入了执行链路。这个工具一旦被调用,现实世界会发生什么?工具越接近真实执行,越不能只靠模型自己判断。Tool Calling 让 AI 拥有了手。而一旦 AI 有了手,真正的安全边界,就不能只停在大脑里——它必须站在执行发生之前。

文章图片
#人工智能#安全#microsoft +2
Havenlon 白皮书解读|架构笔记(六):SaaS 不等于控制权

《Havenlon白皮书v2.0》4.4节提出"决策权与执行权分离"的核心架构理念:云端SaaS层(Bletchley)负责策略管理、风控计算和流程协作,但最终执行权始终由物理隔离的EnigmaHub硬件掌控。这种设计通过三层分工实现:云端发起请求、PassKey验证身份、硬件生成不可伪造的签名。其价值在于:1)防止网络拦截或云端入侵导致的强制操作;2)确保AI Agent、W

文章图片
#架构#人工智能#安全架构
Havenlon|AI 时代的执行控制(十二):把执行权关进笼子:AI 时代的安全新常识

AI 时代,真正需要被重新理解的,不只是模型能力,而是执行权。过去我们习惯讨论:AI 会不会思考,会不会答错,会不会幻觉,会不会替代人,会不会拥有更强的推理能力。但当 AI Agent、Tool Calling、自动化脚本、SaaS 工作流和企业系统开始连接在一起,一个更现实的问题出现了:AI 不只是会想,它开始会做。

文章图片
#人工智能#安全架构#安全 +1
从能力治理到执行控制 |ARC Framework 为什么是 Havenlon 最好的一个注脚

最近读到一篇论文,标题叫《With Great Capabilities Come Great Responsibilities》,来自新加坡 GovTech 和新加坡科技设计大学的研究者。它提出了一个叫 ARC Framework(Agentic Risk & Capability Framework) 的技术治理框架,目标是帮助组织去识别、评估和缓解 Agentic AI 系统带来的安全风险。

文章图片
#人工智能#安全架构#架构 +1
    共 81 条
  • 1
  • 2
  • 3
  • 9
  • 请选择