
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
《Accelerating Private Large Transformers Inferencethrough Fine-grained Collaborative Computation》笔记
总之,这是在特定安全模型下,一种“简化流程、提升整体效率”的优化,牺牲了部署的灵活性(必须是三方)来换取性能。它将一个复杂的向量内积或卷积运算,直接映射成了一次原生的多项式乘法,这样可以直接利用HE的乘法,结果多项式的系数里就包含需要的结果,避免了复杂的旋转操作。在线阶段,双方只需进行极少量、轻量级的通信,然后所有计算都是本地完成的,计算压力转移到了离线阶段。预计算均值/方差:如果处理的数据有规律
《面向深度学习的高效安全推理研究综述》学习笔记
SecretFlow-SPU则更进一步,不限定前端框架,用户可以用任何主流深度学习框架编写模型,再通过少量代码修改迁移到安全推理,它底层支持ABY3、Cheetah、semi2K等多种高效安全协议,且推理速度比传统框架快数倍。:将非线性函数转化为布尔电路,适合实现比较、ReLU等操作,虽然通信轮数与电路深度无关,但复杂非线性函数对应的电路规模庞大,通信开销依然很高。现有模型优化方法(剪枝、近似、蒸
《BOLT: Privacy-Preserving, Accurate and Efficient Inference for Transformers》学习笔记
通信优化的线性层协议:紧凑编码 + BSGS + 密文-密文矩阵乘。高效的非线性近似:低阶多项式 + Motzkin预处理 + 无LUT的Softmax。机器学习协同优化:词消除 + 安全感知微调。开源系统BOLT:首个接近实用的隐私保护Transformer推理系统。四、启发。
到底了







