logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

《联邦学习实战》杨强 读书笔记十七——联邦学习加速方法

如何在保证模型性能不下降的前提下,有效提升联邦学习的训练效率,成为当前联邦学习的一个研究热点问题。模型计算和通信传输成为影响联邦学习效率的两大因素。WFBP表示wait-free backpropagation;0ZMQ表示ZeroMQ,NCCL表示NVIDIA collective library。通信效率的优化显得比计算性能的优化复杂和困难得多,因而从计算机系统的角度看,边缘端设备的算力水平在

#神经网络#深度学习#机器学习 +1
《联邦学习实战》杨强 读书笔记一——前言

AI的力量来自大数据,在现实中能获取的往往是少量数据,例如:在法律领域,获取一个完整的案例样本往往需要很多的时间和资源在金融领域,在风控建模中,如果把反洗钱案例看成正样例,那么这也的正样例数据非常珍贵。在医疗领域,对于罕见疾病,能获得的病例数据少之又少。而在相关技术使用的过程中,一方面人工智能和大数据技术为人类的发展提供了光明的前景和技术保障;另一方面,人类自身的权益保护又限制了数据按照粗放方式进

#机器学习#神经网络#pytorch
《联邦学习实战》杨强 读书笔记九——联邦个性化推荐案例

一般而言,收集的数据越多,对用户和推荐内容的了解就越全面和深入,推荐效果就越精准。传统的集中式个性化推荐矩阵分解矩阵分解(MF),是最常用的推荐算法之一。我们将用户对物品的反馈用矩阵表示,这个矩阵也被称为评分矩阵。将原始评分矩阵分解为和,使得:.其中,为,(用户隐向量矩阵)的维度为,(物品隐向量矩阵)的维度为,是一个较小的数。...

文章图片
#机器学习#边缘计算
《联邦学习实战》杨强 读书笔记二——联邦学习概述

联邦学习的定义联邦学习是利用分散在各参与方的数据集,通过隐私保护技术融合多方数据信息,协同构建全局模型的一种分布式训练方式。在Federated Learning中概述的、关于联邦学习描述的一些共同特征,可以概括为:有两个(或以上)的联邦学习参与方协作构建一个共享的机器学习模型。 每一个参与方都拥有若干各自希望能够用来训练模型的训练数据。在联邦学习模型训练过程中,每一个参与方拥有的数据都不会离开该

#机器学习#人工智能#深度学习 +2
《联邦学习实战》杨强 读书笔记十八——联邦学习与其他前沿技术

目录联邦学习与Split LearningSplit Learning设计模式Split Learning与联邦学习的异同联邦学习与边缘计算边缘计算综述联邦学习与边缘计算的异同点联邦学习与Split LearningSplit Learning的核心思想是将网络的结构进行拆分,每个设备只保留一部分网络结构,所有设备的子网络结构构成一个完整的网络模型。在训练过程中,不同的设备只对本地的网络结构进行前

#深度学习#神经网络#边缘计算 +1
《联邦学习实战》杨强 读书笔记十四——构建公平的大数据交易市场

当数据具有资产属性之后,数据便可以直接或者间接地为公司、为社会创造价值和收益,并且可以作为一种特殊的商品在市场中进行交易。与传统的商品交易相比,数据资产交易的市场前景更广阔,但同时也面临着很多的挑战,主要包括:数据的质量、价格如何定义在合法合规的前提下,数据的交易如何确保不会泄露用户的隐私如何构建合理的激励机制来鼓励更多的参与方加入数据交易市场中大数据交易数据交易的定义数据交易是指一种对数据进行买

#神经网络#机器学习#深度学习 +1
《联邦学习实战》杨强 读书笔记十一——联邦学习在智能物联网中的应用案例

目录案例的背景与动机历史数据分析出行时间预测模型问题定义构造训练数据集模型结构联邦学习在智慧城市建设中的一个应用,即用户的出行预测,帮助用户更好地规划出行安排。人工智能物联网(以下简称AIoT)是一种将人工智能技术和物联网技术相结合而出现的前瞻性概念。本章介绍联邦学习在AIoT中的一个重要应用:预测社区住户的出行时间,从而帮助住户提供更好的出行建议(如打车预测、路线推荐等)。本案例是横向联邦学习在

#神经网络#机器学习#边缘计算 +1
复杂网络模型总结

分类均匀性分类均匀网络(如WS小世界模型) 度数分布较均匀非均匀网络(如BA无标度网络) 度数分布极度不均匀关联性分类无关联网络:任何一个节点的度与它的邻居节点的度是相互独立的关联网络:节点的度与它的邻居节点的度不是相互独立的一些基础WS、NW小世界模型:描述朋友关系。BA无标度网络:描述持续的社会连接,如发表论文总会优先找已经写过论文的人。鲁棒性和脆弱性并存。有限支撑、无限支撑“赢者通吃”。局域

Proteus 元件名称对照表

Proteus 元件名称对照表元件名称中文名说明--------------------常用----------------------------------------button按键开关buzzer蜂鸣器pack排阻CAP电容CRYS...

#嵌入式
联邦学习(电子工业出版社)——读书笔记(2)

第三章 分布式机器学习联邦学习与分布式机器学习(Distributed Machine Learning, DML)关系:有许多学者将联邦学习看作分布式机器学习的一种特殊形式或者把联邦学习看作是分布式机器学习的下一步发展我的理解:联邦学习是用户使用自己的数据集,自发地一起训练,联合起来实现更佳的效果;DML是将训练过程分配到各个计算节点目录第三章 分布式机器学习分布式机器学习介绍定义面向扩展的DM

#机器学习#人工智能#密码学
    共 11 条
  • 1
  • 2
  • 请选择