logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

idea使用maven搭建Hadoop环境并运行第一个mapreduce程序实现WordCount

(一)MapReuduce入门之环境搭建1,定义:mapReduce是一种分布式计算框架,Mapreduce 核心功能是将用户编写的业务逻辑代码和自带默认组件整合成一个完整的分布式运算程序,并发运行在一个 hadoop 集群上。2,特点:mapReduce易于编程、扩展性好、适合处理PB级别数据;但是他不适合处理实时数据,流失计算、有向图计算等。3,mapreduce程序编写规则:1)Mapper

#hadoop#mapreduce#idea +1
纵向联邦学习中的逻辑回归方案介绍

纵向联邦学习中的逻辑回归方案1,传统机器学习里的LR计算:y′=σ(wx)y^\prime=σ(wx)y′=σ(wx)。w为模型;目标:输入x得到输出。如何训练w:w:=w−g,其中g=(y′−y)xw:=w-g,其中g=(y^\prime-y)xw:=w−g,其中g=(y′−y)x如何停止:设置迭代次数和loss收敛阈值。2,纵向联邦里的LR联邦学习里首先对标签{0,1}改动为{1,-1}。然后

#逻辑回归
联邦学习概念及应用

联邦学习0,联邦学习概念联邦学习是使得多方在不共享本地数据的前提下,进行多方协同训练的机器学习方式。因此,他在实现功能的同时,能够很好的保护数据隐私。目前联邦学习支持的算法:SecureBoost,线性回归,逻辑回归,神经网络算法等。1,特点数据绝对掌握:每一个参与方数据都不离开本地,模型信息在各参与方之间以加密的形式传输,且保证不能由模型推测出原始数据;参与方不稳定:不同参与方在计算能力、通信稳

#机器学习
(2021年3月)Datawhale数据挖掘挑战赛TASK2 数据分析

import warningswarnings.filterwarnings('ignore')import missingno as msnoimport pandas as pdfrom pandas import DataFrameimport matplotlib.pyplot as pltimport seaborn as snsimport numpy as npimport pand

#数据挖掘#python#数据分析
(2021年3月)Datawhale数据挖掘挑战赛TASK2 数据分析

import warningswarnings.filterwarnings('ignore')import missingno as msnoimport pandas as pdfrom pandas import DataFrameimport matplotlib.pyplot as pltimport seaborn as snsimport numpy as npimport pand

#数据挖掘#python#数据分析
合马番外篇——黄山游踪

一年一度的个人马拉松,今年花落合肥。因为赛前训练自己跑了个不错的成绩,所以合肥之行还是比较期待,有望大幅提升个人PB。无心中又发现,合肥离黄山蛮近——是的,就是那个短视频里推送无数次的黄山,一句误闯天家的BGM,配上天都胜景,让人无数次按捺不住地心生以往。恰好手上的工作告一段落,好事成双,梦想将近,于是一并休了几天假,打算赛后直奔黄山,期待着一睹盛颜。天公做美,合马前一天便预约到了天都峰的门票。开

文章图片
隐私计算概念及应用介绍

隐私计算概念及应用介绍隐私计算的核心理念是:**”数据可用不可见,数据不动模型动。“**通过隐私计算技术,打通数据孤岛,释放数据价值,为政府,企业,个人带来便利。按照目前的市场技术,隐私计算技术主要有三个方向:联邦学习,安全多方计算和可信计算。(差分隐私作为一种数据处理方式也纳入其中)1,联邦学习联邦学习是一种分布式机器学习技术和系统,包括两个或多个参与方,这些参与方通过安全的算法协议进行联合机器

相见恨晚!一文搞清XGBoost算法

XGBoost算法1,算法简介XGBoost(Extreme Gradient Boosting),即一种高效的梯度提升决策树算法。他在原有的GBDT基础上进行了改进,使得模型效果得到大大提升。作为一种前向加法模型,他的核心是采用集成思想——Boosting思想,将多个弱学习器通过一定的方法整合为一个强学习器。即用多棵树共同决策,并且用每棵树的结果都是目标值与之前所有树的预测结果之差 并将所有的结

文章图片
#决策树#算法
【JVM系列(零)】虚拟机主要架构解析

虚拟机主要架构解析1,虚拟机概述虚拟机的地位:虚拟机的存在使得 Java 具备跨平台特性,只要其他平台预装了JVM,Java程序就能够在上面执行。我们更多的是关注虚拟机中的运行时数据区。一些关键数据的交互和执行都发生在此。运行时数据区主要包括以下几部分:线程隔离区程序计数器:在线程上下文切换时,程序计数器用于记录当前线程正在执行的字节码指令的地址本地方法栈:调用本地方法所需要的数据区虚拟机栈:方法

#jvm
到底了