logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大数据相关组件介绍

它是一个开源的分布式计算框架,让数据分散储存在多台计算机上,然后使用MapReduce的方法,将数据分成小块一块一块地处理,最后把结果汇总起来。Hadoop可以高效地处理大量的数据,让我们轻松面对海量信息的挑战。有了Hive,我们不需要学习新的编程语言,只需使用熟悉的SQL,就能轻松地查询和分析海量的数据。就像一个默契的团队一样,大数据组件们一起工作,使得数据处理变得更加高效、可靠,帮助我们揭开数

#大数据
git 提示:error: unable to rewind rpc post data - try increasing http.postBuffer

把项目fork下来,加入本地项目,当push到源仓库的时候,出现如下问题:git -c diff.mnemonicprefix=false -c core.quotepath=false -c credential.helper=sourcetree push -v --tags origin refs/heads/develop:refs/heads/develop Pu

用scrapy写爬虫(三)爬取慕课网全部免费课程

前两篇文章中,简单用scrapy写了一个小demo,本篇文章主要目标是完整用scrapy爬取,慕课网所有免费的课程、标题、图片、地址、学习人数、难度、方向、分类、时长、评分、评论数等。其实,很简单,在上一次的代码中修改调整一下就好。Spider# -*- coding: utf-8 -*-import scrapyimport jsonfrom urllib import p...

用scrapy写爬虫(四)利用Flask和ECharts进行数据可视化

前几篇文章,我们对慕课网的课程进行了爬取,本文就对数据进行统计和可视化,让这些数据更直观的展现出来。介绍Flask是基于Python的非常流行的框架之一,主要用于web开发,适合开发中小型项目,易于扩展。Flask的官方网站是http://flask.pocoo.org/。Echarts(http://echarts.baidu.com/)是百度出品的,基于Canvas的,纯...

PHP curl post的content-type导致获取不到数据的问题

$url="http://www.otcmarkets.com/edgar/ajax/GetFilings.json";$keysArr = array(    "symbol"=>"FSCND",    "body"=>"[object HTMLDivElement]",    "progressBarBody"=>"[object HTMLQuoteElement]",  

python做量化交易干货分享

http://www.newsmth.NET/nForum/#!article/Python/128763最近程序化交易很热,量化也是我很感兴趣的一块。国内量化交易的平台有几家,我个人比较喜欢用的是JoinQuant,里面有篇干货贴分享给大家,希望对各位有帮助。===========================量化交易策略===========================价值投资成长股内在

机器学习算法应用场景实例六十则

本文整理了60个机器学习算法应用场景实例,含分类算法应用场景20个、回归算法应用场景20个、聚类算法应用场景10个以及关联规则应用场景10个。包含了天池、DataCastle、DataFountain中所有竞赛场景。目录1 分类算法应用场景实例1.1 O2O优惠券使用预测1.2 市民出行选乘公交预测1.3待测微生物种类判别1.4 基于运营商数据的个人征信评估1.5 商品图片分类1.6 广告点击行为

详解ARP协议工作流程和ARP欺骗原理,以及ARP欺骗攻击实验

ARP(Address Resolution Protocol)即地址解析协议,负责将某个IP地址解析成对应的MAC地址。在网络通信过程中会使用到这两种地址,逻辑IP地址和物理MAC地址,一般情况下,正常通信需要这两种地址协同工作。一个主机要和另一个主机进行直接通信,必须要知道目标主机的MAC地址。但这个目标MAC地址是如何获得的呢?就是需要通过ARP协议获得的。ARP工作过程1.主机A想要发送数

从架构到算法,详解美团外卖订单分配内部机制

序言最近两年,外卖的市场规模持续以超常速度发展。近期美团外卖订单量峰值达到 1600 万,是全球规模最大的外卖平台。目前各外卖平台正在优质供给、配送体验、软件体验等各维度展开全方位的竞争,其中,配送时效、准时率作为履约环节的重要指标,是外卖平台的核心竞争力之一。要提升用户的配送时效和准时率,最直接的方法是配备较多的配送员,扩大运力规模,然而这也意味着配送成本会很高。所以,外卖平台一方面要追求好的配

    共 18 条
  • 1
  • 2
  • 请选择