logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Pyspark特征工程--Word2Vec

Word2Vecclass pyspark.ml.feature.Word2Vec(vectorSize=100, minCount=5, numPartitions=1, stepSize=0.025, maxIter=1, seed=None, inputCol=None, outputCol=None, windowSize=5, maxSentenceLength=1000)Word2Ve

#人工智能#nlp
Pyspark特征工程--VectorIndexer

VectorIndexerclass pyspark.ml.feature.VectorIndexer(maxCategories=20, inputCol=None, outputCol=None, handleInvalid=‘error’)用于对 Vector 数据集中的分类特征列进行索引的类两种使用模式:​1.自动识别分类特征(默认行为)​这有助于将未知向量的数据集处理成具有一些连续特征和

#机器学习#spark#数据挖掘
Pyspark特征工程--Tokenizer

Tokenizer是一个分词器​Tokenizer是将文本如一个句子拆分成单词的过程,在spark ml中提供Tokenizer实现此功能RegexTokenizer提供了跟高级的基于正则表达式匹配的单词拆分​默认情况下:​参数pattern(默认的正则表达式:"\s+") 作为分隔符用于拆分输入的文本​用户将可将参数 gaps设置为false,指定正则表达式pattern表示为tokens,而不

#spark#大数据#big data
docker容器,数据库备份导出postgreSQL到宿主机

1.容器状态:docker ps或者docker ps -a查看状态,本人容器中布置了两个数据库(base) [root@VM-16-5-centos ~]# docker ps -aCONTAINER IDIMAGECOMMANDCREATEDSTATUSPORTSNAMESe4c8ff1c8d6

#docker#big data#centos
docker容器,数据库备份导出postgreSQL到宿主机

1.容器状态:docker ps或者docker ps -a查看状态,本人容器中布置了两个数据库(base) [root@VM-16-5-centos ~]# docker ps -aCONTAINER IDIMAGECOMMANDCREATEDSTATUSPORTSNAMESe4c8ff1c8d6

#docker#big data#centos
pyspark对mysql的读写

准备工作:将mysql的jar包放在$SPARK_HOME/jars目录下1.生成一个SparkSession()对象,并导入相关的库和接口from pyspark.sql import SparkSessionfrom pyspark import SparkConf,SparkContext, SparkConfspark = SparkSession.builder.config(conf=

#mysql#sql#数据库
Hadoop,HDFS文件系统单机环境配置

01.添加hadoop用户组到系统用户 安装前要做一件事​添加一个名为hadoop的用户到系统用户,专门用来做hadoop测试(base) root@Windows-2021WEO:/mnt/e/win_ubuntu/envs# sudo addgroup hadoopAdding group `hadoop' (GID 1000) ...Done.(base) root@Windows-2021

#hadoop#hdfs#big data
解决Idea因为语言水平(Language level)语法报错和编译器(java compiler)运行报错

问题描述:​我很确定自己使用的java版本是1.8,我一直都用的这个版本,但是使用java写flink的时候出现如下情况:​虽然可以自己定义一个接口去实现,但是以前写Scala的我,还是觉得写隐函数比较习惯一点定位问题:step1:​看一下configurations的信息,确定一下使用的JRE版本,使用的默认的1.8step2:​看一下项目结构使用的Language level​这里语言水平居然

#idea#intellij-idea
解决docker中数据库时间与当前时间不吻合

01.问题排查1.使用mysql数据库查询当前日期的时候发现时间并不吻合select CURRENT_DATE(),CURRENT_TIME();2.数据库的配置问题​在window11系统上,使用VMware Workstation软件,配置的虚拟机​虚拟机系统为centos7,配置有docker容器。并在docker容器中配置的mysql数据库(base) [root@192 ~]# dock

#docker#数据库#容器
Part6---Java创建Hbase表

01.先查看HBase中表(base) [root@192 ~]# hbase shellHBase ShellUse "help" to get list of supported commands.Use "exit" to quit this interactive shell.For Reference, please visit: http://hbase.apache.org/2.0/

#java#hbase
    共 11 条
  • 1
  • 2
  • 请选择