logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

PySpark基础知识(python)

PySpark 是 Apache Spark 的 Python API,它允许开发者使用 Python 语言编写 Spark 应用程序,结合了 Python 的易用性和 Spark 的分布式计算能力,是处理大规模数据的强大工具。

文章图片
#python#数据分析#spark
通过PySpark单词计数案例带你学习map、flatMap、reduceByKey方法(Python)

本文介绍了使用PySpark实现单词计数的案例,重点讲解了map、flatMap和reduceByKey三个核心RDD转换算子。

文章图片
#学习#python#开发语言 +1
PySpark基础例题(包含map、reduceByKey、filter、sortBy等算子)

本文介绍了使用PySpark处理商品销售数据的基本操作。通过读取JSON格式的销售数据文件,实现了三个数据处理需求:1)按城市统计并降序排列总销售额;2)提取所有不重复的商品类别;3)筛选北京地区的商品类别并去重。代码展示了RDD的map、reduceByKey、filter、sortBy和distinct等核心算子的使用,包括数据清洗、类型转换和聚合计算等关键步骤。该案例为PySpark初学者提

文章图片
#python#开发语言
深度学习中的优化器

深度学习优化器是模型训练的关键组件,负责根据梯度调整网络参数以最小化损失函数。常见优化器包括SGD(简单稳定但收敛慢)、SGD+Momentum(加速收敛)、AdaGrad(适合稀疏数据)、RMSprop和Adam(结合动量和自适应学习率,推荐首选)。在PyTorch中,优化器使用分为三步:初始化、清空梯度、反向传播和参数更新。关键超参数包括学习率(需合理设置和衰减)、动量(默认0.9)和权重衰减

文章图片
#深度学习#人工智能
卷积神经网络(CNN)入门实践及Sequential 容器封装

本文介绍了CNN模型的两种构建方式及其可视化方法。通过对比"分步骤定义层"和"Sequential容器封装"两种实现方式,展示了如何构建包含卷积层、池化层、全连接层等核心模块的CNN模型。具体讲解了每层的作用和关键参数,并提供了完整的代码示例。还介绍了使用TensorBoard可视化模型结构的方法,通过add_graph函数生成计算图,便于理解模型架构。最后

文章图片
#cnn#人工智能#神经网络 +1
深度学习 GPU 两种使用方法

深度学习训练中,GPU凭借其众核架构和高内存带宽,能大幅加速矩阵运算和梯度下降等并行计算任务。相比CPU,GPU可将训练时间从"天"级压缩到"小时"级。PyTorch提供了两种GPU使用方法:分散式迁移需对模型、数据等逐一进行GPU判断迁移,代码较冗余;集中式迁移则先定义目标设备,再统一使用to(device)方法迁移所有对象,代码更简洁高效。以CIFAR-

文章图片
#深度学习#人工智能
机器学习中的等高线

机器学习中的等高线是参数优化的可视化利器。它通过将高维损失函数投影到二维平面,直观展示梯度下降路径、特征尺度差异和多重共线性等问题。圆形等高线表示特征尺度一致,细长椭圆反映特征尺度差异,狭长山谷状则暗示多重共线性。通过观察等高线形态,可针对性优化学习率、特征预处理或模型结构。等高线还能用于分类边界可视化、聚类效果评估和超参数调优,是理解模型行为和优化训练过程的重要工具。

文章图片
#机器学习#人工智能
机器学习项目全周期学习笔记

本文系统介绍了机器学习项目的全生命周期管理、部署架构、模型偏见及不良用例。项目周期包括项目定界、数据采集、模型训练和生产部署四个关键阶段,强调迭代优化和业务落地。模型部署需考虑架构选择(服务端/边缘推理)和MLOps运维体系(监控、扩容、日志等)。特别指出模型可能存在的偏见问题(如招聘歧视)及其治理方案(公平性指标、数据增强)。同时警示了技术滥用风险(深度伪造、欺诈等),提出需通过技术、法律、伦理

文章图片
#机器学习#学习
Adam 算法(Adaptive Moment Estimation)

摘要:Adam算法(Adaptive Moment Estimation)是深度学习中广泛使用的优化算法,由Kingma和Ba于2014年提出。它融合了动量法和RMSProp的优点,通过自适应调整每个参数的学习率实现高效训练。算法核心是同时跟踪梯度的一阶矩(均值)和二阶矩(方差),并据此调整学习率:梯度波动大的参数减小学习率,波动小的增大学习率。Adam具有收敛快、自适应性强、鲁棒性好等优点,但也

文章图片
#算法
使用 Python 实现银行账户管理系统

该代码实现了一个简易银行账户管理系统,包含余额查询、存款、取款和退出功能。

文章图片
#python
    共 38 条
  • 1
  • 2
  • 3
  • 4
  • 请选择