【专栏2】激活函数（一）浅谈激活函数以及其发展激活函数是神经网络的相当重要的一部分，在神经网络的发展史上，各种激活函数也是一个研究的方向。我们在学习中，往往没有思考过——为什么用这个函数以及它们是从何而来？![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly9jZG4ubmxhcmsuY29tL3l1cXVlLzAvMjAyMC9qcGVnLzE2MjY5NTE

胶囊网络——Capsule Network作者：林泽龙1. 背景介绍CNN 在处理图像分类问题上表现非常出色，已经完成了很多不可思议的任务，并且在一些项目上超过了人类，对整个机器学习的领域产生了重大的影响。而 CNN 的本质由大量的向量和矩阵的相乘或者相加，因此神经网络的计算消耗非常大，所以将一张图片上全部像素信息传递到下一层运算是十分困难的，所以出现了“卷积”和“池化”这种方法，能够在不损...

深度学习新星：图卷积神经网络GCN作者：金松引言深度学习一直都是被几大经典模型给统治着，如CNN、RNN等等，它们无论再CV还是NLP领域都取得了优异的效果，那这个GCN是怎么跑出来的？是因为我们发现了很多CNN、RNN无法解决或者效果不好的问题——图结构的数据。图片或者语言，都属于欧式空间的数据，因此才有维度的概念，欧式空间的数据的特点就是结构很规则。但是现实生活中，其实有很多很多不规则...

人工智能彻底改变了游戏行业，改变了游戏的开发、玩和体验的方式。从游戏开发中的生成式人工智能到人工智能驱动的 NPC 和自适应难度级别，人工智能增强了游戏玩法，为玩家创造了更加身临其境和个性化的体验。例如，在第一人称射击游戏中，人工智能控制的敌人可以分析玩家的行为并调整他们的策略，以提供具有挑战性和吸引力的体验。游戏中的人工智能是指智能算法和系统的实现，使计算机控制的实体能够表现出类似人类的行为和决

基于垃圾目标检测任务的YOLOv5初探作者：余敏君研究背景垃圾分类作为一种有效处理垃圾的科学管理方案，在提高资源利用率、缓解垃圾生产压力以及改善生态环境等方面具有重要意义，是我国社会主义现代化和城市化进程中所必须采取的策略，备受世界各国的迫切关注。2019年以来，随着上海市、杭州市等垃圾分类重点城市有关生活垃圾分类的立法、执法和监督等工作的顺利开展，人们对垃圾分类相关话题的关注度日渐提升，个人垃圾

【技术博客】联邦学习鲁棒性及相关论文分享叶寅1 背景知识联邦学习系统比较容易受到各种错误的影响。这些错误包括一些非恶意性错误（比如预处理流程中的漏洞、噪音过强的训练标签和不可靠的用户），还包括一些旨在破坏系统训练过程和部署流程的显式攻击。这些非恶意性错误和显式攻击的影响，都可能会使系统的鲁棒性难以实现。这里我们主要讨论后者，也就是显示攻击：破坏联邦学习鲁棒性的攻击方，试图以一种对模型不利的方式修改

K-means：无监督聚类的经典算法作者：郑培无监督学习是一类用于在数据中寻找模式的机器学习技术。无监督学习算法使用的输入数据都是没有标注过的，这意味着数据只给出了输入变量（自变量 X）而没有给出相应的输出变量（因变量）。在无监督学习中，算法本身将发掘数据中有趣的结构。在监督学习中，系统试图从之前给出的示例中学习。（而在无监督学习中，系统试图从给定的示例中直接找到模式。）因此，如果数据集被标注过了

生成式人工智能是一种能够自主实现内容制作的尖端技术，正在迅速改变各个行业。它对就业范围的影响为就业市场迫切需要的专家提供了一条新的途径。生成式 AI 是指从头开始或以最少的输入创建新内容（文本、图像、音频、代码等）的 AI 系统。这与其他专注于根据现有数据进行分析、分类或预测的 AI 形成鲜明对比。像 GPT-3、ChatGPT 和 Claude 这样的大型语言模型 （LLM） 几乎可以在任何主题

【技术博客】持续学习浅谈作者：陈文儒1. 摘要人在学习新知识的时候，能根据之前的知识很快的学习相似的知识，并且能不遗忘从前的知识。而机器，或者更准确一点说神经网络，在学习新任务的同时会出现一些问题——灾难性遗忘问题（catastrophic forgetting）。解决这个问题的方法我们称之为持续学习（continual learning）。本文重点探讨了近年来的持续学习的一些经典方法，旨在能够更

什么是知识蒸馏我们知道在深度学习的大部分网络中，有很多神经元是冗余的，所以很多网络的参数量是巨大的，但是在很多移动端，比如手机上，是跑不动这么大的网络的。所以知识蒸馏的一开始的目标是做模型压缩，它的目标就是让一个更小的网络去拟合甚至是超越教师网络的性能。在通常情况下，学生网络的在蒸馏阶段的目标可以用这样的一个函数来表示，这里的损失函数L根据算法对知识的定义不同也会有不同的函数表示。![](http