传统的搜索，使用关键做精确的查找，利用倒排索引在索引库中搜索。日常在用的百度，Google都属于关键词搜索。在 AI 时代我们需要查找一张相似的图片，一个问题的答案，或者根据一段音乐查找对应的歌曲，这些情况下没有准确的关键词用来做检索。 这些图片，问题（文本），语音，不再是简单的一个一维量化的数字，而是包含了大量的属性特征。 因而不合适使用传统的关键字搜索引擎来查找。对于文本，图片，语音，视频，D

以下是 Google 的云原生架构的原则与最佳实践。对于云原生的架构设计，有很好的指导意义。

由于 Docker 在架构上的依赖比较多，存在单点故障，且依赖于特权账号运行，需要启动有 docker 服务，才能运行 docker cli。 出现了很多替代 docker，不依赖于特权账号，普通用户可以跑，也不依赖于后台服务的工具，比如 podman, img 等。我的Mac 上面的 Docker Desktop 越来越吃 CPU，跑起来机器非常卡顿， 看了几种不同的方案，podman 跟 do

回到多元方程的求解方法对于构建一个神经网络来说，需要求出每一个神经元的参数。每一层都有线性变换，加上非线性变换组成。 神经网络的求解变成一个多元方程的求解问题。图：要求解的线性函数变换（单层）y1 ​= x1​w11 ​ + x2​w21​+ ... + xnwn1 + b1y2 ​= x1​w12 ​ + x2​w22​ + ... + xnwn2 + b2​y3​= x1​w13 ​+ x2​

截止到 2021 年下半年， 推荐使用 Apple 官方的 tensorflow-meta 的插件来启用 Tensorflow 在 Mac M1（包括 M1 Pro, M1 Max）上面的GPU加速。以下介绍完整的深度学习开发环境的搭建过程。参考 apple 官方文档：Tensorflow Plugin - Metal - Apple Developer1.安装 pyenv 虚拟环境管理包首先，推

时间已经到了2021年，如果还有人问，推荐什么笔记本或者工作站用作深度学习的开发环境，兼作日常开发的网络训练，无疑 Mac M1 是首选。携带方便，价格比起深度学习工作站不高，且系统易于使用。2020年苹果推出了自产的 Mac M1 芯片，自带性能强悍的 GPU，刚出来的时候不支持 Tensorflow 等深度学习框架使用 GPU进行加速。 很快苹果推出了 M1 的 GPU 加速支持。2020 年

问题提出在前面 “深度学习代码实践（四）- 从0搭建一个神经网络：感知机与激活函数”的博文分享中，提到，神经网络的本质是：通过参数与激活函数来拟合特征与目标之间的真实函数关系。单层网络只能做线性分类任务，两层神经网络可以无限逼近任意连续函数。这里提到的“用两层神经网络可以无限逼近任意连续函数”。 那么神经网络是不是真的能够逼近任何函数。 我用 Tensorflow 做了一个实验， 以一个已知函数

截止到 2021 年下半年， 推荐使用 Apple 官方的 tensorflow-meta 的插件来启用 Tensorflow 在 Mac M1（包括 M1 Pro, M1 Max）上面的GPU加速。以下介绍完整的深度学习开发环境的搭建过程。参考 apple 官方文档：Tensorflow Plugin - Metal - Apple Developer1.安装 pyenv 虚拟环境管理包首先，推

问题提出在前面 “深度学习代码实践（四）- 从0搭建一个神经网络：感知机与激活函数”的博文分享中，提到，神经网络的本质是：通过参数与激活函数来拟合特征与目标之间的真实函数关系。单层网络只能做线性分类任务，两层神经网络可以无限逼近任意连续函数。这里提到的“用两层神经网络可以无限逼近任意连续函数”。 那么神经网络是不是真的能够逼近任何函数。 我用 Tensorflow 做了一个实验， 以一个已知函数

我的 USB 网卡是水星 Mercury 的， 在 Ubuntu 22.04 下面没有自动识别。没有无线网卡的时候只能用有线接到路由器上，非常不方便。 寻思着把无线网卡驱动装好。折腾了几个小时装好了驱动。