《简单粗暴TensorFlow2.0》—学习笔记

中文版手册：简单粗暴 TensorFlow 2.0 | A Concise Handbook of TensorFlow 2.0github：snowkylin/tensorflow-handbookTensorFlow 2.0是基于Keras和Eager Execution（即时运行）模式。基础安装和环境配置pycharmTensorFlow基础Tensor...

studyeboy

2698人浏览 · 2020-01-15 17:35:56

studyeboy · 2020-01-15 17:35:56 发布

文章目录

基础
部署
大规模训练与加速
- TensorFlow分布式训练
- 使用TPU训练TensorFlow模型
扩展
- TensorFlow Hub模型复用
- TensorFlow Datasets数据集载入

中文版手册：简单粗暴 TensorFlow 2.0 | A Concise Handbook of TensorFlow 2.0
github：snowkylin/tensorflow-handbook
TensorFlow 2.0是基于Keras和Eager Execution（即时运行）模式。

基础

安装和环境配置

pycharm

TensorFlow基础

在这里插入图片描述

TensorFlow模型建立与训练

在这里插入图片描述

模型（Model）与层（Layer）

在这里插入图片描述

多层感知机（MLP）

在这里插入图片描述

交叉熵（cross entropy）用来求目标与预测值之间的差距。

信息论

信息量

熵

相对熵（KL散度）
相对熵又称KL散度,如果我们对于同一个随机变量 x 有两个单独的概率分布 P(x) 和 Q(x)，我们可以使用 KL 散度（Kullback-Leibler (KL) divergence）来衡量这两个分布的差异。

交叉熵

机器学习中交叉熵的应用

单分类问题中的应用

多分类问题中的应用

在这里插入图片描述

卷积神经网络（CNN）

在这里插入图片描述

循环神经网络（RNN）

在这里插入图片描述

深度强化学习（DRL）

在这里插入图片描述

Keras Pipeline*

在这里插入图片描述

自定义层、损失函数和评估指标*

在这里插入图片描述

TensorFlow 常用模块

tf.train.Checkpoint：变量的保存与恢复

在这里插入图片描述

TensorBoard：训练过程可视化

在这里插入图片描述

Permission denied: ‘/tmp/.tensorboard-info/pid-30349.info’

在这里插入图片描述

tf.data：数据的构建与预处理

在这里插入图片描述

TFRecord：TensorFlow数据集存储格式

在这里插入图片描述

@tf.function：Graph Execution模式 *

在这里插入图片描述

tf.TensorArray：TensorFlow动态数组 *

在这里插入图片描述

tf.config：GPU的使用与分配 *

在这里插入图片描述

部署

TensorFlow模型导出

在这里插入图片描述

TensorFlow Serving

在这里插入图片描述

TensorFlow Lite

在这里插入图片描述

TensorFlow in JavaScript

在这里插入图片描述

<html>

<head>
    <script src="https://unpkg.com/@tensorflow/tfjs"></script>
    <script src="https://unpkg.com/@tensorflow-models/mobilenet"> </script>
</head>

<video width=400 height=300></video>
<p></p>
<img width=400 height=300 />

<script>
    const video = document.querySelector('video')
    const image = document.querySelector('img')
    const status = document.querySelector("p")

    const canvas = document.createElement('canvas')
    const ctx = canvas.getContext('2d')

    let model

    main()

    async function main () {
        status.innerText = "Model loading..."
        model = await mobilenet.load()
        status.innerText = "Model is loaded!"

        const stream = await navigator.mediaDevices.getUserMedia({ video: true })
        video.srcObject = stream
        await video.play()
        
        canvas.width = video.videoWidth
        canvas.height = video.videoHeight

        refresh()
    }

    async function refresh(){
        ctx.drawImage(video, 0,0)
        image.src = canvas.toDataURL('image/png')
        
        await model.load()
        const predictions = await model.classify(image)
        
        const className = predictions[0].className
        const percentage = Math.floor(100 * predictions[0].probability)
        
        status.innerHTML = percentage + '%' + ' ' + className
        
        setTimeout(refresh, 100)
    }

</script>

</html>

在这里插入图片描述

<html>
<head>
    <script src="http://unpkg.com/@tensorflow/tfjs/dist/tf.min.js"></script>
    <script>
    const xsRaw = tf.tensor([2013, 2014, 2015, 2016, 2017])
    const ysRaw = tf.tensor([12000, 14000, 15000, 16500, 17500])

    // 归一化
    const xs = xsRaw.sub(xsRaw.min())
                    .div(xsRaw.max().sub(xsRaw.min()))
    const ys = ysRaw.sub(ysRaw.min())
                    .div(ysRaw.max().sub(ysRaw.min()))

    const a = tf.scalar(Math.random()).variable()
    const b = tf.scalar(Math.random()).variable()

    // y = a * x + b.
    const f = (x) => a.mul(x).add(b)
    const loss = (pred, label) => pred.sub(label).square().mean()

    const learningRate = 1e-3
    const optimizer = tf.train.sgd(learningRate)

    // 训练模型
    for (let i = 0; i < 10000; i++) {
        optimizer.minimize(() => loss(f(xs), ys))
    }

    // 预测
    console.log(`a: ${a.dataSync()}, b: ${b.dataSync()}`)
    const preds = f(xs).dataSync()
    const trues = ys.arraySync()
    preds.forEach((pred, i) => {
        console.log(`x: ${i}, pred: ${pred.toFixed(2)}, true: ${trues[i].toFixed(2)}`)
    })
    </script>
</head>
</html>

在这里插入图片描述

大规模训练与加速

TensorFlow分布式训练

在这里插入图片描述

使用TPU训练TensorFlow模型

在这里插入图片描述

扩展

TensorFlow Hub模型复用

在这里插入图片描述

TensorFlow Datasets数据集载入

在这里插入图片描述

参考资料
一文搞懂交叉熵在机器学习中的使用，透彻理解交叉熵背后的直觉
 tensorboard 提示权限不足

AtomGit 开源协作平台测评赛

瓜分20万奖金获得内推名额丰厚实物奖励易参与易上手

更多推荐

ADS1292R 使用过程心电图高精度ADC模块

文章目录1 Fundamentals ofPrecision ADC Noise Analysis 精密模数转换器噪声分析基础1 Fundamentals ofPrecision ADC Noise Analysis 精密模数转换器噪声分析基础https://www.ti.com.cn/cn/lit/wp/slyy192/slyy192.pdf?ts=1600659610730&ref_u

开放原子开发者工作坊

实现一个家庭安防与环境监测系统（一）

开放原子开发者工作坊

【cf】Codeforces Round #774 (Div. 2) 前4题

题目A. Square Counting 简单数学题目大意题解代码B. Quality vs Quantity 排序题目大意题解代码C. Factorials and Powers of Two 状态压缩dp+位运算题目大意题解代码D. Weight the Tree 树形dp+dfs题目大意题解代码E. Power Board 看起来像是数论？许多年没打cf了，偶尔打了一盘，恢复紫名了。A. S