PyTorch面试精华

---

1 前言

    1.1  PyTorch安装

---

    1.2  显卡驱动的困惑

---

    1.3  CUDA安装注意事项

---

    1.4  cuDNN的介绍

---

    1.5  Pytorch Lightning介绍

---

    1.6  PyTorch学习之道

---

    1.7  PyTorch调参之道

---

    1.8  调参套件(tunekits)

---

2 PyTorch入门疑难点

    2.1  PyTorch向量维度计数

---

    2.2  PyTorch向量维度操作

---

    2.3  PyTorch向量乱序取数

---

3 PyTorch全局设置

    3.1  全局设置当前设备

---

    3.2  全局设置浮点精度

---

    3.3  设置控制台输出格式

---

4 PyTorch GPU分布式训练

    4.1  PyTorch GPU基础操作

---

    4.2  DataParallel用法详解

---

    4.3  GPU分布式训练模型

---

    4.4  CUDA_VISIBLE_DEVICES

---

    4.5  device详细说明

---

    4.6  to(device)和.cuda()

---

    4.7  CUDA设备索引

---

    4.8  GPU设备索引

---

5 向量与梯度之核心

    5.1  Tensor的组成与存储

---

    5.2  Tensor的grad属性

---

    5.3  Tensor内存布局的调整

---

    5.4  Tensor的叠加

---

    5.5  禁用梯度计算

---

    5.6  向量的保存和加载

---

    5.7  梯度消失与梯度爆炸

---

    5.8  参数向量

---

    5.9  叶子节点

---

    5.10  detach原理

---

    5.11  requires_grad属性

---

    5.12  tensor与numpy互换

---

    5.13  梯度的物理意义

---

    5.14  张量cat操作

---

    5.15  零维张量

---

    5.16  维度索引与维度变换

---

    5.17  自然梯度

---

6 神经网络基础

    6.1  线性网络的参数以及初始化

---

    6.2  PyTorch计算图

---

    6.3  查看网络权重参数

---

    6.4  保存模型

---

    6.5  Adam相关面试题

---

    6.6  Train模式和Eval模式

---

    6.7  线性网络

---

    6.8  双线性网络

---

    6.9  惰性线性层

---

    6.10  自动求导与链式求导

---

    6.11  Dropout机制

---

    6.12  半精度训练

---

    6.13  Xavier初始化

---

    6.14  注意力机制

---

    6.15  Dataset数据处理

---

    6.16  StepLR学习率调度器

---

    6.17  词嵌入的理解

---

    6.18  TensorDataset的使用

---

    6.19  模型的保存与加载

---

    6.20  ModuleList和Sequential

---

    6.21  Batch Normalization介绍

---

    6.22  map_location参数的作用

---

7 计算机视觉基础知识

    7.1  通道的深刻理解

---

    7.2  1x1卷积的作用

---

    7.3  特征提取和可视化

---

    7.4  反卷积的推导

---

    7.5  理解卷积

---

    7.6  计算机视觉的注意力机制

---

    7.7  空洞卷积

---

    7.8  池化层的作用

---

    7.9  感受野与特征图

---

    7.10  NMS算法

---

    7.11  特征图尺寸计算

---

8 注意力机制

    8.1  位置编码的作用

---

    8.2  位置编码的种类

---

    8.3  词嵌入的原理和用法

---

    8.4  Embedding本质理解

---

9 物体检测、分割以及追踪

10 激活函数相关内容

    10.1  激活函数简介

---

    10.2  万能逼近定理

---

    10.3  Sigmoid函数的介绍

---

    10.4  Tanh函数的介绍

---

    10.5  Softmax函数的实现

---

    10.6  ReLU函数的介绍

---

    10.7  Leaky Relu函数的介绍

---

    10.8  ReLu与非线性的理解

---

    10.9  Parametric ReLU函数

---

11 思考题的答案

    11.1  思考题的答案解密

---