✨ 复制成功!

以文会友,打造好学人设!

📋 已复制到剪贴板:

《PyTorch入门精华》


1 前言
    1.1  PyTorch安装

    1.2  显卡驱动的困惑

    1.3  CUDA安装注意事项

    1.4  cuDNN的介绍

    1.5  Pytorch Lightning介绍

    1.6  PyTorch学习之道

    1.7  PyTorch快速入门

    1.8  PyTorch调参之道

    1.9  PyTorch调参套件

    1.10  手动创建虚拟环境

2 深度学习之数学基础
    2.1  希腊字母解读

    2.2  梯度的物理意义

    2.3  图解梯度下降法

    2.4  图解梯度上升法

    2.5  自然梯度

    2.6  泰勒公式的介绍

    2.7  信息与信息熵

    2.8  重要性采样

    2.10  欧几里得范数

    2.11  特征值和特征向量

    2.12  似然函数的理解

    2.13  矩阵秩的深刻理解

3 PyTorch入门疑难点
4 PyTorch全局设置
    4.1  全局设置当前设备

    4.2  全局设置浮点精度

5 PyTorch GPU分布式训练
    5.1  PyTorch GPU基础操作

    5.2  DataParallel用法详解

    5.3  GPU分布式训练模型

    5.4  CUDA_VISIBLE_DEVICES

    5.5  device详细说明

    5.6  to(device)和.cuda()

    5.7  CUDA设备索引

    5.8  GPU设备索引

6 向量的基础与核心
    6.1  Tensor的组成与存储

    6.2  Tensor的grad属性

    6.4  Tensor的叠加

    6.5  禁用梯度计算

    6.6  向量的保存和加载

    6.7  参数向量

    6.8  叶子节点

    6.9  detach原理

    6.10  requires_grad属性

    6.11  Tensor与Numpy互换

    6.12  张量cat操作

    6.13  零维张量

    6.15  squeeze/unsqu...函数

    6.16  argmax和max的区别

    6.17  torch.as_tensor的应用

7 神经网络基础
    7.2  PyTorch计算图

    7.3  查看网络权重参数

    7.4  保存模型

    7.5  Adam相关面试题

    7.6  Train模式和Eval模式

    7.7  线性网络

    7.8  双线性网络

    7.9  惰性线性层

    7.10  PyTorch中的自动微分

    7.12  Dropout机制

    7.13  半精度训练

    7.14  Xavier初始化

    7.15  注意力机制

    7.16  Dataset数据处理

    7.17  StepLR学习率调度器

    7.18  词嵌入的理解

    7.19  TensorDataset的使用

    7.20  模型的保存与加载

    7.21  ModuleList和Sequential

    7.22  Batch Normalization介绍

8 计算机视觉基础知识
    8.1  通道的深刻理解

    8.2  1x1卷积的作用

    8.3  特征提取和可视化

    8.4  反卷积的推导

    8.5  理解卷积

    8.7  空洞卷积

    8.8  池化层的作用

    8.9  感受野与特征图

    8.10  NMS算法

    8.11  特征图尺寸计算

9 循环神经网络基础
    9.2  RNN的介绍

10 注意力机制
    10.1  位置编码的作用

    10.2  位置编码的种类

    10.4  Embedding本质理解

    10.6  Transformer VS CNN/RNN

    10.7  ELMo介绍

11 PyTorch归一化
    11.2  层归一化技术详解

12 激活函数相关内容
    12.1  激活函数简介

    12.2  万能逼近定理

    12.3  指数函数的学习

    12.4  Sigmoid函数的介绍

    12.5  Tanh函数的介绍

    12.6  Softmax函数的实现

    12.7  ReLU函数的介绍

    12.8  Leaky Relu函数的介绍

    12.9  ReLu与非线性的理解

    12.10  Parametric ReLU函数

    12.11  ELU函数介绍

    12.12  神经元死亡的问题

13 思考题的答案
    13.1  思考题的答案解密

《PyTorch入门精华》简介

创建时间:2024-07-15 更新时间:2026-08-07 阅读次数:8043 次

提醒:自2026年7月开始,原《PyTorch面试精华》改名为《PyTorch入门精华》,并免费公开发行。我十分感谢大家的支持和信任,希望大家以后对本系列内容提出更多的宝贵建议。

导读

很多事情看起来简单,但是真正去做的时候,人们总是发现它很难。编写《PyTorch入门精华》就是这样的事情,虽然看起来很简单,实际上真不难,毕竟写一篇文章并不是什么难事,但是要想坚持下来写上数百篇文章,则是一件很难的事,否则网上一定会有很多人一窝蜂地去做这件事。看遍互联网,专注于PyTorch的教程,实则寥寥无几,即便有人曾写过,也早早断更了,犹如断壁残垣,在风中凌乱。

正因为做完整的教程是一件十分困难的事,所以我采用的方式是化整为零,降低难度,小步快跑,快速迭代。刚开始大家也许看到的毛坯房,但是隔段时间再来,你会发现已然成了精品房。

很多时候,只有经历岁月的沉淀,才能发挥内部的芳香。刚开始的时候,虽然我内心坚信围绕PyTorch一定可以写出精彩的教程,但是我并不知道该怎么去构思这个教程,我唯有坚持,唯有沉淀,静待花开。所幸,2024年2月份我发现了一个非常好的大模型项目MiniMind,它完全是基于PyTorch手搓的,所以我决定把这个开源项目引入《PyTorch入门精华》,从而让PyTorch内容得到升华。

最后,我想说的是,《PyTorch入门精华》这本电子教程,不是看看就完事的,而是想传递一种学习思想:要重视基础,回顾PyTorch,心不要总是飘在空中,要以PyTorch为根,毕竟AI是个动手非常强的学科,很多论文的创新点和效果的改进,不是空想出来的,而是动手试出来的,只有把手上的功夫玩溜,熟练使用PyTorch才能把AI学好。当然,《PyTorch面试精华》里面还有很多的内容不够完善,不够完美,我也在不断地修订和完善。感谢大家的支持和厚爱!

1、作者简介

本教程的作者是飞燕,资深的AI技术专家,某重点大学硕士毕业,精通PyTorch,熟悉计算机视觉,熟悉强化学习,曾在网易等大厂任职,也曾在某小公司当过CTO,后创业做AI外包、APP开发等。飞燕身上的角色有多个,例如:(1)《PyTorch入门精华》的作者(2)面试天下网站的开发者和社群运营人(3)某无人机仿真平台开发者(4)某考研数学类APP开发者(5)飞燕网的站长(6)AI外包达人...

2、吉祥物说明

此教程的吉祥物为一只快乐的燕子,自由翱翔于蓝天之上,希望大家学完这个教程之后能够身轻如燕,自由翱翔于AI世界。

3、版权说明

本教程为免费公开教程,但是版权完全归属于站长飞燕所有。任何人都可以学习或分享本教程,但不得用于任何盈利行为,否则后果自负。

本教程内容参考自PyTorch官方教程和互联网上相关博主的精彩分享,历经站长飞燕的亲身实践和深度思考最终沉淀而成,对此站长飞燕表示十分感谢!

4、特殊说明

编写教程是件十分耗时费脑之事,在此期间站长飞燕会大量参考众家之言,由于时间的原因,部分内容会直接采用,此目的是占位而已,最终的成稿不会与网上他人内容有重复之嫌。

5、学好PyTorch的经验之谈

此处内容众多,非一言两语可以说清,特新开一小节,推荐大家看看:《PyTorch学习之道》

6、目标与追求

(1)《PyTorch入门精华》希望成为最好的AI教程之一,同时希望面试天下网成为国内最大的AI技术社群。

(2)《PyTorch入门精华》预计全书内容可到100~150节。

7、联系方式

欢迎大家对本系列内容提出宝贵建议,我的联系方式如下所示:

8、项目演示

PyTorch是个非常强大的深度学习框架,下面是一个无人机自主寻址的项目演示,本项目主要采用了三大核心技术:PyTorch+PyBullet+深度强化学习。实际上,真实的项目远比演示效果更复杂,足以可见PyTorch的强大。

本教程共117节,当前为教程简介!
本教程最新修订时间为:2026-08-07 09:17:18

📌 面试天下网:一款服务于大一新生的口袋书,让大家在无聊的公共课上可以学习大模型技术!
📌 网站公告:人人都需要的干眼克星上线啦>>>>>>
📌 网站公告:程序出海:中国程序员当下最大的机遇>>>>>>
📌 网站公告:程序员都应该掌握的快速学习法>>>>>>

评论专区

评论加载中...