24深度学习-试题回忆¶
文档信息
编者: Egopposer（line2345）
日期: 2024/12/13
前言及试题概览¶
说明
斜体为记忆模糊的题目
黑体为我认为需要关注的点
试题概览¶
主观评价较多，仅供娱乐
| 评价项 | 评分/说明 |
|---|---|
| 题量 | 小（60分钟内） |
| 难易度（软院专业课中） | 2/10 |
| 送分题占比 | 80% |
| 背诵记忆占比 | 15%（但内容多） |
- pdf下载链接: 深度学习-试题回忆 PDF
一、选择题（2×15=30分）¶
题目特点
纯送分，仅给出部分题目，不给出选项
-
深度学习属于（ ）类别的问题
-
下图中的绘制的神经网络（ ）为记忆神经网络
-
下列选项中不属于正则化方法的是（ ）
-
目前最常用的梯度下降方法为（ ）
-
建立神经网络不需要考虑的因素是（ ）
-
下列选项错误的是……
二、判断题（1×10=10分）¶
题目特点
一部分，基本送分
-
sigmoid激活函数是logistic激活函数的一种（ ）
-
注意力权重的计算过程为……（ ）
-
反向传播算法不能应用到循环卷积网络中（ ）
三、填空题（1×15=15分）¶
题目特点
一部分，纯送分
-
给出任意三个常见的激活函数：（ ）、（ ）、（ ）
-
LSTM引入的门控机制包括：（ ）、（ ）、（ ）
-
Xavier初始化适用的激活函数为（ ）、（ ）；He初始化适用的激活函数为（ ）
-
卷积神经网络中（ ）起到特征提取的作用，（ ）起到减少神经元个数的作用
四、简答题（4+5+5+6=20分）¶
1. 序列到序列神经网络（4分）¶
绘制同步的序列到序列的单层循环神经网络。
2. 层归一化（5分）¶
叙述层归一化（LN）的具体过程。
3. 长程依赖问题（5分）¶
简述什么是长程依赖问题，并提出解决方法。
4. 自注意力机制（6分）¶
题中给出QKV计算流程图，据此简述自注意力的计算过程。
五、综合题（6+8+11=25分）¶
1. 激活函数计算（6分）¶
给出激活函数ReLU，计算 \(x_1=-5\)，\(x_2=-1\)，\(x_3=5\) 的激活函数值。
2. 卷积运算（8分）¶
给出二维的 5×5 的矩阵和 3×3 的卷积核，给定步长为2，零填充为1，给出计算得到特征图的过程。
3. 自动微分与计算图（11分）¶
给出一个函数（课件上的那一章的原函数），通过自动微分计算其导数，并绘制计算图。