深度学习基础-Batch归一化和Softmax

发布于 2022-03-10

一、神经网络中的超参数 根据吴恩达老师深度学习视频,按重要性给神经网络中的超参数排个序: 学习率α 动量梯度下降中的β,隐藏单元数 …


深度学习笔记-优化算法

发布于 2022-03-02

一、mini-batch梯度下降 向量化样本数据能够帮助我们同时计算多个样本,例如每个样本的特征数为50,样本数为100,我们可以 …


深度学习基础-正则化和归一化

发布于 2022-02-28

一、训练集、验证集和测试集的划分 在机器学习发展的小数据时代,常见做法是将所有数据三七分,即70%训练集和30%测试集,如果没有明 …