您当前的位置:首页 > IT编程 > 超参数
| C语言 | Java | VB | VC | python | Android | TensorFlow | C++ | oracle | 学术与代码 | cnn卷积神经网络 | gnn | 图像修复 | Keras | 数据集 | Neo4j | 自然语言处理 | 深度学习 | 医学CAD | 医学影像 | 超参数 | pointnet |

神经网络在小样本数据集上非常容易过拟合

51自学网 2020-12-08 14:29:16
  超参数

1.神经网络在小样本数据集上非常容易过拟合。

2.使用dropout和数据增强(通过generator实现)可以有效的抑制过拟合。

3.使用预训练模型可以改善模型的表现。

4.使用预训练模型的方法一:使用预训练模型进行特征提取,之后使用自定义网络进行分类。

5.使用预训练模型的方法二:将预训练模型与自定义网络拼接在一起,然后固定预训练模型的参数,训练自定义网络的参数。

6.使用预训练模型的方法三:进行微调,即将5中训练完成的模型中预训练模型的一部分固定参数解除固定,在重新训练


使用图像增强来训练小数据集
Keras的回调函数ReduceLROnPlateau 训练过程优化学习率
51自学网,即我要自学网,自学EXCEL、自学PS、自学CAD、自学C语言、自学css3实例,是一个通过网络自主学习工作技能的自学平台,网友喜欢的软件自学网站。
京ICP备13026421号-1