HM6记录
参考:
1.https://blog.csdn.net/qq_37395293/article/details/103112721
DCGAN:
weight initialization 权重初始化
生成器
ConvTranspose+BatchNorm+ReLu
鉴别器
Conv+BatchNorm+LeakyRelu
WGAN-GP
改进流程:
1、判别器最后一层去掉sigmoid。sigmoid函数容易出现梯度消失的情况。
2、生成器和判别器的loss不取log
3、每次更新判别器的参数之后把它们的绝对值截断到不超过一个固定常数c
4、不要用基于动量的优化算法(包括momentum和Adam),推荐RMSProp,SGD也行
All articles in this blog are licensed under CC BY-NC-SA 4.0 unless stating additionally.