参考:

1.https://blog.csdn.net/qq_37395293/article/details/103112721

2.https://www.bilibili.com/video/BV1Wv411h7kN?p=56

DCGAN:

image-20220217210318233

weight initialization 权重初始化

生成器

ConvTranspose+BatchNorm+ReLu

鉴别器

Conv+BatchNorm+LeakyRelu

WGAN-GP

改进流程:

1、判别器最后一层去掉sigmoid。sigmoid函数容易出现梯度消失的情况。
2、生成器和判别器的loss不取log
3、每次更新判别器的参数之后把它们的绝对值截断到不超过一个固定常数c
4、不要用基于动量的优化算法(包括momentum和Adam),推荐RMSProp,SGD也行