传统GAN

来源：https://arxiv.org/abs/1406.2661

符号解释 $G$ Generator生成器 $D$ Discriminator判别器 $P_{data}$ 真实数据分布 $P_G$ 生成器生成数据分布

目标公式 $$\underset{G}{\min }\underset{D}{\max }{\mathbb{E}}_{\mathbf{x}\sim P_{data}}[\log D(\mathbf{x})]+{\mathbb{E}}_{\mathbf{z}\sim P_G}[\log (1-D(G(\mathbf{z})))]$$

判别器 loss函数 $$los{s}_D=-\mathbb{E}[log(D(\mathbf{x}))]-\mathbb{E}[log(1-D(G(\mathbf{z})))]$$

生成器 loss函数 $$los{s}_G=-\mathbb{E}[log(D(G(\mathbf{z})))]$$

LSGAN

即最小二乘GAN 来源：https://arxiv.org/abs/1611.04076

判别器 loss函数 $$\underset{D}{\min }los{s}_D=\frac{1}{2}{\mathbb{E}}_{\mathbf{x}\sim P_{\mathrm{d}\mathrm{a}\mathrm{t}\mathrm{a}}(\mathbf{x})}\left[(D(\mathbf{x})-b{)}^2\right]+\frac{1}{2}{\mathbb{E}}_{\mathbf{z}\sim P_{\mathbf{G}}(\mathbf{z})}\left[(D(G(\mathbf{z}))-a{)}^2\right]$$ 生成器 loss函数 $$\underset{G}{\min }los{s}_G=\frac{1}{2}{\mathbb{E}}_{\mathbf{z}\sim P_{\mathbf{G}}(\mathbf{z})}\left[(D(G(\mathbf{z}))-c{)}^2\right]$$ 其中作者设置a=c=1,b=0

WGAN-GP

加上梯度惩罚的WGAN 来源：https://arxiv.org/abs/1704.00028

判别器 loss函数 $$los{s}_D=-{\mathbb{E}}_{x\sim P_{\text{data }}}[D(x)]+{\mathbb{E}}_{x\sim P_G}[D(x)]+\lambda {\mathbb{E}}_{x\sim P_{\hat{x}}}{\left[{\Vert {\nabla }_{x}D(x)\Vert }_p-1\right]}^2$$ 生成器 loss函数 $$los{s}_G=-{\mathbb{E}}_{x\sim P_G}[D(G(\mathbf{z}))]$$

我们已做过的测试结果中，使用wgan-gp的loss作为模型中的loss函数需要花费的训练时间是上述其他两种方法的4倍左右，效果上没有太大的区别。最终LSGAN效果较好且速度较快。 当然在今后的不同数据的训练中，还需要额外的测试来对比哪种方案比较优秀，并采用。