生成对抗网络(GAN，Generative Adversarial Networks) 学习笔记

____tz_zs学习笔记

GAN论文：[1406.2661] Generative Adversarial Networks

The GAN Zoo（github上的一个项目，总结了所有GAN论文）

知乎相关话题和好文章：

令人拍案叫绝的Wasserstein GAN（详细的讲了WGAN）

Lyken的回答 - 知乎（讲的很好，信息很多）

其他：

相对熵，又称KL散度( Kullback–Leibler divergence)，是描述两个概率分布P和Q差异的一种方法。

网上一节公开课的笔记

公开课地址：《生成对抗网络原理及代码解析》_小象学院_曲思聪

Generative：生成式模型

Adversarial：采取对抗的策略

Networks：网络（不一定是深度学习）

应用：

超分辨率

预测

图片生成

目标检测

推荐

1、GAN原理

目标函数

1、生成器不动，训练判别器，使判别器尽可能将生成样本和真实样本区分开。

2、把判别器固定不动，训练生成器，使生成的样本尽可能不被判别器区分开。

训练方案：

一个github上的GAN

2、GAN变种

2.1、CGAN(Condition Generative Adversarial Networks)

能输出指定类别/样式的样本

CGAN在输入时，带上条件

2.2、DCGAN(Deep Convolutional Generative Adversarial Networks)

是卷积神经网络和对抗神经网络的结合

核心要素：在不改变GAN原理的情况下提出了一些有助于增强稳定性的tricks

2.3、ACGAN

同时判别属于哪个类的

2.4、infoGAN

2.5、LAPGAN

拉普拉斯GAN

生成：逐层生成

训练：图片逐层压缩后拉伸用来训练

2.6、EBGAN(Energy-based GAN)

抛弃了对和错的概念，使用能量的概念

一种新的思路

2.7、WGAN(Wasserstein GAN)

原始GAN存在的问题：稳定、多样性、清晰度

令人拍案叫绝的Wasserstein GAN

WGAN-GP

延伸：

相对熵，又称KL散度( Kullback–Leibler divergence)，是描述两个概率分布P和Q差异的一种方法。