[敵対的生成ネットワーク]では生成ネットワークが贋作を出力し、識別ネットワークがその出力の真贋を識別する。 この時、生成ネットワークは、模倣を行う。
もしこの生成ネットワークに十分な表現能力があれば、学習データとして与えられたオリジナルを完全に模倣することができる。この時、識別ネットワークはそれを識別することができなくなる。 そこで損失関数を共通化して、同時に最適化することで「適度なバランス」を学習することを期待するわけだ。
これを十分学習してから「独立欲求ネットワーク」を追加する。
このネットワークは生成ネットワークの出力が「サンプルとして与えられたものからどれくらい遠いか」を判断する。遠いほど良いスコア。 しかし同時に識別ネットワークが「サンプルとして与えられたもので表現される部分空間の中に出力が入っているかどうか」を判断してくるので、あんまりかけ離れたものを出力すると識別ネットワークのスコアが下がる。 これによって「サンプルデータに似ていないが、サンプルデータによって表現される空間に入っているもの」が生成される。