在CNN网络结构的进化过程中，出现过许多优秀的CNN网络，如：LeNet，AlexNet，VGG-Net，GoogLeNet，ResNet，他们对CNN的发展进化起着至关重要的作用。

LeNet：

LeNet诞生于1998年，网络结构比较完整，包括卷积层、pooling层、全连接层。被认为是CNN的鼻祖。

AlexNet：

2012年提出AlexNet网络

主要优势包括：

网络加深（5个卷积层+3个全连接层+1个softmax层）；

解决过拟合（dropout，data augmentation，LRN）；

多GPU运算。

VGG-Net：

2014年提出VGG-Net网络，。

主要优势包括：

网络更深，使用更多的层，通常有16－19层；

所有 卷积层用同样大小（3 x 3）的 卷积核 。

GoogLeNet：

提出Inception结构，这是NIN（Network In Network）的结构，即原来的结点也是一个网络。

ResNet：

提出了一种减轻网络训练负担的残差学习框架，这种网络比以前使用过的网络本质上层次更深。 在ImageNet数据集用152 层的深度来评估残差网络，虽然网络很深，但是并不复杂。