A clockwork RNN（CW-RNN）
本文主要提出了一个新型的RNN模型，跟原始RNN不一样的地方就在于，因此隐层单元的不同，同时计算是有方向周期的，降低了参数量。 为什么有关ｒｎｎ的文章大多是跟ＮＬＰ有关的～ 苦苦寻找与图像处理有关的ａｔｔｅｎｔｉｏｎ ｍｏｄｅｌ中
模型可视化结构： 隐层被分成了g个模块，每个模块的大小是k，每个模块内部是全连接的。模块j到i的recurrent仅当Ti小于Tj时才会存在。根据增长的阶段对模块进行分类，模块之间的传递在隐层之间是从右向左的，从慢的模块到快的模块。
CW-RNN跟ＲＮＮ的主要不同之处在于在每个时间点ｔ，只有模块ｉ满足ｔ%Ti=0,才会执行，产生输出。Ｔｉ的是任意的，这篇论文取得是Ｔi=２^（ｉ－１）．
序列生成的实验
论文里说，这个模型比普通的模型要快很多，正确率也好很多，我们看一下结果对比图（：) 超喜欢这个图，有木有，简洁明了，涵盖均值方差范围）
横向不同的序列，列是不同的方法，点点代表目标信号，ＣＷ－ＲＮＮ效果超棒，，，我都怀疑是不是ＭＡＴＬＡＢ直接拟合的。。。：
语句分类（ｓｐｏｋｅｎ ｗｏｒｄ classification）
EMMA SIAT 2017.03.10
转载请注明原文地址: https://ju.6miu.com/read-23108.html
