毕设做的是DBNs的相关研究,翻过一些资料,在此做个汇总。
可以通过谷歌学术搜索来下载这些论文。
Arel, I., Rose, D. C. and K
arnowski, T. P. Deep machine learning - a new frontier in artificial intelligence research. Computational Intelligence Magazine, IEEE, vol. 5, pp. 13-18, 2010.
深度学习的介绍性文章,可做入门材料。
Bengio, Y. Learning deep architecture for AI. Foundations and Trends in Machine Learning, vol. 2, pp: 1-127, 2009.
深度学习的经典论文,集大成者。可以当作深度学习的学习材料。
Hinton, G. E. Learning multiple layers of representation. Trends in Cognitive Sciences, vol. 11, pp. 428-434, 2007.
不需要太多数学知识即可掌握DBNs的关键算法。这篇论文语言浅白,篇幅短小,适合初学者理解DBNs。
Hinton, G. E. To recognize shapes, first learn to generate images. Technical Report UTML TR 2006-003, University of Toronto, 2006.
多伦多大学的内部讲义。推荐阅读。
Hinton, G. E., Osindero, S. and Teh, Y. W. A fast learning algorithm for deep belief nets. Neural Computation, vol 18, pp. 1527-1554, 2006.
DBNs的开山之作,意义非凡,一定要好好看几遍。在这篇论文中,作者详细阐述了DBNs的方方面面,论证了其和一组层叠的RBMs的等价性,然后引出DBNs的学习算法。
Hinton, G. E. and Salakhutdinov, R. R. Reducing the dimensionality of data with neural networks. Science, vol. 313, no. 5786, pp. 504–507, 2006.
Science上的大作。这篇论文可是算作一个里程碑,它标志着深度学习总算有了高效的可行的算法。
Hinton, G. E. A practical guide to training restricted boltzmann machines. Technical Report UTML TR 2010-003, University of Toronto, 2010.
一份训练RBM的最佳实践。
Erhan, D., Manzagol, P. A., Bengio, Y., Bengio, S. and Vincent, P. The difficulty of training deep architectures and the effect of unsupervised pretraining. In The Twelfth International Conference on Artificial Intelligence and Statistics (AISTATS), pp. 153–160, 2009.
Erhan, D., Courville, A., Bengio, Y. and Vincent, P. Why Does Unsupervised Pre-training Help Deep Learning? In the 13th International Conference on Artificial Intelligence and Statistics (AISTATS), Chia Laguna Resort, Sardinia, Italy, 2010.
阐述了非监督预训练的作用。这两篇可以结合起来一起看。
这篇博客给出的材料更加全面,作者来自复旦大学,现似乎是在Yahoo Labs北京研究院工作。
http://demonstrate.ycool.com/post.3006074.html
分享到:
相关推荐
2. 深度信念网络(Deep Belief Networks,DBNs): 深度信念网络是一种由多层感知器(MLP)组成的神经网络,它通过无监督学习的方式预训练,以逐层方式学习数据的高级特征。每一个层都是一个RBM,这些RBM通过贪婪算法...
深度信念网络(Deep Belief Networks, DBNs)是一种由多层非线性处理单元组成的概率生成模型。这些单元通常被组织成多个隐藏层,每个隐藏层都是一个无向图(例如受限玻尔兹曼机),而隐藏层之间则通过有向边连接,...
### 深度信念网络(Deep Belief Nets)在C++与CUDA C中的实现 #### 概述 《深度信念网络在C++与CUDA C中的实现:第一卷》由Timothy Masters编写,主要介绍了受限玻尔兹曼机(Restricted Boltzmann Machines, RBMs...
原创作者是Zouxy,整个笔记在他博客上,...9.4、Deep Belief Networks深信度网络 35 9.5、Convolutional Neural Networks卷积神经网络 38 十、总结与展望 50 十一、参考文献和Deep Learning学习资源(持续更新……) 51
On the Quantitative Analysis of Deep Belief Networks (2008) 这篇论文用 annealed importance sampling (AIS) 给出了估计 RBM 的 partition function 的方法,从而能够估算 p(x) 以及比较不同的 DBN。 Training...
On the Quantitative Analysis of Deep Belief Networks (2008) - 用annealed importance sampling (AIS)给出一种估计RBM的partition function的方法,从而能够估算p(x)以及比较不同的DBN。 Training Restricted ...
8. **On the Quantitative Analysis of Deep Belief Networks (2008)**:论文提出了annealed importance sampling (AIS)方法来估计RBM的partition function,进而评估p(x)并比较不同的DBN。这使得对深度信念网络的...
- 深度信念网络 (Deep Belief Networks, DBN):无监督预训练和有监督微调相结合的深度学习模型。 - 深度卷积神经网络 (Deep Convolutional Neural Networks, DCNN):在图像识别任务中表现出色,捕捉空间结构信息。 -...
### 深度置信网络(Deep Belief Networks, DBN)详解 #### 一、引言 在深度学习领域,深度置信网络(DBN)作为一种强大的无监督学习模型,近年来受到了广泛关注。DBN是一种多层的神经网络结构,通过堆叠多个受限...
此外,当多个RBM堆叠起来形成深度信念网络(Deep Belief Networks,DBNs)时,能够学习到更为抽象和复杂的特征表示,进一步加强了深度学习模型的特征表达能力。 在介绍RBM的基本概念之后,文章还对其学习算法进行了...
3. Deep Belief Networks:一种深度学习模型,用于特征学习和分类,具有高precision和recall的特点。 4. Recurrent Neural Network:一种深度学习模型,用于序列预测和自然语言处理,具有捕捉序列关系的特点。 本...
受限玻尔兹曼机(Restricted Boltzmann Machine, RBM)和深度信念网络(Deep Belief Nets, DBN)是这一领域的关键进展。 6. 时间序列数据建模:文章将回顾使用神经网络对时间序列数据进行建模的发展历程,从时延...
标题中的“网络游戏-一种基于深度信念网络的人体肤色区域分割方法”揭示了本文档的核心内容,它是关于在网络游戏场景中,如何使用深度信念网络(Deep Belief Networks, DBN)来实现人体肤色区域的精确分割。...
为了构建定位模型,文章采用了深度置信网络(Deep Belief Networks, DBN)。DBN是一种强大的机器学习模型,尤其适合处理高维复杂数据。在本研究中,DBN用于训练从选定的AP节点信号到位置信息的映射关系,以实现高效...
在实际应用中,神经网络通常采用如自组织映射(Self-Organizing Maps, SOM)、自适应共振理论(Adaptive Resonance Theory, ART)或深度学习模型(如深度信念网络Deep Belief Networks, DBN)等架构。这些模型能够...
深度学习网络,特别是深度置信网络(Deep Belief Networks, DBN)等,因其在非线性数据处理和特征提取方面的能力,被证明在处理复杂系统,如变压器电压波动数据时非常有效。在本研究中,深度学习网络被用来提取引起...