非定向主题模型的高效学习

Replicated Softmax模型是一个著名的无定向主题模型，在提取文档的语义表征方面非常强大。传统的学习策略，如反差法（Contrastive Divergence）是非常低效的。本文提供了一种新的估计方法，以加快基于噪声对比估计的学习速度，并针对不同长度的文档和加权输入进行了扩展。在两个基准上的实验表明，新的估计器在文档检索和分类上取得了很好的学习效率和高的准确性。