Classify or Select: Neural Architectures for Extractive Document Summarization
Ramesh Nallapati, Bowen Zhou IBM Watson Yorktown Heights, NY 10598 USA、Mingbo Ma Oregon State University Kelley Engineering Center, Corvallis, OR, 97331
Abstract
We present two novel and contrasting Recurrent Neural Network (RNN) based architectures for extractive summarization of documents. The Classifier based architecture sequentially accepts or rejects each sentence in the original document order for its membership in the final summary. The Selector architecture, on the other hand, is free to pick one sentence at a time in any arbitrary order to piece together the summary.
中文速览
针对单文档抽取式摘要这一任务,研究者提出了两种基于循环神经网络(RNN)的新架构:Classifier按原文句子顺序逐句判断是否纳入摘要,Selector则可以自由选择任意顺序、每次挑出最合适的一句来拼凑摘要。两种架构都通过一个统一的评分函数同时建模句子的显著性(salience)、内容丰富度和冗余度,并且因为评分函数的各项对应可解释的抽象特征,模型的决策过程具有良好的可解释性。在两个不同的数据集上,这些模型达到或超越了当时的有监督最优方法,实验还揭示了两种架构各自适用的场景——Selector在可自由排序选句时更具优势,而Classifier在按原文顺序处理时表现更稳。这项工作的意义在于,它不仅提供了一种高效且可解释的神经网络摘要框架,还系统比较了两种人类直觉策略在机器上的实际效果,为后续研究提供了清晰的方法论参照。
原文 arXiv:1611.04244;中英对照 + 大白话阅读 https://aha.fim.ai/paper/1611.04244v1