使用序列到序列模型生成高质量和信息性的对话响应

使用序列到序列模型生成高质量和信息性的对话响应(中文12500字,英文PDF)
 摘要
序列到序列模型已经应用于对话响应生成问题，其中源序列是对话历史和目标序列是响应。不喜欢翻译，对话回应具有天生的创造力。一代人长，信息丰富，连贯，多样化回应仍然是一项艰巨的任务在这工作，我们专注于单回合设置。我们将自我注意力添加到de编码器以更长时间地保持连贯性回应，我们提出一个实际的方法，称为glimpse模型，为缩放到大型数据集。介绍随机波束搜索算法让我们分段重新排名我们在这一代人的早期注入多样性处理。我们对组合数据进行了培训一组超过2.3B的对话消息从网上挖掘出来的。在人类评估研究中，我们的方法产生的时间更长整体反应，比例较高评定为可接受且长度极佳与具有明确长度促进的基线序列到序列模型相比，增加。产生退避策略总体而言，在完整的长度范围内有更好的反