对比学习在生成任务中取得了令人印象深刻的成功，以减轻 "暴露偏差 "的问题，并有区别地利用参考文献的不同质量。.现有的工作大多集中在实例层面的对比学习上，没有区分每个词的贡献，而关键词是文本的要点，主导着约束性的映射关系。.因此，在这项工作中，我们提出了一个分层的对比学习机制，它可以统一输入文本中的混合粒度语义。.具体来说，我们首先提出了一个关键词图，通过正负对的对比关系来迭代打磨关键词的代表。.然后，我们在实例层面和关键词层面构建内部对比，我们假设词是来自句子分布的抽样结点.最后，为了弥补独立对比度之间的差距，并解决常见的对比度消失问题，我们提出了一个对比度之间的机制，根据实例分布来衡量对比度关键词节点之间的差异。.实验表明，我们的模型在转述、对话生成和讲故事等任务上优于竞争性基线。.
《Keywords and Instances: A Hierarchical Contrastive Learning Framework Unifying Hybrid Granularities for Text Generation》
论文地址:http://arxiv.org/abs/2205.13346v1
