1. 论文名:《How Positive Are You: Text Style Transfer using Adaptive Style Embedding》-《基于适应性风格嵌入的文本风格迁移》
2. 研究背景
(1) 文本风格:定义较为宽泛,情感风格、性别化风格、正式用语风格
(2) 文本风格迁移:在保证文本主题不变的前提下,改变文本的表达风格
(3) 数据集
a) YELP(情感风格,情感积极性)
b) Gender(性别化风格,男性化与女性化)
(4) 迁移评估
a) 内容上:保证主题、内容的一致性(BLEU)衡量生成文本与目标文本的相似性常使用BLEU在multi-gram下的均值通过构建平行测试集,获取BLEU与输入语句就算内容保存度,获取Self-BLEU
b) 风格上:改变文本的表达风格(ACC)利用分类模型(BERT)与非平行数据训练风格分类器利用SoftMax获取一句话在所有风格上的分数
3. 模型
a) 风格嵌入模型
定义风格嵌入矩阵与句子表示匹配得到不同风格的相似得分通过分类器获取输入语句的风格分类将训练后的风格嵌入作为Style Embedding训练时只更新Style部分
b) 文本生成模型
将对立风格嵌入与句子表示加权
4. 实验结果
5. 总结
a) 模型使用
i. 模型使用更方便,对于新的风格迁移任务,无需重新训练生成端模型,只需要替换Style Embedding即可。
ii. 也可以将不同Style Embedding结合,进行多个风格的迁移。
b) 可控文本生成
i. 文本生成主题控制:关键词约束、指针网络
ii. 也可以利用融合嵌入的方式,控制生成文本的其他特征,只要能够将抽象的文本特征进行向量表示。例如文本主题、文本体裁等等
c) 嵌入获取方式
i. Label Embedding:表示学习,预训练,分类模型,图网络等等。
ii. 直接对文本的特征进行表示,例如主题用词袋模型。