训练方法预训练、微调与对齐技术

数据增强

通过变换、改写等方式扩充训练数据的技术。

数据增强通过对原文进行同义改写、回译、噪声注入等生成更多变体,提升模型泛化能力。在大模型时代,也常用强模型生成合成数据来扩充弱项数据。

相关术语