可解释性

理解并解释模型为何做出某决策的能力。

大模型的黑箱特性让可解释性成为难题：注意力权重、特征归因等方法只能部分解释行为。对医疗、金融等高敏领域，可解释性是合规与信任的关键。