
EWC (异常值约束)
5星
- 浏览量: 0
- 大小:None
- 文件类型:None
简介:
EWC代表Elastic Weight Consolidation,是一种用于深度学习中,尤其是在低样本场景下,有效防止模型灾难性遗忘的技术。其核心思想是利用预训练模型的知识,在训练新任务时,通过调整权重来保持原有知识的稳定,从而提升新任务的学习效率和性能。具体来说,EWC通过计算每个权重对原有任务损失函数的贡献,并对新任务的权重更新进行惩罚,以确保权重不会过度改变。这种方法能够有效地约束新模型的参数变化,使其更接近预训练模型的参数分布。因此,EWC在图像识别、自然语言处理等领域都取得了显著的成果。
全部评论 (0)
还没有任何评论哟~


