home/categories/machine-learning/ecnu-icalk-autoskill-skillbank-convskill-chinese-gpt4-8-在transformer训练损失中集成正交高秩正规化-skill-md
machine-learningdata-ai
transformer
指导如何在CEUTrackActor类的compute_losses方法中集成基于SVD的正交高秩正规化损失。该技能包括提取注意力矩阵、计算奇异值、构建正则化项并将其加入总损失函数的步骤。
maintainer
ECNU-ICALK
Atualizado 16/03/2026
Estrelas
304
Forks
34
quick start
Installation and usage
指导如何在CEUTrackActor类的compute_losses方法中集成基于SVD的正交高秩正规化损失。该技能包括提取注意力矩阵、计算奇异值、构建正则化项并将其加入总损失函数的步骤。
Instalação
$ install --globalskills.sh
Uso
Depois de instalar, você pode usar esta skill executando o seguinte comando no terminal:
skills use transformer