https://arxiv.org/abs/2007.05181
Sample-based Regularization: A Transfer Learning Strategy Toward Better Generalization (Yunho Jeon, Yongseok Choi, Jaesun Park, Subin Yi, Dongyeon Cho, Jiwon Kim)
트랜스퍼 러닝 상황에서 원 모델과 파인튜닝된 모델 사이의 차이에 대한 regularizer를 사용하는 대신 같은 클래스의 파인튜닝 샘플에 대한 파인튜닝된 모델의 차이를 감소시키는 regularizer를 적용. 바로 생각나는 건 라플라시안 regularization? (https://arxiv.org/abs/2006.15486) #transfer #finetuning