https://arxiv.org/abs/2002.07376
Picking Winning Tickets Before Training by Preserving Gradient Flow (Chaoqi Wang, Guodong Zhang, Roger Grosse)
복권 긁기도 한창 나오는 중. 목표는 트레이닝 전에 프루닝을 하는 것이고 방법은 weight들이 gradient propagation에 얼마나 중요한가를 평가해서 gradient flow에 큰 영향을 미치지 않는 weight들부터 프루닝해나가는 것.
#lottery_ticket #pruning