https://arxiv.org/abs/2002.02798
How to train your neural ODE: the world of Jacobian and kinetic regularization (Chris Finlay, Jörn-Henrik Jacobsen, Levon Nurbekyan, Adam M Oberman)
Neural ODE는 흥미로운 방법이지만 학습이 오래 걸린다는 문제가 있었음. 이 문제가 제약조건이 없는 상황에서 Neural ODE가 복잡한 dynamics를 학습하기 때문이라는 것을 밝히고, Optimal Transport의 아이디어를 활용해 이 dynamics가 적분하기 쉽게 단순해지도록 제약 조건을 거는 방법을 제안. 실제로 학습 속도를 대략 3배 정도 가속하는 데 성공.
#neural_ode