https://arxiv.org/abs/2006.14536
Smooth Adversarial Training (Cihang Xie, Mingxing Tan, Boqing Gong, Alan Yuille, Quoc V. Le)
그동안 adversarial training이 잘 되지 않았던 것은 relu가 smooth하지 않기 때문에 adversarial example을 만드는 것에 문제가 있었기 때문이 아닌가 하는 아이디어. smooth한 activation을 활용해 정확도와 robustness를 둘 다 개선!
#adversarial_training