Skip to content

[Project] Structured/Unstructured Pruning Comparison Experiment

Notifications You must be signed in to change notification settings

yugwangyeol/Structured-Unstructured-Pruning

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

4 Commits
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

Structured-Unstructured-Pruning

Structured-Unstructured-Pruning

기본 모델 비교 실험 Task로 Image Classification을 진행하였다. Structured pruning은 L1 Norm으로 중요도를 계산하여 각 Convolution의 채널을 제거하는 Channel Pruning을 수행하였다. Unstructured pruning은 개별 가중치의 절대값을 기준으로 가중치를 제거하는 Magnitude-based Pruning을 진행하였다.

실험에서는 CIFAR10 데이터를 사용하여 비교 실험을 진행하였고, 기본 Base 모델로는 ResNet18을 사용하였다. 해당 실험에서 Pretrained 모델을 가져와 Structured/Unstructured Pruning ratio 50%를 적용하였다.

결과적으로 Structured pruning이 속도와 모델 성능 모두에서 향상된 것을 확인할 수 있었다.

About

[Project] Structured/Unstructured Pruning Comparison Experiment

Topics

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages