Artificial Intelligence/Neural Networks17 [ CNN ] 2. Grouped convolution - PyTorch Code Grouped convolution - PyTorch Code Standard vs. grouped convolutions: (a) In a standard convolution S, each filter is convolved with all of the input's channels; (b) In a grouped convolution with two groups G(2), half of the filters are applied to each half of the input for a 2× reduction in parameters used. More generally, a grouped convolution with g groups uses g× fewer parameters. Input Chan.. 2021. 8. 11. [ CNN ] 1. 바닐라 합성곱(vanilla convolution) - PyTorch Code 바닐라 합성곱(vanilla convolution) CNN 에서 가장 기본적으로 사용되는 합성곱 방식 "2D spatial Feature" 을 추출하는 필터로 구성 같은 위치에 해당하는 모든 채널에 가중치 부여 장점 : im2col 을 이용하여 빠르게 연산가능, Fully-connected Linear Layer 보다 적은 parameter 수 → The numbers of Parameters : C_in * Kernel_size^2 * C_out → bias 사용시 위의 값에 C_out 만큼 더해줘야함. 단점 : 깊어짐에 다라 연산량 급증, Dead Channels(신경망 학습에서 결과에 거의 영향을 주지 않음), channel간 correlation이 낮은 경우도 있는데 한번에 합쳐버리면 무의미 이러.. 2021. 8. 11. 이전 1 ··· 4 5 6 7 8 9 다음
