728x90 반응형 weight1 [PyTorch] torch.nn.init torch.nn.init 모듈 ANN을 구현할 때, 각 layer의 weight 와 bias를 초기화하는 방법을 제공함. 초기화는 ANN의 수렴 속도 및 학습 안정화에 매우 큰 영향을 줌. torch.nn.init는 일반적으로 사용되는 다양한 초기화 방법들이 구현되어 있음. .uniform_(tensor, a=0., b=1.) 지정된 parameters를 uniform distance로 초기화 a와 b는 값의 범위를 지정하는데 사용됨: [a,b) .normal_(tensor, mean=0., std=1.) normal distribution으로 초기화. .constant_(tensor, val=0.) val 에 지정된 상수값으로 초기화. .ones_() and .zeros_() 0과 1로 초기화. .xa.. 2024. 4. 11. 이전 1 다음 728x90 반응형