본문 바로가기
728x90
반응형

Python286

[PyTorch] torch.nn.init torch.nn.init 모듈 ANN을 구현할 때, 각 layer의 weight 와 bias를 초기화하는 방법을 제공함. 초기화는 ANN의 수렴 속도 및 학습 안정화에 매우 큰 영향을 줌. torch.nn.init는 일반적으로 사용되는 다양한 초기화 방법들이 구현되어 있음. .uniform_(tensor, a=0., b=1.) 지정된 parameters를 uniform distance로 초기화 a와 b는 값의 범위를 지정하는데 사용됨: [a,b) .normal_(tensor, mean=0., std=1.) normal distribution으로 초기화. .constant_(tensor, val=0.) val 에 지정된 상수값으로 초기화. .ones_() and .zeros_() 0과 1로 초기화. .xa.. 2024. 4. 11.
[PyTorch] Dataset and DataLoader 1. Dataset 이란 : PyTorch 의 tensor 와학습에 사용될 일반 raw data (흔히, storage에 저장된 파일들) 사이에 위치하며,raw-data로부터 PyTorch의 module 객체 등이 접근가능한 데이터 셋을 추상화한 객체를 얻게 해주는 역할을 수행.Dataset의 가장 핵심적 역할은데이터에 대한 index 기반 접근 인터페이스를 제공하는 것임.참고: 전처리는 transforms 와 transform, target_transform: 이미지의 전처리는 torchvision.trnasforms 모듈 또는 torchvision.transforms.v2 모듈의 transform 클래스들의 객체를 이용한다.차이가 있는데,transform은 input feature vector(or .. 2024. 4. 9.
[Python] pathlib.Path 사용하기. Path 클래스는 pathlib 모듈의 클래스 :file 및 directory의 path 를 객체지향적으로 취급하기 쉬운 인터페이스를 제공하는Python 표준 라이브러리임.Python 3.4 이상에서 사용가능함. 더보기2023.07.04 - [Python] - [Python] os 모듈의 함수들 : file과 directory 관련 [Python] os 모듈의 함수들 : file과 directory 관련os 모듈의 함수들 : file과 directory 관련os는operating system (운영체제)와상호작용을 위한 다양한 기능을 제공하는built-in module임.대부분 os 종속적인 기능들이다.os.path 모듈ds_exist = os.path.exists('path')pathds31x.tist.. 2024. 3. 31.
[DL] Tensor: Random Tensor 만들기 (NumPy, PyTorch) Tensor: Random Tensor 만들기 (NumPy, PyTorch)Random value를 얻는데 이용되는 Probability Distribution에 따라 크게 2가지로 나눌 수 있음.Uniform DistributionNormal Distribution 0. Uniform DistributionRandom Variable이 가질 수 있는 값들이 모두 같은 확률을 가짐.int형 element를 가지는 tensor를 반환하는 것들과float형 element를 가지는 tensor를 반환하는 것으로 크게 나눌 수 있음.가장 대표적인 함수 이름으로는 randint와 rand 가 있음.0.0 randint가장 대표적인 int형 element를 가지는 random tensor를 생성하는데 사용됨.다음과.. 2024. 3. 29.
[DL] Define and Run vs. Define by Run Deep Learning (DL) Framework의 동작방식을 비교하는 용어. DL Model의 구축과 실행이 어떻게 이루어지는지로 구분됨. Define and Run DL Model을 구축 (= Computational Graph)이 먼저 이루어지고, 이후 input tesnsor를 정의된 모델에 입력하여 실행(or 연산)이 이루어짐. 대표적으로 TensorFlow 1.x 에서 채택한 방식임. DL Model의 구조 (~ Computational Graph의 구조)가 먼저 완전하게 정의되고 나서 실행이 이루어짐. DL Model의 최적화 등을 보다 쉽게 할 수 있음 (compiler language에서와 유사한 최적화 가능) DL Model의 변경이 쉽지않음. 개발 과정에서 디버깅에서 불편함. Def.. 2024. 3. 28.
[DL] Tensor에서 maximum, minimum 찾기 NumPy 의 ndarray에서np.max 와 np.min 함수를 이용하여 최대, 최소인 값을 구함.특정 축을 axis parameter로 지정하여 구할 수 있음 (결과는 해당 axis가 1이 됨.)np.argmax 와 na.argmin 함수를 이용하여 최대, 최소인 값의 index를 반환함.PyTorch 의 tensor 에서torch.max와 torch.min 함수를 사용하여 최대값과 최소값을 구함.특정 축을 dim parameter로 지정하여 구할 수 있음 (결과는 해당 축이 1이 됨.).특정 축을 지정할 경우, torch.max와 torch.min은 indices를 같이 반환함.torch.argmax 와 torch.argmin 함수를 이용하여 최대, 최소값의 indices를 반환함.# 다음은 3x2.. 2024. 3. 28.
728x90
반응형