728x90 반응형 dl4 [DL] GPU Acceleration 기술 소개 1. 대표적 GPU 가속 기술현재 가장 많이 사용되고 있는 GPU기반의 가속기술은 다음과 같음:Compute Unified Device Architecture (CUDA): NVIDIAMetal Performance Shaders (MPS): AppleRadeon Open Compute (ROCm): AMDDirect Machine Learning (DirectML): MicrosoftDeep Learning에서 가장 많이 애용되고 있는 Framework는 바로 PyTorch와 TensorFlow임.이들에서 위의 가속기술의 지원과 이들 기술 비교는 다음과 같음.2. 주요 GPU 가속기술 개요기술제조사등장 연도현재버전PyTorch 지원TensorFlow지원지원 환경선호도활용도CUDANVIDIA2007년12.. 2025. 2. 28. [PyTorch] CustomANN Example: From Celsius to Fahrenheit Optional Libraries torchviz: 0.0.2 torchsummary: 1.5.1 pip install --quiet torchviz pip install torchsummary Required Libraries torch : 2.2.1+cu121 np : 1.25.2 import numpy as np import torch import matplotlib.pyplot as plt # import torchviz, torchsummary from torch.nn import Module, init, Linear, Parameter, ReLU from torch import optim Simple Data Generation def gen_xy(cnt, std=4.): x = np.lins.. 2024. 4. 12. [PyTorch] torch.nn.init torch.nn.init 모듈 ANN을 구현할 때, 각 layer의 weight 와 bias를 초기화하는 방법을 제공함. 초기화는 ANN의 수렴 속도 및 학습 안정화에 매우 큰 영향을 줌. torch.nn.init는 일반적으로 사용되는 다양한 초기화 방법들이 구현되어 있음. .uniform_(tensor, a=0., b=1.) 지정된 parameters를 uniform distance로 초기화 a와 b는 값의 범위를 지정하는데 사용됨: [a,b) .normal_(tensor, mean=0., std=1.) normal distribution으로 초기화. .constant_(tensor, val=0.) val 에 지정된 상수값으로 초기화. .ones_() and .zeros_() 0과 1로 초기화. .xa.. 2024. 4. 11. [PyTorch] Dataset and DataLoader Dataset 이란PyTorch 의 tensor 와학습에 사용될 일반 raw data (흔히, storage에 저장된 파일들) 사이에 위치하며,raw-data로부터 PyTorch의 기본데이터형 인 tensor를 얻게 해주는 역할을 수행하는 class임.일반적으로 task에 따라 다양한 형태의 raw-data가 있기 때문에,각 task별로 Custom Dataset을 만드는 경우가 잦음.Custom Dataset 만들기torch.util.data 모듈의 Dataset을 상속하고,다음의 methods를 overriding해야만 함.__init__(self) :Dataset 인스턴스에 대한 생성자로 데이터셋에 대한 초기화를 담당.raw-data에 따라 parameters를 자유롭게 추가할 수 있음.__len_.. 2024. 4. 9. 이전 1 다음 728x90 반응형
