본문 바로가기
728x90
반응형

pytorch19

[DL] torch.nn.Linear 에 대하여 torch.nn.Linear는 PyTorch에서 선형 변환(linear transformation)을 수행하는 핵심 Module임. 다음의 이름으로도 불림.Fully Connected Layer (FC Layer)Dense LayerConstructor (생성자)torch.nn.Linear( in_features, out_features, bias=True,) TensorFlow의 Dense와 유사하나, activation등을 내장하고 있지 않음.파라미터설명in_featuresinput tensor의 마지막 차원 크기 (int)out_featuresoutput tensor의 마지막 차원 크기 (int)biasbias 사용 여부 (기본값: True)수학적 정의linear module은 .. 2025. 4. 10.
[DL] Tensor 다루기 - PyTorch 중심 https://dsaint31.tistory.com/891 [ML] Tensor: Scalar, Vector, Matrix.Tensor 종류1. Scalar (0차원 tensor)하나의 숫자로 표현되는 가장 기본적인 형태.크기(magnitude)만을 가지며 방향은 없음.예시: 온도(25°C), 나이(20), 가격(1000원)# 파이썬/NumPy에서의 표현scalar = 5.02. Vector (dsaint31.tistory.comhttps://dsaint31.tistory.com/456 [Programming] Primitive Data Type : C, C++, NumPy, TorchPrimitive Data Type이(Unboxed type)란?C, C++, NumPy, PyTorch, TensorF.. 2025. 3. 7.
[PyTorch] Custom Model 과 torch.nn.Module의 메서드들. Custom Model 만들기0. nn.Module torch.nn.Module은 PyTorch에서 모든 신경망 모델과 계층의 기반이 되는 클래스임.Custom Model (사용자 정의 모델)부터 Built-in Layer(nn.Linear, nn.Conv2d, etc.)까지 전부 nn.Module을 상속받아 만들어짐.Model (or Submodule)을 구조화하고 학습 가능한 parameters를 관리하는 데 핵심적인 역할을 함. PyTorch에선 Model과 Layer 모두 nn.Module 의 sub-class가 됨. 때문에 모든 Custom Model은 nn.Module (또는 그 sub-class)을 상속하여 만들어진다. nn.Module은 다음의 특징을 가짐.생성자(__init__)에서 모델.. 2024. 4. 12.
[PyTorch] CustomANN Example: From Celsius to Fahrenheit Optional Librariestorchviz: 0.0.2torchsummary: 1.5.1pip install --quiet torchvizpip install torchsummaryRequired Librariestorch : 2.2.1+cu121np : 1.25.2import numpy as npimport torchimport matplotlib.pyplot as plt# import torchviz, torchsummaryfrom torch.nn import Module, init, Linear, Parameter, ReLUfrom torch import optimSimple Data Generationdef gen_xy(cnt, std=4.): x = np.linspace(-10,10,.. 2024. 4. 12.
[PyTorch] torch.nn.init torch.nn.init 모듈 ANN을 구현할 때, 각 layer의 weight 와 bias를 초기화하는 방법을 제공함. 초기화는 ANN의 수렴 속도 및 학습 안정화에 매우 큰 영향을 줌. torch.nn.init는 일반적으로 사용되는 다양한 초기화 방법들이 구현되어 있음. .uniform_(tensor, a=0., b=1.) 지정된 parameters를 uniform distance로 초기화 a와 b는 값의 범위를 지정하는데 사용됨: [a,b) .normal_(tensor, mean=0., std=1.) normal distribution으로 초기화. .constant_(tensor, val=0.) val 에 지정된 상수값으로 초기화. .ones_() and .zeros_() 0과 1로 초기화. .xa.. 2024. 4. 11.
[PyTorch] Dataset and DataLoader Dataset 이란PyTorch 의 tensor 와학습에 사용될 일반 raw data (흔히, storage에 저장된 파일들) 사이에 위치하며,raw-data로부터 PyTorch의 기본데이터형 인 tensor를 얻게 해주는 역할을 수행하는 class임.일반적으로 task에 따라 다양한 형태의 raw-data가 있기 때문에,각 task별로 Custom Dataset을 만드는 경우가 잦음.Custom Dataset 만들기torch.util.data 모듈의 Dataset을 상속하고,다음의 methods를 overriding해야만 함.__init__(self) :Dataset 인스턴스에 대한 생성자로 데이터셋에 대한 초기화를 담당.raw-data에 따라 parameters를 자유롭게 추가할 수 있음.__len_.. 2024. 4. 9.
728x90
반응형