본문 바로가기

TF5

[Tensor] NaN Safe Aggregation Functions NaN (Not a Number) 값을 포함하는 Tensor 인스턴스에서 Aggregation Function을 사용할 때, NaN을 무시 또는 특정값으로 처리하는 기능을 제공하는 함수. NumPy 기존의 aggregaton function의 이름에 nan을 앞에 붙인 이름을 가지며, 수행 중 NaN을 무시함. 다음의 함수들이 대표적인 예임. np.nansum, np.nanmean, np.nanmax, np.nanmin, np.nanargmin, np.nanargmax, np.nanmedian, np.nanstd, np.nanvar, np.nanprod, np.nanquantile, np.nanpercentile PyTorch 역시, 기존의 aggregaton function의 이름에 nan을 앞에 붙인.. 2024. 3. 20.
[Tensor] vectorized op. (or universal func) Numpy에서 제공하는 ufunc. (Universal Functions)은 homogeneous and contiguous tensor 에서 모든 elements에 같은 연산을 적용하여 기존의 반복 loop에 기반한 연산에 비해 압도적인 속도를 보이면서 간편한 연산자 하나로 처리하도록 지원해줌. ufunc는 일종의 vectorized operation (or vector operation) 임. 실제로 ufunc은 homogeneous and contiguous에 최적화된 바이너리 구현물에 대한 binding이라고 볼 수 있음. Python interface가 제공되어 쉽게 사용가능하지만, 내부적으로는 C, C++등의 컴파일 언어로 만들어진 바이너리 구현물이 동작한다고 보면 된다. https://ds3.. 2024. 3. 19.
[DL] Tensor: Indexing <Simple, Slicing, Fancy, Boolean Mask> numpy나 pytorch, tensorflow의 텐서들도 파이썬의 list 또는 tubple 에서의 indexing과 slicing이 거의 그대로 사용됨. 2023.07.12 - [Python] - [Python] list (sequence type) : summary [Python] list (sequence type) : summary list는 ordered mutable collection으로, collection을 위한 python data type들 중 가장 많이 사용된다. C에서의 array와 같이 가장 기본적인 collection임. 단, heterogeneous item을 가질 수 있으며, 여러 methods를 가지는 ds31x.tistory.com 단, multi-dimension에서.. 2024. 3. 18.
[DL] Tensor: Transpose and Permute Transpose Transpose(전치)의 linear algebra에서의 정의는 다음과 같음. Given an m x n matrix A, the transpose of A is the n x m matrix, denoted by AT whose columns are formed from the corresponding rows of A. 간단하게 말하면 행과 열을 바꾸는 처리이다. Tensor의 경우 rank가 2 보다 클 수 있으며 해당 rank의 수만큼 축이 있다. 때문에 Tensor에서의 transpose는 여러 축들 중 2개를 서로의 위치를 바꾸는 것이라고 보면 된다. 주의할 것은 numpy와 pytorch의 경우, aixs(축)만 변경된 것이지, 여전히 같은 데이터 (the same und.. 2024. 3. 16.
[DL] Tensor 객체의 attributes: ndim, shape, dtype Python에서 Tensor 를 추상화하는 대표적인 class는 다음과 같음. numpy의 ndarray pytorch의 tensor tensorflow의 constant 이들의 대표적인 attributes는 다음과 같음. dtype: the datatype of element ndim: the number of dimension (차원의 수로, rank라고도 불림) shape: ndim의 객수로 구성된 sequencty type의 인스턴스로 각 축의 크기를 나타냄. 다음은 Tensorflow에서는 지원하지 않으나, torch와 numpy에선 지원하는 것들임. itemsize: element 하나가 차지하는 bytes 크기. size or size(): numpy는 그냥 attribute로, pytorc.. 2024. 3. 15.
반응형