본문 바로가기
728x90
반응형

ML6

[PyTorch] tensor의 vectorized operation PyTorch에서 제공하는 Tensor OperatorsPyTorch에서 제공하는 텐서 연산(operator)은homogeneous하고 contiguous한 텐서에 대해모든 element에 동일한 연산을 적용하도록 설계된vectorized operation의 형태를 취함.다른 이름으로 elementwise operation이라고도 불림.이는 파이썬의 반복문 기반 연산에 비해압도적으로 빠른 속도를 제공하며,단일 연산자 호출만으로 전체 텐서에 대한 연산을 수행할 수 있게 함.PyTorch의 elementwise 연산은NumPy의 ufunc과 기능적으로 유사한 역할(아래 3가지 참고)을 수행하지만,broadcasting 처리elementwise kernel 처리dtype promotion 처리보다 광범위한 b.. 2025. 12. 4.
Decision Tree - CART (Classification and Regression Trees) Classification And Regression Trees (CART) 는 Classification와 regression 문제 모두 처리 가능한 Binary Decision Tree를 훈련시키는 알고리즘.1. 역사적 배경1984년 Leo Breiman, Jerome H. Friedman, Richard A. Olshen, Charles J. Stone 저서 Classification and Regression Trees 에서 등장:AID(1963), THAID(1972) 등의 트리 기반 분할 연구를 계승.“binary split”과 “purity” 개념을 명확히 정립: gini 계수 사용하여 impurity를 측정.다른 Decision Tree Algorithms(ID3, C4.5 등)과 달리 r.. 2025. 11. 13.
[ML] History of ML (작성중) 19401943 : ANN (Artificial Neural Network) 시작McCulloch, PittsA logical calculus of ideas immanent in nervous activity1949 : Weighting 변화를 통한 학습Donald Olding HebbThe Organization of Behavior: A Neuropsychological Theory19501956 : AI (Artificial Inteligence) 용어 등장.1956년 다트머스대학 컨퍼런스J. McCarthy (당시 Dartmouth College 조교수)https://dsaint31.me/mkdocs_site/ML/ch00/ch00_01_dartmouth_ai/1958 : 최초의 ANN 구현물 .. 2024. 7. 8.
[ML] Classification 과 관련 metrics 에 대한 소개. 이 문서는 AI, ML, 그리고 DL의 정의와 이들 간의 차이점을 설명하며,특히 ML의 supervised learning에서 가장 많이 다루는 task인 classification의 종류와 관련 metrics를 설명함.Classifier (분류기):정의: 주어진 데이터 포인트(or Sample, Case)를 사전에 정의된 Categories 또는 Classes 중 하나로 분류하는 알고리즘 또는 모델예시: 이메일을 "스팸" 또는 "정상"으로 분류하거나, 이미지를 "고양이", "개", "새" 등으로 분류하는 작업에 사용됨.Metrics (평가지표):정의: 특정 목표나 성과를 평가하기 위해 사용되는 양적 또는 질적 기준.예시: DL에서 Classification Model(=Classifier)의 성능을 평.. 2024. 6. 1.
[DL] MultiLabelSoftMarginLoss: Multi-label classification MultiLabelSoftMarginLossPyTorch 의 MultiLabelSoftMarginLoss는 Multi-label Classification 을 위한 loss function임. Multi-Label Classification은 하나의 sample이 여러 개의 class 에 동시에 속할 수 있는 classification 문제임.https://dsaint31.me/mkdocs_site/ML/ch02/ml_cls_types/#multilabel-classification BMEOvO OvR binary-classification multiclass multilabel multioutput Types of Classification Binary Classification Binary Class.. 2024. 5. 30.
[DL] Classification 을 위한 Activation Func. 와 Loss Func: PyTorch PyTorch: Classification에서의 Output Func(~Activation Func.)와 Loss Func. 요약PyTorch는 다양한 종류의 loss function(손실 함수)와 activation function(활성화 함수)를 제공하는데,이 중에서 classification task를 수행하는 모델에서 사용되는 것들을 위주로 정리함.최종 출력 함수로 사용되는 activation functions 와 이들과 같이 사용되는 loss functions는 다음과 같음.최종 출력으로로사용되는 activation functions: Sigmoid, Softmax, LogSoftmaxloss functions: BCELoss, BCEWithLogitsLoss, CrossEntropyLoss, .. 2024. 5. 23.
728x90
반응형