1. 딥러닝에서의 블랙박스 * 블랙박스란 기능을 알지만 작동 원리를 알 수 없는 시스템을 의미함 ex) 고양이/강아지를 분류하는 딥러닝 모델을 만들었다고 했을 때 -> 이미지를 고양이로 잘 분류했지만 어떤 특징을 보고 분류했을까? -> 어떠한 근거로 결과가 도출되었는지 알 수 없다. 2. CAM (Class Avtivation Map) * CAM은 딥러닝 모델에서 이미지의 어떤 특징을 강조했는지 알려주는 시각화 알고리즘 - CNN에서는 Convolution 레이어를 통해 특징을 추출하고, 마지막층에서는 Fully-Connected를 수행해서 분류를 한다. - CAM은 Fully-Connected가 아닌 Global Average Pooling을 사용한다 [CAM(Class Avtivation Map)을 ..

1. 딥러닝에서의 블랙박스 * 블랙박스란 기능을 알지만 작동 원리를 알 수 없는 시스템을 의미함 ex) 고양이/강아지를 분류하는 딥러닝 모델을 만들었다고 했을 때 -> 이미지를 고양이로 잘 분류했지만 어떤 특징을 보고 분류했을까? -> 어떠한 근거로 결과가 도출되었는지 알 수 없다. 2. CAM (Class Avtivation Map) * CAM은 딥러닝 모델에서 이미지의 어떤 특징을 강조했는지 알려주는 시각화 알고리즘 - CNN에서는 Convolution 레이어를 통해 특징을 추출하고, 마지막층에서는 Fully-Connected를 수행해서 분류를 한다. - CAM은 Fully-Connected가 아닌 Global Average Pooling을 사용한다 [CAM(Class Avtivation Map)을 ..

[Face 생성 모델 만들기] 목표 GAN을 이용해 Face 생성 모델 만들기 데이터셋 * PubFig83 데이터셋 - 유명인 83명에 대한 10000개 가량의 이미지로 구성 https://vision.seas.harvard.edu/pubfig83/ PubFig83 PubFig83: A resource for studying face recognition in personal photo collections This is a downloadable dataset of 8300 cropped facial images, made up of 100 images for each of 83 public figures. It was derived from the list of URLs compiled by Neer..

https://situdy.tistory.com/90 [Computer Vision] GAN (Generative adversarial network) [ GAN (Generative adversarial network) ] 1. GAN? * GAN은 이미지 생성에 주로 사용 하는 딥러닝 모델이다. - CNN은 데이터셋이 어떤 클래스인지 분류하는 문제에서 주로 사용한다면, GAN은 데이터셋과 유사한 situdy.tistory.com 목표 CIFAR-10 데이터셋 기반 새로운 이미지 생성 모델 만들기 (GAN) 데이터셋 * CIFAR-10 - 10가지 객체가 포함되어있는 이미지 데이터셋 💻 실습 * 라이브러리 import import os import numpy as np import math import..

[ GAN (Generative adversarial network) ] 1. GAN? * GAN은 이미지 생성에 주로 사용 하는 딥러닝 모델이다. - CNN은 데이터셋이 어떤 클래스인지 분류하는 문제에서 주로 사용한다면, GAN은 데이터셋과 유사한 이미지를 생성하는 모델 [위조 지폐 vs 진짜 지폐] - GAN의 이미지 생성 원리를 '위조 지폐' vs '진짜 지폐' 로 비유하여 설명할 수 있음 1) 생성자(위조지폐범)는 진짜 지폐와 헷갈릴만한 위조지폐를 만든다. 2) 판별자(경찰)은 생성자가 만든 지폐가 진짜인지 가짜인지 구분하려고 한다. 3) 생성자와 판별자는 적대적 관계 => 생성자는 가짜를 계속 생성해내고, 판별자는 진위여부를 계속하여 구분함 2. GAN의 특징 - 생성가능한 적대적 신경망 - 생..

허깅페이스의 pre-trained model인 BERT를 이용해 실습해보겠습니다. - 목표 : 한국어 금융 텍스트를 이용하여 뉴스 긍정, 부정, 중립 3가지 레이블 분류 https://huggingface.co/ Hugging Face – The AI community building the future. huggingface.co 허깅페이스(HugginFace) - pytorch, tensorflow 모두 가능 - 모델 업로드, 전처리, 학습, 평가 및 테스트 코드 모두 제공 - 다양한 사전 학습 언어 모델을 제공하고 있음. 모델의 Hub 로서의 역할. => ko, kor를 입력하면 한국어 모델 Search 가능 - 토크나이저 : 모델마다 사용해야하는 토크나이저가 존재함. - pipeline : 모델 ..

사전 학습 모델(Pre-trained Model) - 대용량의 데이터를 이용해 사전 학습한 모델 => 예를 들어 동물을 분류하는 사전 학습 모델이 있다면, 우리는 이 모델을 이용해 고양이를 분류하는 문제에 적용할 수 있음. Fine - tuning - 사전 학습 모델을 풀고자 하는 태스트의 오차에 맞추어서 학습하는 것 => 동물 분류의 사전 학습 모델을 사용하고 싶다면 우리는 고양이를 분류하는 모델에 맞추는 작업이 필요하다 (미세조정) 사전 학습 언어 모델 (Pre-trained Langage Model) 1. ELMo (Embeddings from Language Model) - 워드 임베딩 방법론 - 사전 학습된 LSTM 언어 모델 두 가지를 결합하여 만들어짐 2. GPT - 트랜스포머의 디코더를 ..

자연어 처리 - 자연어 처리는 크게 자연어 이해(NLU)와 자연어 생성(NLG)의 영역이 있음 - 자연어 생성은 기계가 텍스트를 스스로 생성하는 영역을 말함 Seq2Seq(Sequence-to-Sequence) - 입력된 시퀀스로 부터 다른 도메인의 시퀀스를 출력 - 인코더와 디코더로 구성되어있음. - 인코더는 NLU, 디코더는 NLG에 유리함. ex) 챗봇, 기계 번역, 텍스트 요약 - Seq2seq 는 인코더와 디코더 모듈로 구성 - 입력 데이터를 인코더에 입력 받고 컨텍스트 벡터라는 단어 정보들의 압축한 벡터를 만듦 - 디코더는 컨텍스트 벡터를 받아 번역된 단어 출력 Seq2seq 의 알고리즘 * Greedy Decoding - seq2seq의 디코더는 기본적으로 RNN 언어 모델 => 가장 높은..

📌 FFNN은 인공 신경망의 가장 기본적인 형태이며, MLP는 다층 퍼셉트론을 뜻하며 은닉층이 있는 FFNN 유형 중 하나. RNN은 FFNN과 달리 순환 구조로 이루어져 있기 때문에 이전 정보를 가지고 현재 작업에 반영하므로 순차적인 데이터에 효과적임. +) RNN의 단점을 보완하기 위해 나온 LSTM 모델 , LSTM을 개선한 GRU 모델 등 다양한 시퀀스 모델에 대해 알아보겠습니다. 1. Feed Forward Neural Network (순방향 신경망) - 인공신경망의 최초 유형이자. 가장 단순한 형태 - MLP는 FFNN(Feed Forward Neural Network)의 한 유형 - 입력 노드로부터 출력 노드 방향으로 한 방향(순방향)으로만 움직임. - 입력측 -> 은닉층 -> 출력층 - 단..