[PyTorch] 기본 모델링 과정

Model을 이용해 Dataset을 원하는 방향으로 출력하는 단계

 

Pytorch

• Low-level 처음에 사용하기 힘듦
• Pythonic 파이썬스러움
• Flexibility 응용하기 쉬움

https://thought-process-ing.tistory.com/53

[PyTorch] 파이토치에 대해서 알아보자

 

 

Pretrained Model

매번 Good Model을 만든는 것은 어렵다. 기존에 사용한 model을 가져와 weight를 잘 설정하면 충분히 좋은 결과를 만들 수 있다.

 

Trnasfer Learning

Pretrained model를 우리의 문제를 해결하기 위해 가져와서 학습하는 것을 말한다.

 

● Resnet18 모델 가져오기

import torchvision.models as models

resnet18 = models.resnet18(pretrained=True)
print(resnet18)

 

내 데이터와 모델과의 유사성

실생활에 존재하는 이미지를 1000개의 다른 class로 구분하기

마지막 줄의 fc의 Linear out_features=1000이므로 classify 1000가지로 분류 한다는 것이다.

 

내가 설정한 문제와 비교

구름 위성사진을 통해 구름의 종류를 구별해보자!

Resnet18 모델을 Pretraining 할 때 설정했던 문제와 현재 문제와의 유사성을 고려해보자

이는 구름 위성사전을 통해 구름 종류를 구별하는 문제와 비교했을 때 구름의 종류는 1000개가 안되기 때문에 class가 작을 것이고 그러면 모델을 classify할 때 적은 수로 분류하도록 Linear를 한 줄 더 만드는 것이 좋을 것이다.

Pretraining 할 때 설정했던 문제와 현재 문제와의 유사성을 고려

문제를 해결하기 위한 학습 데이터가 충분하면 유사성을 비교해가며 필요한 부분을 모두 수정해가며 Trainable 할 수 있다.

하지만 학습데이터가 충분하지 못한 경우 CNN Backbone은 건드리지 않고(Freeze) 훈련을 해 보는 것이 좋다.

데이터의 양에 따라 모델을 수정할 수 있는 정도는 다를 것이다.

 

 

## 피어세션

[피어세션](https://www.notion.so/2021-08-25-abbbe9b6a49544e69a9a9dd10188b081)