빅웨이브에이아이 기술블로그

안녕하세요! 빅웨이브에이아이의 박정환입니다. 지난 SOTA 알고리즘 포스팅 글은 정형 데이터 분석 분야의 TabNet에 대해서 알아보았는데요, 이번 시간에는 이미지 분류 분야의 SOTA 알고리즘인 ViT(Vision Transformer)-G/14에 대해서 알아보도록 하겠습니다! Key Idea 트랜스포머(Transformer)란 멀티헤드 어텐션(Multi-Head Attention) 기법이 적용된 인코더 디코더 구조의 모델을 의미합니다. ViT 모델은 트랜스포머 방법론을 이미지 분석 분야에 적용한 것입니다. ViT는 이미지를 고정된 사이즈로 분할하여 선형으로 모델에 입력한 후 포지션 임베딩 및 벡터 시퀀스를 모델의 인코더에 입력합니다. 분류 Task를 위해 추가적으로 클래스 토큰을 시퀀스에 추가하는 방..