최근 포스트

Docker memory error

최대 1 분 소요

상황 : torch dataloader를 사용했으나 메모리 오류 발생 원인 : 도커 컨테이너 생성 시 shared memory(–shm-size)가 기본적으로 64MB(or256MB)로 설정되어 있기 때문에 발생 해결 방법(1) 도커 컨테이너 생성시...

도커(Docker) 명령어 정리 (2)

최대 1 분 소요

주요 도커 컨테이너 명령어 정리 (2) 도커 환경이 설치되어 있다고 가정한다. 1편: 도커(Docker) 명령어 정리 (1)

Vision Transformer (2)

9 분 소요

Encoder 저번 포스팅의 position embedding에 이어 본격적인 ViT의 인코더 부분을 설명하고자 한다.

Vision Transformer (1)

4 분 소요

Vision Transformer란 Vision Transformer(ViT)는 An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale(2020) 라는 제목으로 발표되었다. 사실 제목에 답이 있는데,...

지식 증류(Knowledge Distillation)

3 분 소요

지식 증류(Knowledge Distillatioin) 딥러닝에서 지식 증류란 teacher model T로부터 추출한 지식을 student model S로 전수하는 것을 의미한다.