먼저 Transformer 개요 보기 오늘은 Transformer를 이해하는 시간을 가져보고자 한다. Transformer를 이해함으로서 인공지능 알고리즘에 대한 접근에 좀더 다가갈 수 있겠지만 이미 아는 바와 같이 Transformer 알고리즘을 구현해서 효과를 보기 위해서는 엄청난 양의 학습데이터와 학습시간(리소스)을 요구하기 때문에 사실상 구현은 가능하지만 효과를 보기는 쉽지 않다. 그럼에도 Trasformer 에 대해 이해의 관점으로 접근하고자 한다. 이해해야 하는 기본 내용은 "Attention Is All You Need"의 구성도이다.1. 기본 용어 정리Tensor(T) : 수학에서 사용하는 다차원 배열Query(q) : 하나의 텐서. 입력의 단위Weight(w) : 연산에서의 가중치. 하나..
