airoot의 인공지능 이야기

인공지능에서 사용하는 벡터(Vector)는 데이터와 정보를 수학적으로 표현하고 처리하는 기본 단위이다. 벡터는 주로 기계 학습, 딥러닝, 자연어 처리(NLP)와 같은 다양한 인공지능 분야에서 중요한 역할을 한다. 1. 벡터의 기본 개념벡터의 정의: 벡터는 크기와 방향을 가지는 양을 나타내는 개념으로 여러 개의 수치(숫자)를 순서대로 나열한 것이다, 공간 상에서 화살표로 표시할 수 있다. 이러한 수치들은 보통 "차원"이라고 부른다. 예를 들어, 3차원 벡터 [1, 2, 3]은 세 개의 수(1, 2, 3)로 구성된 벡터이다.V = [v1, v2, v3]차원(Dimension): 벡터의 크기 또는 길이를 나타내며, 벡터에 포함된 수치의 개수이다. 예를 들어, 2차원 벡터는 두 개의 수치로, 100차원 벡터는 ..

먼저 Transformer 개요 보기 오늘은 Transformer를 이해하는 시간을 가져보고자 한다. Transformer를 이해함으로서 인공지능 알고리즘에 대한 접근에 좀더 다가갈 수 있겠지만 이미 아는 바와 같이 Transformer 알고리즘을 구현해서 효과를 보기 위해서는 엄청난 양의 학습데이터와 학습시간(리소스)을 요구하기 때문에 사실상 구현은 가능하지만 효과를 보기는 쉽지 않다. 그럼에도 Trasformer 에 대해 이해의 관점으로 접근하고자 한다. 이해해야 하는 기본 내용은 "Attention Is All You Need"의 구성도이다.1. 기본 용어 정리Tensor(T) : 수학에서 사용하는 다차원 배열Query(q) : 하나의 텐서. 입력의 단위Weight(w) : 연산에서의 가중치. 하나..