인공지능 구현을 위해 기본적인 질문들

1. 신경망에서 운영 중에 노드들을 어떻게 신규로 연결할까?

인간의 뇌는 학습을 통해 뉴런 간의 연결이 강화된다. 여기에는 어떤 법칙이 존재할까? SOM에서 제기하는 주변 뉴런의 활성화 방법은 참고가 될만 하다.

 

2. 역전파없이 어떻게 학습할까?

대부분의 신경망은 역전파를 이용하여 훌륭하게 결과를 내고 있다. 하지만 우리의 뇌에는 이러한 역전파는 없을 것 같다. 그럼 어떻게 역전파없이 학습을 할 수 있을까? 이와 비슷한 신경망으로 BM(볼츠만 모델)이 있기는 하지만 아직까지는 초기 단계라서 아직 성공여부를 알 수 없다.

 

3. 시간에 따라 연속적인 데이터를 처리하는 모델은 무엇일까?

우리의 뇌는 시간에 따라 들어오는 연속적인 데이터를 처리하고 학습한다. 아직까지 이런 모델의 신경망은 없는 것 같다.

 

4. 여러 입력 신호의 분석 및 이해하는 방법은?

우리의 뇌는 다양한 감각기관으로부터 다양한 신호를 동시에 받아서 이를 분석하고 이해한다. 이러한 신경망 모델이 필요하다. 최근 트랜스포머에서 멀티모달에 대한 연구가 많이 진행되고 있고 성과를 내고 있지만 이 역시 뇌의 방식과는 다소 차이가 있다.

 

5. 각 뉴런의 역할은 어떻게 정해지는가?

인간의 뇌는 각 부위 별 역할이 정해진 것으로 알려져 있다. 하지만 이 역할은 선천적인 것은 아니고 태어나서 신체의 모양에 따라 그 역할이 정해지는 것이다. 이러한 역할 분배는 어떤 방식으로 이루어지는 것일까?