Pretraining with Random Noise for Fast and RobustLearning without Weight Transport

https://arxiv.org/pdf/2405.16731

 

뇌는 환경과 상호 작용하기 전에도 학습을 준비합니다. 즉, 무작위 노이즈와 유사한 자발적인 신경 활동을 통해 구조를 정제하고 최적화합니다.  그러나 이러한 프로세스의 메커니즘은 아직 완전히 이해되지 않았으며 이 프로세스가 머신 러닝 알고리즘에 도움이 될 수 있는지 여부는 불분명합니다.  여기서는 피드백 정렬 알고리즘이 있는 신경망을 사용하여 이 문제를 연구하여 무작위 노이즈가 있는 신경망을 사전 학습하면 가중치 전송 없이도 학습 효율성과 일반화 능력이 향상된다는 것을 보여줍니다.  먼저 무작위 노이즈 학습은 역방향 시냅스 피드백과 일치하도록 전방 가중치를 수정하는데, 이는 피드백 정렬을 통해 오류를 가르치는 데 필요합니다.  결과적으로 사전 정렬된 가중치가 있는 네트워크는 무작위 노이즈 학습이 없는 네트워크보다 훨씬 빠르게 학습하며 역전파 알고리즘과 비슷한 수렴 속도에 도달합니다.  무작위 노이즈와 데이터를 모두 사용하여 순차적으로 학습하면 데이터로만 학습하는 것보다 가중치가 시냅스 피드백에 더 가까워져 더 정확한 크레딧 할당과 더 빠른 학습이 가능합니다.  또한 우리는 각 판독 확률이 우연 수준에 접근하고 가중치의 효과적인 차원성이 무작위 노이즈로 사전 학습된 네트워크에서 감소한다는 것을 발견했습니다.  이 사전 정규화를 통해 네트워크는 낮은 순위의 간단한 솔루션을 학습하여 후속 학습 중에 일반화 손실을 줄일 수 있습니다. 또한 네트워크는 새로운 분포 밖 데이터 세트를 강력하게 일반화할 수 있습니다.  마지막으로 무작위 노이즈 사전 학습이 메타 손실의 양을 줄여 네트워크가 다양한 작업에 적응하는 능력을 향상시킨다는 것을 확인했습니다.  전반적으로, 우리의 결과는 피드백 정렬을 사용한 무작위 노이즈 학습이 가중치 전송 없이 빠르고 안정적인 학습을 용이하게 하는 간단하면서도 효과적인 사전 학습 방법을 제공한다는 것을 시사합니다.

 

이 논문은 현재 인공지능에서 가장 유효한 알고리즘인 역전파가 실재 뇌에서는 가능하지 않다는 문제를 해결하기 위해 무작위 잡음과 피트백정렬을 이용하여 사전학습을 함으로써 연적파와 유사한 효과를 낼 수 있다는 연구이다.

 

인공지능 연구에 좋은 자료가 될 것 같다.