분할 CIFAR-100에서 감성적 SNN의 클래스 점진 학습을 위한 업보 가중 시냅스 가지치기

한줄 요약

Maya-Śūnyatā는 감성적 SNN에서 시냅스 가중치 궤적의 절대 적분을 업보(Karma)로 정의하고, 이를 초과하는 시냅스를 가지치기하는 구조적 가지치기 메커니즘으로 클래스 점진 학습 성능을 향상시킨다.

풀어야 하는 문제

클래스 점진 학습에서 이전 작업 지식을 유지하면서 새 작업을 학습할 때 발생하는 파괴적 망각을 완화해야 한다. 기존 방법은 주로 그래디언트 게이팅에 의존했으나, 구조적 가지치기의 역할과 최적 조건이 불명확했다.

접근 방법

각 시냅스의 가중치 변화 절대 적분을 업보로 계산하고, 작업 경계에서 업보가 문턱값을 초과하는 시냅스를 0-마스킹한다. 문턱값은 Buddhi(지혜) 값에 따라 조절되어 초기에는 적극적, 후기에는 보수적 가지치기를 수행한다. 또한 기존 Vairagya(보호) 신호가 업보 가지치기를 완화하는 상호작용을 설계했다.

결과·기여

7가지 조건의 절제 실험을 통해 (1) 연속 가지치기는 효과가 없고, (2) 업보 가지치기와 그래디언트 게이팅은 상호 보완적이며, (3) 과도한 가지치기는 스파이크 기근을 유발하고, (4) Vairagya 보호가 업보 가지치기를 적절히 완화함을 입증했다. 최고 성능 조건에서 기준 대비 약 10.39%의 정확도를 달성했다.