Continual_Learning1 Encoders and Ensembles for Task-Free Continual Learning 리뷰 1. Introduction •Supervised Learning : data가 i.i.d.(identically and independently distributed)이며 고정된 분포로 부터 추출된다 가정 •Continual Learning : 현실적엔 시나리오(데이터 real time)에 대처하는 것을 연구 •주요 문제점 : catastrophic forgetting Catastrophic Forgetting Catastrophic forgetting 새로운 data를 학습함에 따라 이전 data들에 대한 모델의 성능이 저하 되는 것 특히 신경망은 gradient-based로 가중치가 update되기 때문에 이 문제에 취약 Data가 imbalance할 경우 오랫동안 특정 class에 대해 weigh.. 2022. 3. 11. 이전 1 다음
