ニューラルネットワークにおける壊滅的忘却の克服

この文書は、人工知能における壊滅的忘却の問題に焦点を当てています。これは、ニューラルネットワークが新しいタスクを学習する際に、以前に学習した情報を忘れてしまう現象です。DeepMindの研究者たちは、この問題に対する新しいアルゴリズムであるElastic Weight Consolidation（EWC）を提案しています。EWCは、以前のタスクにとって重要なネットワークの重みの学習を意図的に遅らせることで、人間の脳におけるシナプス結合の仕組みからヒントを得ています。彼らは、手書き数字の分類やAtariゲームの連続学習といった複数のタスクにおいて、EWCが効果的であることを実証し、壊滅的忘却を克服し、継続的な学習を可能にすることを示しています。Proc Natl Acad Sci U S A. 2017 Mar 28;114(13):3521-3526. doi: 10.1073/pnas.1611835114. Epub 2017 Mar 14.Overcoming catastrophic forgetting in neural networksJ Kirkpatrick et alhttps://pubmed.ncbi.nlm.nih.gov/28292907/