๋ณธ๋ฌธ ๋ฐ”๋กœ๊ฐ€๊ธฐ

podnet1

[Deep learning] Class-Incremental Learning (LwF, PODNet) ๋ชจ๋“  ๋ฐ์ดํ„ฐ๋ฅผ ํ•œ ๋ฒˆ์— ์ €์žฅํ•˜๊ณ  ํ•™์Šตํ•˜๋Š” ๊ฒƒ์€ ๋น„ํšจ์œจ์ ์ด๊ณ  ์–ด์ฉŒ๋ฉด ๋น„ํ˜„์‹ค์ ์ด๋‹ค. ํŠนํžˆ, ๋ฐ์ดํ„ฐ๊ฐ€ ๋งค์šฐ ํฌ๊ฑฐ๋‚˜ ๋ฏผ๊ฐํ•œ ์ •๋ณด๋ฅผ ํฌํ•จํ•˜๋Š” ๊ฒฝ์šฐ์—๋Š” ๋”์šฑ! ๊ทธ๋ž˜์„œ ๊ณ ์•ˆ๋œ Class-Incremental Learning (CIL)์€ ๋ชจ๋ธ์ด ์‹œ๊ฐ„์ด ์ง€๋‚จ์— ๋”ฐ๋ผ ์ ์ง„์ ์œผ๋กœ ์ƒˆ๋กœ์šด ํด๋ž˜์Šค๋ฅผ ํ•™์Šตํ•˜๋Š” ํ•™์Šต๋ฒ•์ด๋‹ค. ์ „ํ†ต์ ์ธ ํ•™์Šต ๋ฐฉ์‹์—์„œ๋Š” ๋ชจ๋“  ํด๋ž˜์Šค๋ฅผ ํ•œ ๋ฒˆ์— ํ•™์Šตํ•˜์ง€๋งŒ, CIL์—์„œ๋Š” ๋ฐ์ดํ„ฐ๊ฐ€ ์ ์ง„์ ์œผ๋กœ ์ œ๊ณต๋˜๋ฉฐ ๋ชจ๋ธ์ด ์ƒˆ๋กœ์šด ํด๋ž˜์Šค๋ฅผ ํ•™์Šตํ•  ๋•Œ ์ด์ „์— ํ•™์Šตํ•œ ๋‚ด์šฉ์„ ์žŠ์ง€ ์•Š๋„๋ก ํ•˜๋Š” ๊ฒƒ์ด ์ค‘์š”ํ•˜๋‹ค. ์ด๋Š” CIL์ด ๋‹ค๋ฃจ๋Š” Catastrophic Forgetting ๋ฌธ์ œ๋ผ๊ณ ๋„ ๋ถˆ๋ฆฌ๋Š”๋ฐ, ์ด๋ฅผ ํ•ด๊ฒฐํ•˜๊ธฐ ์œ„ํ•œ ๋‹ค์–‘ํ•œ ๋ฐฉ๋ฒ• ์ค‘ LwF์™€ PODNet์„ ๊ฐ„๋‹จํžˆ ์†Œ๊ฐœํ•ด ๋ณด๊ฒ ๋‹ค.๋‘˜์„ ๊ตฌํ˜„ํ•œ ipynb ํŒŒ์ผ์„ ์•„๋ž˜ Github repo.. 2024. 7. 8.