[ML] ๋ชจ๋ธ์ ์ฌ์ฉ๋ feature๋ฅผ ์ ํํ๋ ๊ณผ์ : Permutation Feature Importance
๋ณดํธ๋์ด ์๋ ๊ธ์ ๋๋ค.
๋ณดํธ๋์ด ์๋ ๊ธ์ ๋๋ค.
๋ถ์คํ ์๊ณ ๋ฆฌ์ฆ: ์ฌ๋ฌ ๊ฐ์ ๋จธ์ ๋ฌ๋์ ์์ฐจ์ ์ผ๋ก ํ์ตํ๋ฉด์ ๊ฐ step์์ ์๋ชป ์์ธก๋ ๋ฐ์ดํฐ์ ๋ํด ๊ฐ์ค์น๋ฅผ ๋ถ์ฌํด ์ค๋ฅ๋ฅผ ๊ฐ์ ํด ๋๊ฐ๋ ํ์ต ๋ฐฉ์ AdaBoost(Adaptive boosting) Gradient boost AdaBoost๊ฐ ํ์ต ๋ฐฉ๋ฒ GBM์์ ํ์๋ ๋ชจ๋ธ XGBoost LightGBM CatBoost GBM(Gradient Boost Model) -. ์ด๋ ์ฌ๋ฌ ๊ฐ์ ๋จธ์ ๋ฌ๋์ ์์ฐจ์ ์ผ๋ก ๊ตฌ์ฑ์ด ๋๋ฉฐ, ๋จธ์ ๋ฌ๋์ด ์์ธกํ ๊ฐ๊ณผ ์ค์ ๋ฐ์ดํฐ ๊ฐ ์ฌ์ด์ ์ฐจ์ด๋ฅผ "์์ฐจ"๋ผ๊ณ ํฉ๋๋ค. -. ์ฒซ๋ฒ์งธ ์์ฑ๋ ๋จธ์ ๋ฌ๋์ด ๋ฐ์์ํจ ์์ฐจ๋ฅผ ๋๋ฒ์งธ ์์ฑ๋ ๋จธ์ ๋ฌ๋์ด ํ์ตํ๊ฒ ๋๋ฉฐ, N๋ฒ์งธ๊น์ง ๋ฐ๋ณต์ ์ผ๋ก ํ์ตํฉ๋๋ค. ์ด๋ฌํ ๋ฐฉ๋ฒ์ผ๋ก ์์ฑ๋ ๋ชจ๋ธ์ ์์ฐจ๋ฅผ ์ต์ํ์ํค๋ฉฐ, GBM์ด๋ผ ๋ถ๋ฆ ๋๋ค. โป ์ค์ฐจ์ ..
์ค๋ช ๊ฐ๋ฅํ ์ธ๊ณต์ง๋ฅ: XAI ๋จธ์ ๋ฌ๋: ์ปดํจํฐ ๋น์ , ํ๊ท ๋ถ์, ์๊ณ์ด ์์ธก, ๋ถ๋ฅ, ์์ฑ ์ธ์, ๋ฌธ์ ์ธ์ ์ ์ฌ์ฉ ๋์๋ค. ํ์ง๋ง ๋จธ์ ๋ฌ๋, ๋ช๋ช ๋ฅ๋ฌ๋ ์๊ณ ๋ฆฌ์ฆ์ ์๋ ๋ฐฉ์์ black box์๋ ๊ฐ๋ค. ์ด๋ ๋ชจ๋ธ์ ์ ๋ ฅ๊ฐ, ์ถ๋ ฅ๊ฐ ์ด์ธ์ ์๋ ์๋ฆฌ๋ฅผ ์๊ธฐ ํ๋ค๋ค๋ ๊ฒ์ด๋ค. ๋ฅ๋ฌ๋์ ํ์ต ๋ฐฉ์์ ๊ฐ๋จํ ๋ฏธ๋ถ ๊ณ์ฐ๋ค๋ก ์ด๋ฃจ์ด์ ธ ์์ง๋ง, ์ ํ๋ ๊ฐ์ ์ ์ํด ๋ฌด์ํ ๋ง์ layer๋ฅผ ์์ ๊ฒฐ๊ณผ์ ์ผ๋ก ๋ณต์กํ ๋ชจ๋ธ์ด ๋ง๋ค์ด ์ง๋ค. ML ๋ชจ๋ธ black box: XGBoost, Random Forest XGBoost๋ Decision Tree์ Overfitting ๋จ์ ์ ๊ทน๋ณตํ๊ธฐ ์ํด Single Decision Tree๋ฅผ ์์ ๊ฒ์ด๋ค. white box: Decision Tree XAI ๋ชจ๋ธ์ ์ ํ๋ ..
import: ํ์ํ ๋ชจ๋ import ์ ์ฒ๋ฆฌ: ํ์ต์ ํ์ํ ๋ฐ์ดํฐ ์ ์ฒ๋ฆฌ๋ฅผ ์ํํฉ๋๋ค. ๋ชจ๋ธ๋ง(model): ๋ชจ๋ธ์ ์ ์ํฉ๋๋ค. ์ปดํ์ผ(compile): ๋ชจ๋ธ์ ์์ฑํฉ๋๋ค. ํ์ต (fit): ๋ชจ๋ธ์ ํ์ต์ํต๋๋ค. ์ด๋ฏธ์ง: ๋ฐ์ดํฐ ๋ก๋ 1) load_data()๋ฅผ ํตํด train, validation ๋๋๋ค. (x_train, y_train), (x_valid, y_valid) = fashion_mnist.load_data() ์ ์ฒ๋ฆฌ 1) ์ด๋ฏธ์ง ์ ๊ทํ (Normalization)- ๋ชจ๋ ํฝ์ ์ 0~255(8bit) x_train = x_train / 255.0 x_valid = x_valid / 255.0 3) Flatten- 2D> 1D x = Flatten(input_shape=(28, 28)) ..
R-CNN(Regions with CNN features)์ด ์ด๋ป๊ฒ ์๋ํ๋์ง ์์ธํ ์ค๋ช ํ๊ฒ ์ต๋๋ค. R-CNN (Girshick et al. 2013)* Fast R-CNN (Girshick 2015)* Faster R-CNN (Ren et al. 2015)* Section 1: Image Pre-Processing R-CNN ์ฃผ์ ๋ฌธ์ ROI(Region Proposal Interest) ์๋ณ: ์ด๋ฏธ์ง์์ ๊ฐ์ฒด ROI(Region Proposal Interest) : class ํ๋ฅ ๋ถํฌ ๊ณ์ฐ(ROI์ calss์ ๊ฐ์ฒด๊ฐ ํฌํจ๋ ํ๋ฅ ), ๋ถ๋ฅ ๊ฒฐ๊ณผ ํ๋ฅ ์ด ๊ฐ์ฅ ๋์ class ์ ํ Section 2: Network Organization Head Region Proposal Network (RPN) ..