AI & Bigdata/Paper Review
[논문리뷰] XGBoost: A scalable Tree Boosting System
데이터 불균형 처리 (SMOTE) 데이터 불균형 처리법 이번에는 데이터 불균형에 대해 한번 짚어보고 가겠습니다. 데이터가 불균형한 경우 ... blog.naver.com boosting: 속도가 느리고 overfitting이 쉽다. bagging에 비해 성능이 좋고 해석이 쉽다. AdaBoost & GBM(Gradient Boost) AdaBoost: GBM과 유사한 매커니즘. 다음에 오분류된 데이터를 선택될 확률이 높아지는 것 GBM: 경사하강법을 이용하여 새로 가중치를 업데이트한다. 이전 모델의 잔차를 가지고 weak model을 강화시킨다.(nagative gradient) 오분류값을 이용하는 AdaBoost와 다르게 Gradient Boost은 기울기를 이용한다. 예측 성능이 뛰어난다. 학습 시간..
[논문 리뷰] Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks,Shaoqing Ren et.al., NIPS 2015
Fast R-CNN notable drawback Fast rcnn은 Selective Search가 독립적으로 수행되었기 때문에 bottleneck이 발생하였습니다.(region proposal은 CPU연산이고 region-based CNN은 GPU 연산) 그래서 detection 네트워크의 성능을 아무리 개선시켜 봤자 Selective Search, region proposals의 시간은 그대로 추가가 되기 때문에 속도를 개선시키지 못한다는 단점이 있었습니다. 실시간 추론을 목표로 제안 했기 때문에 매우 빠른 추론이 가능하다 1. Faster R-CNN: RPN + Fast R-CNN 그래서 faster rcnn은 Cpu에서 진행되는 Selective search의 방식이 아닌 Region propo..
[논문 리뷰] Fast R-CNN: Ross Girshick, ICCV 2015
R-CNN notable drawback 1.Training is a multi-stage pipeline 2.The image was forcibly warped to a size of 224x224 3.No back propagation 4.Training is expensive in space and time(disk, 2.5 GPU-days) 2000개의 Image Proposal 후보를 모두 CNN 모델에 집어 넣기 때문에, training, testing 시간이 매우 오래 걸림. AlexNet을 그대로 사용하기 위해 Image를 224x224 크기로 강제로 warping 시켰기 때문에 이미지 변형으로 인한 성능 손실이 존재 뒷 부분에서 수행한 Computation을 Share하지 않는다. (N..
[논문 리뷰] R-CNN: Rich feature hierarchies for accurate object detection and semantic segmentation CVPR 2013
논문: Rich feature hierarchies for accurate object detection and semantic segmentation, Ross Girshick et al. CVPR. 2013 Referance: https://arxiv.org/pdf/1311.2524.pdf 궁금한 점은 댓글로 남겨주시면 감사하겠습니다. 😊 잠깐!! Object Detection이란.. - input: image - ouput: bounding box(Regression), Classification Regression(bouding box의 좌표값)을 통해 object가 어디에 있는지, object가 무엇인지(Classification) 예측하는 것이 Object Detection이다. 2013.11..
