대학원생 신짜오는 공부중

본 게시글은서울대학교 데이터사이언스대학원 오민환 교수님의데이터사이언스를 위한 머신러닝 및 딥러닝1 수업을학습을 목적으로 재구성하였습니다 오늘은 딥러닝에서 사용할 수 있는 regularization에 대해서 배웠다 참고로 우리가 이전에 linear regression에서 ridge와 lasso를 배웠는데그때도 이 방법론들이 linear regression에만 국한된 것은 아니라고 했었다 일단 우리가 이 regularization을 왜 하는지부터 좀 생각을 해보자 우리가 이전시간부터 계속 말했는데왜 training data에서 학습을 열심히 시켰는데 test data에서 성능이 안나올까?라고 한다면첫 번째는 train data에 너무 overfit한 나머지 test에서 일반화가 안되는 경우가 있다 ..

본 게시글은서울대학교 데이터사이언스대학원 오민환 교수님의데이터사이언스를 위한 머신러닝 및 딥러닝1 수업을학습을 목적으로 재구성하였습니다이번 시간은 지난 시간에 이은 model selection에 대한 내용이다지난시간의 subset selection은 내용 자체가 중요한게 아니고이번 시간에 배울 내용을 빌드업하기 위한 내용이다 이번 시간은 model selection 중에서도shrinkage method에 관한 내용이고Ridge와 Lasso라는 개념에 대해 배운다 지난 시간에는 여러 개의 subset을 만들어서best subset을 고르는 방식이었는데모든 부분 집합을 다 model fit을 시킨 다음에RSS가 가장 낮은 것을 선택하는 방법이었다 그 다음 stepwise 방식에 대해서도 배웠는데이도 결국..