Lasso coordinate Descent 방식으로 최적의 Coef 구하기

전제를 두고 한다. lambda 는 lassocv를 이용해서 지정한다. tolerance 를 줘서 loop를 빠져나가게 한다. x와 y 는 임의로 줬다고 하자 그다음에 soft-thresholding에 다른 모습을 이용해서 coordinate Descent 하는 것을 보이겠다. 다음 과 같이 정리할 수 있다. 구체적인 식은 나중에 잘 써서 올리겠다. 결국 오른쪽의 하단의 식을 계속 업데이트 해나가면서, 점점 최적화를 진행하면 된다. np.random.seed(19510) reg = LassoCV(cv=5, random_state=0).fit(train_x , train_y ) best_alpha = reg.alpha_ x_corr = pd.DataFrame(train_x).corr().values pri..

2019.05.12