Ridge regression 相关的资料
以前学Ridge regression，大概记住了如何求回归系数 \(\beta^{ridge}\)，但有些细节不了解。我找到下面两个slide感觉又学到了新东西。
第一个讲义 【Link or RidgeRegression – Ryan Tibshirani】
http://www.stat.cmu.edu/~ryantibs/datamining/lectures/16-modr1.pdf
Slide 6：Shrink之后的回归系数看起来什么样？
Slide 7：为什么要center和normalize predictors？
Slide 13：当真正的回归系数很大的时候，Ridge regression还有好的表现么？或者说当true coefficient很大的时候，应该向什么方向调整\(\lambda\)可以减少prediction error？
第二个讲义 【Link or RidgeRegression-Rudyregularization】
http://www-stat.stanford.edu/~owen/courses/305/Rudyregularization.pdf
Slide 17：Ridge regression的回归系数的bias具体是多少？
Slide 23-24：Ridge regression和Principal component analysis （PCA）的关系是什么？
Slide 37：选择Ridge regression的tuning parameter时一般用cross validation。如果用GCV（Generalized cross validation）的话，可以有close form.