[1]
\(n\)個の方程式
\(y_i=\beta_0+\beta_1x_{1i}+\beta_2x_{2i}+\varepsilon_i\)\((i=1, …,n)\)
を行列を用いて1つの方程式の形にすると、
\(Y = \beta_0 \boldsymbol{e}+\beta_1 X_1+\beta_2 X_2+\boldsymbol{\varepsilon}\)
\( = [ \boldsymbol{e}, X_1, X_2] \begin{bmatrix} \beta_0 \\ \beta_1 \\ \beta_2 \end{bmatrix}+\boldsymbol{\varepsilon}\)
\(= X\boldsymbol{\beta} +\boldsymbol{\varepsilon}\)
とすると、最小二乗法により、
\(X^T X \boldsymbol{\beta} = X^T Y\)
ここで、
\(X^T X = \begin{bmatrix}\boldsymbol{e}^T \\ X_1^T \\ X_2^T \end{bmatrix}[ \boldsymbol{e}, X_1, X_2]\)
\( = \begin{bmatrix} \boldsymbol{e}^T\boldsymbol{e} &\boldsymbol{e}^T X_1&\boldsymbol{e}^T X_2\\ X_1^T\boldsymbol{e} &X_1^T X_1&X_1^T X_2\\ X_2^T\boldsymbol{e} &X_2^T X_1&X_2^T X_2\end{bmatrix}\)
\( = \begin{bmatrix} n &n\bar{X_1}&n\bar{X_2}\\ n\bar{X_1} &S_{11}&S_{12}\\ n\bar{X_2} &S_{12}&S_{22}\end{bmatrix}\)
\( = \begin{bmatrix} n &0&0\\ 0 &S_{11}&S_{12}\\ 0 &S_{12}&S_{22}\end{bmatrix}\)
また、
\(X^T Y = \begin{bmatrix}\boldsymbol{e}^T \\ X_1^T \\ X_2^T \end{bmatrix}Y \)\( = \begin{bmatrix}n\bar{Y} \\ S_{1y} \\S_{2y} \end{bmatrix} \)
以上より、\(X^T X \boldsymbol{\beta} = X^T Y\)は、
\( \begin{bmatrix} n &0&0\\0 &S_{11}&S_{12}\\ 0 &S_{12}&S_{22}\end{bmatrix}\begin{bmatrix} \beta_0 \\ \beta_1 \\ \beta_2 \end{bmatrix}\)\( = \begin{bmatrix}n\bar{Y} \\ S_{1y} \\S_{2y} \end{bmatrix} \)
\(\beta_1,\beta_2\)に着目して、
\( \begin{bmatrix} S_{11}&S_{12}\\ S_{12}&S_{22}\end{bmatrix}\begin{bmatrix} \beta_1 \\ \beta_2 \end{bmatrix}\)\( = \begin{bmatrix} S_{1y} \\S_{2y} \end{bmatrix} \)
この方程式を解くことで、
\(\displaystyle \hat{\beta}_1=\frac{S_{22}S_{1y}-S_{12}S_{2y}}{S_{11}S_{22}-S_{12}^2}\)\(,\displaystyle \hat{\beta}_2=\frac{-S_{12}S_{1y}+S_{11}S_{2y}}{S_{11}S_{22}-S_{12}^2}\)
を得る。
[2]
\(r_{12}=\displaystyle \frac{Cov[x_1,x_2]}{\sqrt{V[x_1]}\sqrt{V[x_2]}}\)\(\displaystyle =\frac{S_{12}}{\sqrt{S_{11}}\sqrt{S_{22}}}\)
\(r_{1y}=\displaystyle \frac{Cov[x_1,y]}{\sqrt{V[x_1]}\sqrt{V[y]}}\)\(\displaystyle =\frac{S_{1y}}{\sqrt{S_{11}}\sqrt{S_{y}}}\)
\(r_{2y}=\displaystyle \frac{Cov[x_2,y]}{\sqrt{V[x_2]}\sqrt{V[y]}}\)\(\displaystyle =\frac{S_{2y}}{\sqrt{S_{22}}\sqrt{S_{y}}}\)
この時、\(S_y\)は自分で新たに置いたもの。
\(S_{12}=r_{12}\sqrt{S_{11}}\sqrt{S_{22}}\)\(,S_{1y}=r_{1y}\sqrt{S_{11}}\sqrt{S_{y}}\)\(,S_{2y}=r_{2y}\sqrt{S_{22}}\sqrt{S_{y}}\)を\(\hat{\beta}_1\)に代入し、
\(\displaystyle \hat{\beta}_1 =\frac{r_{1y}-r_{12}r_{2y}}{1-r_{12}^2}\sqrt{\frac{S_y}{S_{11}}}\)\(<0\)とすると、\(1-r_{12}^2 >0\)なので必要十分条件は、
\(r_{1y}-r_{12}r_{2y}<0\)
\(r_{2y}>0\)かつ\(r_{1y}>0\)の場合、\(\displaystyle r_{12} > \frac{r_{1y}}{r_{2y}}\)であれば\(\hat{\beta}_1<0\)となる。
[3]
やばい、この問題ちょっと解答作るの大変すぎる。。。
コメント