| 선형모형 | 선형모형 종류 | 모집단 모형식 | 관측값 분해식 | 적합식 | 잔차식 | 추정식 |
|---|---|---|---|---|---|---|
| 고정효과 선형모형 | 단순선형회귀 | \( \mathbf{y}=\mathbf{1}\beta_0+\mathbf{x}\beta_1+\boldsymbol{\epsilon} \) | \( \mathbf{y}=\mathbf{1}\hat{b}_0+\mathbf{x}\hat{b}_1+\hat{\mathbf{e}} \) | \( \hat{\mathbf{y}}=\mathbf{1}\hat{b}_0+\mathbf{x}\hat{b}_1 \) | \( \hat{\mathbf{e}}=\mathbf{y}-\hat{\mathbf{y}} \) | \( \hat{\mathbf{b}}=(\mathbf{X}^{\top}\mathbf{X})^{-1}\mathbf{X}^{\top}\mathbf{y} \) |
| 다중선형회귀 | \( \mathbf{y}=\mathbf{X}\boldsymbol{\beta}+\boldsymbol{\epsilon} \) | \( \mathbf{y}=\mathbf{X}\hat{\mathbf{b}}+\hat{\mathbf{e}} \) | \( \hat{\mathbf{y}}=\mathbf{X}\hat{\mathbf{b}} \) | \( \hat{\mathbf{e}}=\mathbf{y}-\hat{\mathbf{y}} \) | \( \hat{\mathbf{b}}=(\mathbf{X}^{\top}\mathbf{X})^{-1}\mathbf{X}^{\top}\mathbf{y} \) | |
| 일원분산분석 | \( \mathbf{y}=\mathbf{X}\boldsymbol{\beta}+\boldsymbol{\epsilon} \) | \( \mathbf{y}=\mathbf{X}\hat{\mathbf{b}}+\hat{\mathbf{e}} \) | \( \hat{\mathbf{y}}=\mathbf{X}\hat{\mathbf{b}} \) | \( \hat{\mathbf{e}}=\mathbf{y}-\hat{\mathbf{y}} \) | \( \hat{\mathbf{b}}=(\mathbf{X}^{\top}\mathbf{X})^{-1}\mathbf{X}^{\top}\mathbf{y} \) | |
| 이원분산분석 | \( \mathbf{y}=\mathbf{X}\boldsymbol{\beta}+\boldsymbol{\epsilon} \) | \( \mathbf{y}=\mathbf{X}\hat{\mathbf{b}}+\hat{\mathbf{e}} \) | \( \hat{\mathbf{y}}=\mathbf{X}\hat{\mathbf{b}} \) | \( \hat{\mathbf{e}}=\mathbf{y}-\hat{\mathbf{y}} \) | \( \hat{\mathbf{b}}=(\mathbf{X}^{\top}\mathbf{X})^{-1}\mathbf{X}^{\top}\mathbf{y} \) | |
| ANCOVA | \( \mathbf{y}=\mathbf{X}\boldsymbol{\beta}+\boldsymbol{\epsilon} \) | \( \mathbf{y}=\mathbf{X}\hat{\mathbf{b}}+\hat{\mathbf{e}} \) | \( \hat{\mathbf{y}}=\mathbf{X}\hat{\mathbf{b}} \) | \( \hat{\mathbf{e}}=\mathbf{y}-\hat{\mathbf{y}} \) | \( \hat{\mathbf{b}}=(\mathbf{X}^{\top}\mathbf{X})^{-1}\mathbf{X}^{\top}\mathbf{y} \) | |
| GLS | \( \mathbf{y}=\mathbf{X}\boldsymbol{\beta}+\boldsymbol{\epsilon},\ \operatorname{Var}(\boldsymbol{\epsilon})=\mathbf{R} \) | \( \mathbf{y}=\mathbf{X}\hat{\mathbf{b}}+\hat{\mathbf{e}} \) | \( \hat{\mathbf{y}}=\mathbf{X}\hat{\mathbf{b}} \) | \( \hat{\mathbf{e}}=\mathbf{y}-\hat{\mathbf{y}} \) | \( \hat{\mathbf{b}}=(\mathbf{X}^{\top}\mathbf{R}^{-1}\mathbf{X})^{-1}\mathbf{X}^{\top}\mathbf{R}^{-1}\mathbf{y} \) | |
| 벌점 선형모형 | Ridge 회귀 | \( \mathbf{y}=\mathbf{X}\boldsymbol{\beta}+\boldsymbol{\epsilon} \) | \( \mathbf{y}=\mathbf{X}\hat{\mathbf{b}}+\hat{\mathbf{e}} \) | \( \hat{\mathbf{y}}=\mathbf{X}\hat{\mathbf{b}} \) | \( \hat{\mathbf{e}}=\mathbf{y}-\hat{\mathbf{y}} \) | \( \hat{\mathbf{b}}=(\mathbf{X}^{\top}\mathbf{X}+\lambda\mathbf{I})^{-1}\mathbf{X}^{\top}\mathbf{y} \) |
| 임의효과 선형모형 | 임의효과 선형모형 일반형 | \( \mathbf{y}=\mathbf{1}\beta_0+\mathbf{Z}\mathbf{u}+\boldsymbol{\epsilon} \) | \( \mathbf{y}=\mathbf{1}\hat{b}_0+\mathbf{Z}\hat{\mathbf{u}}+\hat{\mathbf{e}} \) | \( \hat{\mathbf{y}}=\mathbf{1}\hat{b}_0+\mathbf{Z}\hat{\mathbf{u}} \) | \( \hat{\mathbf{e}}=\mathbf{y}-\hat{\mathbf{y}} \) | \( \begin{bmatrix} \mathbf{1}^{\top}\mathbf{R}^{-1}\mathbf{1} & \mathbf{1}^{\top}\mathbf{R}^{-1}\mathbf{Z} \\ \mathbf{Z}^{\top}\mathbf{R}^{-1}\mathbf{1} & \mathbf{Z}^{\top}\mathbf{R}^{-1}\mathbf{Z}+\mathbf{G}^{-1} \end{bmatrix} \begin{bmatrix} \hat{b}_0 \\ \hat{\mathbf{u}} \end{bmatrix} = \begin{bmatrix} \mathbf{1}^{\top}\mathbf{R}^{-1}\mathbf{y} \\ \mathbf{Z}^{\top}\mathbf{R}^{-1}\mathbf{y} \end{bmatrix} \) |
| 단일 임의효과 선형모형 | \( \mathbf{y}=\mathbf{1}\beta_0+\mathbf{z}u+\boldsymbol{\epsilon} \) | \( \mathbf{y}=\mathbf{1}\hat{b}_0+\mathbf{z}\hat{u}+\hat{\mathbf{e}} \) | \( \hat{\mathbf{y}}=\mathbf{1}\hat{b}_0+\mathbf{z}\hat{u} \) | \( \hat{\mathbf{e}}=\mathbf{y}-\hat{\mathbf{y}} \) | \( \begin{bmatrix} \mathbf{1}^{\top}\mathbf{R}^{-1}\mathbf{1} & \mathbf{1}^{\top}\mathbf{R}^{-1}\mathbf{z} \\ \mathbf{z}^{\top}\mathbf{R}^{-1}\mathbf{1} & \mathbf{z}^{\top}\mathbf{R}^{-1}\mathbf{z}+g^{-1} \end{bmatrix} \begin{bmatrix} \hat{b}_0 \\ \hat{u} \end{bmatrix} = \begin{bmatrix} \mathbf{1}^{\top}\mathbf{R}^{-1}\mathbf{y} \\ \mathbf{z}^{\top}\mathbf{R}^{-1}\mathbf{y} \end{bmatrix} \) | |
| 혼합선형모형 | 혼합선형모형 일반형 | \( \mathbf{y}=\mathbf{X}\boldsymbol{\beta}+\mathbf{Z}\mathbf{u}+\boldsymbol{\epsilon} \) | \( \mathbf{y}=\mathbf{X}\hat{\mathbf{b}}+\mathbf{Z}\hat{\mathbf{u}}+\hat{\mathbf{e}} \) | \( \hat{\mathbf{y}}=\mathbf{X}\hat{\mathbf{b}}+\mathbf{Z}\hat{\mathbf{u}} \) | \( \hat{\mathbf{e}}=\mathbf{y}-\hat{\mathbf{y}} \) | \( \begin{bmatrix} \mathbf{X}^{\top}\mathbf{R}^{-1}\mathbf{X} & \mathbf{X}^{\top}\mathbf{R}^{-1}\mathbf{Z} \\ \mathbf{Z}^{\top}\mathbf{R}^{-1}\mathbf{X} & \mathbf{Z}^{\top}\mathbf{R}^{-1}\mathbf{Z}+\mathbf{G}^{-1} \end{bmatrix} \begin{bmatrix} \hat{\mathbf{b}} \\ \hat{\mathbf{u}} \end{bmatrix} = \begin{bmatrix} \mathbf{X}^{\top}\mathbf{R}^{-1}\mathbf{y} \\ \mathbf{Z}^{\top}\mathbf{R}^{-1}\mathbf{y} \end{bmatrix} \) |
단일 임의효과 혼합모형 (단일 임의효과 선형모형) | \( \mathbf{y}=\mathbf{1}\beta_0+\mathbf{z}u+\boldsymbol{\epsilon} \) | \( \mathbf{y}=\mathbf{1}\hat{b}_0+\mathbf{z}\hat{u}+\hat{\mathbf{e}} \) | \( \hat{\mathbf{y}}=\mathbf{1}\hat{b}_0+\mathbf{z}\hat{u} \) | \( \hat{\mathbf{e}}=\mathbf{y}-\hat{\mathbf{y}} \) | \( \begin{bmatrix} \mathbf{1}^{\top}\mathbf{R}^{-1}\mathbf{1} & \mathbf{1}^{\top}\mathbf{R}^{-1}\mathbf{z} \\ \mathbf{z}^{\top}\mathbf{R}^{-1}\mathbf{1} & \mathbf{z}^{\top}\mathbf{R}^{-1}\mathbf{z}+g^{-1} \end{bmatrix} \begin{bmatrix} \hat{b}_0 \\ \hat{u} \end{bmatrix} = \begin{bmatrix} \mathbf{1}^{\top}\mathbf{R}^{-1}\mathbf{y} \\ \mathbf{z}^{\top}\mathbf{R}^{-1}\mathbf{y} \end{bmatrix} \) |