統計検定準1級 過去問 2021年6月 問4[3]の解説をまとめます
問題は次の本に書いてあります。日本統計学会公式認定 統計検定 準1級 公式問題集
参考書籍（以下ではワークブックと呼びます）：日本統計学会公式認定 統計検定準1級対応 統計学実践ワークブック
2021年6月 問4[3] 解説
n次元正規分布の確率密度関数は一般に以下である。(ワークブックp44)
$$ f_n\left(\boldsymbol{t} ; \boldsymbol{\mu}, \sigma^2\right) = \frac{1}{(2\pi)^{n/2} (\det \Sigma) ^{1/2}} \exp \left( - \frac{1}{2}(\boldsymbol{t} - \boldsymbol{\mu})^\top\Sigma^{-1}(\boldsymbol{t} - \boldsymbol{\mu}) \right) $$
本問では $n = 6, \boldsymbol{\mu} = b \boldsymbol{x}, \Sigma= \sigma^2 I_6, \det \Sigma = (\sigma^2)^6, \Sigma^{-1} = (1/\sigma^2)I_6$ なので上の式に代入すると、
$$ f_6(\boldsymbol{Y};b\boldsymbol{x},\sigma^2) = \frac{1}{(2\pi\sigma^2) ^3} \exp \left( - \frac{1}{2\sigma^2}(\boldsymbol{Y} - b\boldsymbol{x})^\top(\boldsymbol{Y} - b\boldsymbol{x}) \right) $$
となる。
正規分布の分散の最尤推定量(すなわち$f_6$を最大化する分散)は標本分散である。（ワークブックp60例2）
本問ではそれは$(\boldsymbol{Y} - b\boldsymbol{x})^\top(\boldsymbol{Y} - b\boldsymbol{x})/6$ である。
本問[1]より、$(\boldsymbol{Y} - b\boldsymbol{x})^\top(\boldsymbol{Y} - b\boldsymbol{x})$を最小にするbは最小二乗推定量$\hat{b}$である。
よって、
$$ \sup_{b,\sigma^2>0}f_6(\boldsymbol{Y};b\boldsymbol{x},\sigma^2) = f_6(\boldsymbol{Y};\hat{b}\boldsymbol{x},\frac{1}{6}(\boldsymbol{Y} - \hat{b}\boldsymbol{x})^\top(\boldsymbol{Y} - \hat{b}\boldsymbol{x})) = \frac{1}{(2\pi\frac{1}{6}(\boldsymbol{Y} - \hat{b}\boldsymbol{x})^\top(\boldsymbol{Y} - \hat{b}\boldsymbol{x})) ^3} \exp(- 3) $$
$$ \sup_{\sigma^2>0}f_6(\boldsymbol{Y};\boldsymbol{0},\sigma^2) = \frac{1}{(2\pi\frac{1}{6}\boldsymbol{Y}^\top\boldsymbol{Y}) ^3} \exp(- 3) $$
これを問題文にもある尤度比検定統計量(ここでは$L$とおく)に代入すると以下になる。
$$ L = \left( \frac{\boldsymbol{Y}^\top\boldsymbol{Y}}{(\boldsymbol{Y} - \hat{b}\boldsymbol{x})^\top(\boldsymbol{Y} - \hat{b}\boldsymbol{x})} \right)^{-3} = \left(1 + \frac{\boldsymbol{x}^\top\boldsymbol{x}(\hat{b})^2}{(\boldsymbol{Y} - \hat{b}\boldsymbol{x})^\top(\boldsymbol{Y} - \hat{b}\boldsymbol{x})} \right)^{-3} $$
途中計算では平方和の分解
$$ \boldsymbol{Y}^\top\boldsymbol{Y} = \boldsymbol{x}^\top\boldsymbol{x}(\hat{b})^2 + (\boldsymbol{Y} - \hat{b}\boldsymbol{x})^\top(\boldsymbol{Y} - \hat{b}\boldsymbol{x}) $$
を用いている。（さらにこの式では正規方程式 $\boldsymbol{x}^\top\boldsymbol{x}\hat{b} = \boldsymbol{x}^\top\boldsymbol{Y}$ を用いている。）
ここで、重回帰分析の有意性検定の検定統計量Tは、
$$ T = \frac{(R_0^2 - R_1^2)/q}{R_1^2/(n-d-1)} \sim F(q, n-d-1) $$
である。（ワークブックp129）
$$ R_0^2 = \min_{b = 0} ||\boldsymbol{Y} - b \boldsymbol{x} ||^2 = ||\boldsymbol{Y} || ^2 $$
$$ R_1^2 = \min_{b \ne 0} ||\boldsymbol{Y} - b \boldsymbol{x} ||^2 = ||\boldsymbol{Y} - \hat{b} \boldsymbol{x} ||^2 $$
q = 1, n=6, d = 0 より
$$ T = \frac{||\boldsymbol{Y} || ^2 - ||\boldsymbol{Y} - \hat{b} \boldsymbol{x} ||^2}{||\boldsymbol{Y} - \hat{b} \boldsymbol{x} ||^2/5} = \frac{5\boldsymbol{x}^\top\boldsymbol{x}(\hat{b})^2}{(\boldsymbol{Y} - \hat{b}\boldsymbol{x})^\top(\boldsymbol{Y} - \hat{b}\boldsymbol{x})} \sim F(1,5) $$
尤度比検定の棄却域 $L < c$ は変形することで $ T > 5( c ^{-1/3} - 1) $と表わされるのでTの右側検定に帰着する。
統計量Tの有意水準5%の棄却域は[6.61,$\infty$)である。
