OLS の限界と GLS の動機
OLS（最小二乗法）はガウス・マルコフ定理のもとで最良線形不偏推定量となります。この定理が成立するための核心的な仮定は、誤差項が互いに独立かつ同分散であること、すなわち $\mathrm{Cov}(\varepsilon) = \sigma^2 I$ が成立することです。しかし、経済時系列データやパネルデータでは、この仮定が満たされない状況が頻繁に生じます。
誤差構造に関する一般的な定式化は次のとおりです。
$$
\mathrm{Cov}(\varepsilon) = \sigma^2 \Omega
$$
ここで $\Omega$ は $n \times n$ の正定値行列であり、誤差間の分散・共分散構造全体を表します。$\Omega = I$（単位行列）のとき OLS の古典的仮定が成立しますが、$\Omega \neq I$ のとき、誤差に系列相関または不均一分散が存在します。系列相関とは、時点 $t$ の誤差 $\varepsilon_t$ と過去の誤差 $\varepsilon_{t-k}$ との間に相関が生じる状態です。不均一分散とは、各観測の誤差分散 $\sigma_i^2$ が観測ごとに異なる状態を指します。
OLS 推定量 $\hat{\beta}_{OLS}$ は $\Omega \neq I$ のもとでも不偏性を保ちますが、最小分散性（効率性）を失います。このとき OLS の真の分散共分散行列は次のように表されます。
$$
\mathrm{Var}(\hat{\beta}_{OLS}) = (X’X)^{-1} X’ \Omega X (X’X)^{-1}
$$
$\Omega = I$ のとき右辺は $\sigma^2(X’X)^{-1}$ に帰着しますが、$\Omega \neq I$ の場合、OLS の標準的な分散推定量は偏りを持ち、仮説検定の結果が信頼できなくなります。GLS（一般化最小二乗法）は $\Omega$ の構造を明示的に組み込むことでこの非効率性を解消します。
OLS の仮定として、誤差が独立・同分散であることが要求されます。この仮定に違反する場合、OLS 推定量は依然として不偏ですが、その分散推定量は真の分散と乖離し、標準的な推論が無効となります。
（Fig1. AR(1) 誤差をもつ OLS 残差の時系列プロットと ACF）
誤差共分散行列と GLS 推定量の導出
$\mathrm{Cov}(\varepsilon) = \sigma^2 \Omega$ のもとで、$\Omega$ が既知かつ正定値であるとします。正定値行列 $\Omega$ はコレスキー分解 $\Omega = P’P$ を持ちます。変換行列 $P^{-1}$ を元の回帰モデル $y = X\beta + \varepsilon$ の両辺に乗じると、次の変換済みモデルが得られます。
$$
P^{-1}y = P^{-1}X\beta + P^{-1}\varepsilon
$$
この変換は Whitening 変換（脱相関変換）と呼ばれます。変換後の誤差項 $P^{-1}\varepsilon$ の共分散行列は $\mathrm{Cov}(P^{-1}\varepsilon) = \sigma^2 I$ となり、標準的な OLS の仮定を満たします。したがって、変換後のモデルに OLS を適用することが適切であり、この手続きから導出される GLS 推定量の閉形式解は次のとおりです。
$$
\hat{\beta}_{GLS} = (X’\Omega^{-1}X)^{-1}X’\Omega^{-1}y
$$
この式は変換後のモデルに対する OLS の正規方程式と等価です。重み行列として $\Omega^{-1}$ が用いられており、分散の大きい観測には小さな重みが、分散の小さい観測には大きな重みが自動的に割り当てられます。Aitken 定理は、この GLS 推定量が $\Omega$ 既知のもとで最良線形不偏推定量であることを保証します。なお、不均一分散のみが存在し $\Omega$ が対角行列である場合、GLS は WLS（加重最小二乗法）と一致します。
仮定として、$\Omega$ が既知かつ正定値であること、および説明変数行列 $X$ がフルランクであることが必要です。限界として、実際の応用では $\Omega$ が未知であることが多く、後述する FGLS（実行可能一般化最小二乗法）が必要となります。
GLS 推定量の統計的性質
$\Omega$ が既知かつ正定値のもとで、GLS 推定量の分散共分散行列は次のように表されます。
$$
\mathrm{Var}(\hat{\beta}_{GLS}) = (X’\Omega^{-1}X)^{-1}
$$
一般化ガウス・マルコフ定理（Aitken 定理）によれば、$\hat{\beta}_{GLS}$ はすべての線形不偏推定量のなかで最小分散を持ちます。OLS と GLS の分散共分散行列の差が半正定値であることが次のように示されます。
$$
\mathrm{Var}(\hat{\beta}_{OLS}) – \mathrm{Var}(\hat{\beta}_{GLS}) \succeq 0
$$
ここで $A \succeq 0$ は $A$ が半正定値行列であることを意味します。この結果は、GLS の各係数推定量の分散が OLS の対応する分散以下であること、すなわち GLS が OLS より効率的であることを示します。
BLUE（最良線形不偏推定量）は、すべての線形不偏推定量のクラスの中で分散共分散行列が最小となる推定量として定義されます。$\Omega = I$ のとき OLS が BLUE となりますが、$\Omega \neq I$ のとき OLS は BLUE でなくなります。GLS はどのような正定値行列 $\Omega$ のもとでも BLUE となります。
漸近的性質として、正則条件のもとで GLS 推定量は漸近正規性を持ちます。
$$
\sqrt{n}(\hat{\beta}_{GLS} – \beta) \xrightarrow{d} N\!\left(0,\,(X’\Omega^{-1}X)^{-1}\right)
$$
仮定として、線形モデルの仮定および $\Omega$ が正定値かつ既知であることが必要です。限界として、有限標本での正確な正規推論は誤差の正規性仮定に依存します。また、$\Omega$ が誤って特定された場合、推定量の不偏性・効率性が損なわれます。
（Fig2. OLS と GLS の回帰係数推定量のサンプリング分布比較）
Feasible GLS：共分散行列の推定と二段階手順
実際の応用では $\Omega$ は未知であるため、データから推定する必要があります。FGLS（実行可能一般化最小二乗法）は OLS 残差を用いて $\hat{\Omega}$ を推定し、その推定値を GLS に代入する二段階手順を採用します。第一段階で OLS を実行して残差 $\hat{\varepsilon}$ を取得します。第二段階で残差から $\hat{\Omega}$ を推定し、次の FGLS 推定量を計算します。
$$
\hat{\beta}_{FGLS} = (X’\hat{\Omega}^{-1}X)^{-1}X’\hat{\Omega}^{-1}y
$$
誤差が AR(1)（一次自己回帰）構造 $\varepsilon_t = \rho\varepsilon_{t-1} + u_t$（$|\rho| < 1$、$u_t$ は独立同分散の撹乱項）に従う場合、$\Omega$ の $(i,j)$ 要素は $\rho^{|i-j|}$ に比例します。自己回帰係数 $\rho$ は OLS 残差の隣接自己相関 $\hat{\rho} = \sum_{t=2}^{n}\hat{\varepsilon}_t\hat{\varepsilon}_{t-1}/\sum_{t=1}^{n}\hat{\varepsilon}_t^2$ から推定されます。
Cochrane-Orcutt 法は推定された $\hat{\rho}$ を用いて変数変換を行い、変換済みモデルへの OLS と $\hat{\rho}$ の更新を収束まで繰り返す反復アルゴリズムです。Prais-Winsten 法は初期観測値 $y_1, x_1$ を廃棄せず $\sqrt{1-\hat{\rho}^2}$ を乗じた変換を適用することで、Cochrane-Orcutt 法と比べて標本情報の損失を抑えます。
FGLS の漸近的性質として、$\hat{\Omega}$ が $\Omega$ の一致推定量であるならば、$n \to \infty$ において FGLS と GLS は同一の漸近分布を持ちます。すなわち、十分に大きな標本では FGLS は GLS と漸近的に等価となります。
仮定として、$\hat{\Omega}$ が $\Omega$ の一致推定量であること、誤差構造が正しく特定されていること、および漸近理論の適用に十分な標本サイズが必要です。限界として、小標本では有限標本バイアスと標準誤差の過小評価が生じやすく、誤差構造の誤特定（例：実際には AR(2) であるにもかかわらず AR(1) と仮定する場合）は FGLS の漸近的等価性を損ないます。
（Fig3. Cochrane-Orcutt 反復推定における $\hat{\beta}$ と $\hat{\rho}$ の収束過程）
計量経済学への応用：時系列・パネルデータ
時系列データに GLS/FGLS を適用する際は、まず系列相関の診断を行います。標準的な診断フローは、OLS 残差の時系列プロットによる目視確認、ACF（自己相関関数）の確認、そして DW（Durbin-Watson）統計量または BG（Breusch-Godfrey）検定による統計的検定という順序で進めます。
DW（Durbin-Watson）統計量は次のように定義されます。
$$
DW = \frac{\sum_{t=2}^{n}(e_t – e_{t-1})^2}{\sum_{t=1}^{n}e_t^2}
$$
$DW \approx 2$ は系列相関の不在を示し、$DW < 2$ は正の系列相関、$DW > 2$ は負の系列相関を示唆します。DW 検定の限界として、ラグ 1 の系列相関のみを検出でき、モデルにラグ付き従属変数が含まれる場合には適用できません。
BG（Breusch-Godfrey）検定は、残差を $p$ 次ラグまでの誤差項に回帰する LM（ラグランジュ乗数）統計量に基づきます。高次の系列相関を検出できるため、DW 検定の限界を補う汎用的な手順として広く用いられます。
パネルデータでは、$N$ 個体それぞれが AR(1) 誤差を持つ場合、誤差共分散行列 $\Omega$ はブロック対角構造を持ちます。各個体のブロックが $T \times T$ の AR(1) 共分散行列であり、個体間の誤差は無相関と仮定します。SUR（見かけ上無相関回帰）は、異なる方程式間の誤差相関も許容する GLS の拡張として位置づけられます。
実質 GDP と民間消費の四半期時系列データに OLS を適用したところ DW 統計量が 0.9 程度と低く、強い正の系列相関が検出される場合があります。この場合、FGLS を適用することで推定量の標準誤差と信頼区間が修正され、政策効果推定の精度が向上します。ただし、この推定から得られる係数は変数間の統計的な関連を示すものであり、因果関係を直接示すものではありません。
仮定として、時系列分析では共分散定常性（期待値・分散・自己共分散が時点に依存しないこと）が前提となります。パネルデータでは均衡パネル（各個体の観測時点数が等しい）が基本的な仮定となります。限界として、非定常時系列（単位根過程）には GLS/FGLS を直接適用できません。適用前に ADF（拡張 Dickey-Fuller）検定等による定常性確認が必須です。共和分関係が存在する場合には ECM（誤差修正モデル）との組み合わせが必要となります。
OLS・WLS・GLS・HAC の比較と選択基準
誤差の相関・不均一分散に対処する代表的な手法として、OLS、WLS（加重最小二乗法）、GLS、FGLS、HAC（ヘテロスケダスティシティ・自己相関一致標準誤差）があります。各手法は誤差の仮定と目的が異なり、固有のトレードオフを持ちます。
| 手法 | 誤差仮定 | Ω の扱い | 推定量の性質 | 主な適用場面 |
|---|---|---|---|---|
| OLS | 独立・等分散（i.i.d.） | Ω = I と仮定 | BLUE（Ω = I のみ） | 誤差が無相関かつ等分散の場合 |
| WLS | 不均一分散・無相関 | 対角 Ω が既知 | BLUE（不均一分散の場合） | 誤差間の相関がなく分散構造が既知の場合 |
| GLS | 一般的な Cov(ε) = σ²Ω | Ω 既知・正定値 | BLUE（Ω が正確に既知の場合） | 誤差の相関・分散構造が既知の場合 |
| FGLS | 一般的な Cov(ε) = σ²Ω | Ω̂ を推定（一致性必要） | 漸近的に GLS と等価 | 誤差構造が未知で標本サイズが十分な場合 |
| HAC | 弱依存定常過程 | Ω の特定不要 | 一致推定量（頑健） | 誤差構造が不明確で頑健推論を優先する場合 |
HAC（Newey-West）推定量は、誤差の共分散行列を直接特定せずに頑健な標準誤差を構築します。その概念的な形式はラグ $h$ まで加重した自己共分散の和として表されます。
$$
\hat{V}_{HAC} = \hat{\Gamma}_0 + \sum_{h=1}^{L} w(h)\!\left(\hat{\Gamma}_h + \hat{\Gamma}_h’\right)
$$
ここで $\hat{\Gamma}_h = n^{-1}\sum_{t=h+1}^{n}\hat{\varepsilon}_t\hat{\varepsilon}_{t-h}x_tx_{t-h}’$ は $h$ 次ラグの標本自己共分散行列、$w(h)$ は Bartlett カーネル等のラグ加重関数、$L$ は帯域幅パラメータです。
GLS と HAC のトレードオフとして、GLS は $\Omega$ を正確に特定できる場合に高い効率性を発揮します。HAC は $\Omega$ の構造を特定せずに頑健な推論を行える代替戦略ですが、GLS に比べて推定量の分散が大きくなります。誤特定コストの観点から、GLS は $\Omega$ の構造を誤って仮定した場合のリスクが OLS より高く、誤差構造が不明確な状況では HAC 標準誤差の使用が保守的な選択となります。
各手法の仮定として、OLS は誤差が i.i.d.、WLS は不均一分散が既知かつ誤差間は無相関、GLS は $\Omega$ が既知かつ正定値、HAC は弱依存定常過程を前提とします。限界として、GLS は $\Omega$ の正確な特定が必要であり誤特定リスクが OLS より高く、HAC は効率性を犠牲にして頑健性を得る代替的な戦略です。
拡張：線形混合効果モデルと GEE への接続
GLS の枠組みは、より複雑な誤差構造を扱う手法への自然な出発点となります。LMM（線形混合効果モデル）では、固定効果ベクトル $\beta$ に加えて個体固有の変量効果 $b_i$ を導入します。モデルは $y = X\beta + Zb + \varepsilon$ と書かれ、変量効果 $b$ と誤差 $\varepsilon$ が独立であるとするとその周辺共分散行列は次のように表されます。
$$
\mathrm{Var}(y) = ZGZ’ + R
$$
ここで $G = \mathrm{Cov}(b)$、$R = \mathrm{Cov}(\varepsilon)$ です。この式は GLS における $\sigma^2\Omega$ に対応しており、LMM は GLS の構造的拡張として位置づけられます。固定効果の推定は、$ZGZ’ + R$ を既知とした GLS の適用と等価です。
REML（制限付き最尤法）は LMM における分散成分 $G$ と $R$ を推定する標準的な手法です。REML は固定効果の自由度損失を補正するため、最尤法よりも分散パラメータの推定に適しており、FGLS において $\hat{\Omega}$ を推定する手続きに対応します。
GEE（一般化推定方程式）は、繰り返し測定や縦断データにおいて、個体内の誤差相関を作業相関行列として指定することで周辺モデルの係数を推定します。作業相関行列の誤特定に対しても一致推定量が得られる頑健性が、GEE の実用上の利点です。
限界として、GLS から LMM への移行は変量効果の分布仮定（通常は正規分布）を追加する点で仮定が強化されます。GEE は周辺モデルに限定されており、個体レベルの推論や変量効果の解釈には適していません。階層データや繰り返し測定への応用では、LMM と GEE の選択は分析の目的と問いの性質によって決定される必要があります。
