05/二変量回帰分析：応用編

現代政治分析入門1

鈴木淳平

jsuzuki@komazawa-u.ac.jp

駒澤大学法学部政治学科

2026-10-27

出席登録をお願いします

今日の目次

1. はじめに
2. 復習：OLSの基本
3. OLS推定の精度
4. OLSの一致性
5. 不均一分散と誤差の相関
6. まとめ

はじめに

本日の目的と到達目標

目的

二変量回帰モデルについて深掘りする。標準誤差の概念を導入し、OLS推定の精度に影響する要因を議論する。その中でも特にサンプルサイズに焦点を当て、OLS推定値がもつ「一致性」という性質を紹介する。さらに、通常の標準誤差が適用できない条件として不均一分散や誤差同士の相関という問題についても議論する。

到達目標

1. 回帰係数の推定値\(\hat{\beta_{1}}\)の分散の標準式を書き出せる。
2. 回帰係数の推定値\(\hat{\beta_{1}}\)の分散の式を使い、分散に影響を与える3つの要因を列挙できる。
3. 回帰係数の推定値\(\hat{\beta_{1}}\)が持つ一致性という性質を説明できる。
4. 回帰係数の推定値\(\hat{\beta_{1}}\)の分散の標準式が使えない状況を3つ列挙できる。

小テストの講評

TBD

復習：OLSの基本

最小二乗法

Ordinary Least Square: OLS

OLS推定値の計算式

傾き\(\beta_{1}\)：

\[ \hat{\beta_{1}}=\frac{\sum(X_i-\bar{X})(Y_i-\bar{Y})}{\sum(X_i-\bar{X})^2} \]

切片\(\beta_{0}\)：

\[ \hat{\beta_{0}}=\bar{Y}-\hat{\beta_{1}}\bar{X} \]

サンプリングによるランダム性

OLS推定値の分布

\(X\)と\(\varepsilon\)が無相関のとき（＝内生性がないとき）、\(\hat{\beta}_{1}\)は真の値\(\beta_{1}\)を期待値（平均）とする正規分布にしたがう。

OLS推定の精度

質問

どちらが真値を正確に推定しているでしょうか？

OLS推定値の精度

分散 (variance)

確率変数のばらつきを表す尺度

• 広い正規分布：分散が大きい→平均からかけ離れた値が出やすい
• 狭い正規分布：分散が小さい→平均からかけ離れた値が出にくい

標準誤差 (standard error)

OLSで推定した切片および傾きの分散の平方根

• 標準偏差との区別に注意
• 平方根を取ることで、独立変数と単位が揃う

→分散／標準誤差が小さいほど推定は正確

OLS推定値の分散

ある一定の条件を満たした場合の\(\hat{\beta_{1}}\)の分散は以下の式で計算。

\[ \text{var}(\hat{\beta_{1}})=\frac{\hat{\sigma}^2}{N\times\text{var}(X)} \]

分散に影響する3つの要因：

• \(\hat{\sigma}^2\)：回帰分散
• \(N\)：サンプルサイズ
• \(\text{var}(X)\)：独立変数（\(X\)）の分散

回帰分散

モデルがどれだけ\(Y\)のばらつきを説明しているか

\[ \hat{\sigma}^2=\frac{\sum(Y_i-\hat{Y}_i)^2}{N-k}=\frac{\sum\hat{\varepsilon}_i^2}{N-k} \]

• 分母（\(N - k\)）：サンプルサイズから変数の数（\(k\)）を引いたもの（自由度）
• 分子（\(\sum(Y_i-\hat{Y}_i)^2=\sum\hat{\varepsilon}_i^2\)）：残差平方和

→残差平方和が小さければ回帰分散も小さく、\(\text{var}(\hat{\beta_{1}})\)も小さい（＝推定精度が上がる）

クイズ

以下の2つのグラフでは\(\hat{\beta_{1}}\)の分散はどちらが小さいでしょうか

• クイズ①
• クイズ②

OLSの一致性

質問

他の条件が同じなら、\(N\)が無限大に近づいていくにつれて\(\text{var}(\hat{\beta_{1}})=\frac{\hat{\sigma}^2}{N\times\text{var}(X)}\)の値はどうなっていくと思いますか。

OLS推定値の一致性

サンプルサイズ（\(N\)）が大きくなるにつれて、OLS推定値\(\hat{\beta_{1}}\)は真値\(\beta_{1}\)に確率的に収束（\(\text{plim}\hat{\beta}_1=\beta_1\)）

一致性の意味

不均一分散と誤差の相関

OLS推定値の分散

ある一定の条件を満たした場合の\(\hat{\beta_{1}}\)の分散は以下の式で計算。

\[ \text{var}(\hat{\beta_{1}})=\frac{\hat{\sigma}^2}{N\times\text{var}(X)} \]

以下の場合ではこの計算式は使えない。

• 不均一分散…誤差項\(\varepsilon_i\)の分散が全ての観測で同じにならない
• 誤差項同士の相関…誤差項\(\varepsilon_i\)が観察同士で相関
  • クラスター化された誤差
  • 自己相関

ただし以上の場合でも係数にバイアスは生じるとは限らない

不均一分散

誤差項\(\varepsilon_i\)が観察同士で相関

• 例：年齢と年収

誤差項同士の相関

誤差項\(\varepsilon_i\)が観察同士で相関

• クラスター化された誤差…観察がグループ化されている場合
  • 例：学校ごとのテストの点数
    • 名門校のAさんBさんCさん→地頭という誤差項が全員高い
• 時系列データの自己相関…前の年の誤差が次の年にも影響
  • 例：経済成長
    • 技術革新という誤差項→昨年も高ければ今年も高い

まとめ

本日の目的と到達目標

目的

二変量回帰モデルについて深掘りする。標準誤差の概念を導入し、OLS推定の精度に影響する要因を議論する。その中でも特にサンプルサイズに焦点を当て、OLS推定値がもつ「一致性」という性質を紹介する。さらに、通常の標準誤差が適用できない条件として不均一分散や誤差同士の相関という問題についても議論する。

到達目標

1. 回帰係数の推定値\(\hat{\beta_{1}}\)の分散の標準式を書き出せる。
2. 回帰係数の推定値\(\hat{\beta_{1}}\)の分散の式を使い、分散に影響を与える3つの要因を列挙できる。
3. 回帰係数の推定値\(\hat{\beta_{1}}\)が持つ一致性という性質を説明できる。
4. 回帰係数の推定値\(\hat{\beta_{1}}\)の分散の標準式が使えない状況を3つ列挙できる。

次回までに

事後学習

• 授業資料を見直し、目標到達をセルフチェック
• WebClass上での確認小テスト（金曜日まで）

事前学習

• 教科書（第3章3.7-3.8および結論: pp.86-98）を読む