06/二変量回帰分析:発展編

現代政治分析入門2

鈴木淳平

駒澤大学法学部政治学科

2026-11-03

出席登録をお願いします

演習の追加募集

  • まだ枠が十分あるので、追加募集
    • 11/12にKONECOでアナウンス
    • 11/20〜12/1が応募期間(Google Form)
  • Google Formと成績表提出(面接は行わない)
  • 詳細はKONECO参照
  • 本格的にRを学び、政治現象を計量的に研究

今日の目次

  1. はじめに
  2. 復習:OLSの分散と一致性
  3. 適合度
  4. 外れ値
  5. Q&A
  6. まとめ

はじめに

本日の目的と到達目標

目的

二変量回帰モデルについてさらに深掘りする。回帰モデルがどれくらいデータを説明しているのかを示す概念である適合度について扱い、その尺度を紹介する。また外れ値とは何かについて学び、それが推定結果にどのような影響を与えるのかを議論する。

到達目標

  1. 適合度とは何かを説明できる。
  2. 決定係数\(R^2\)の定義と性質、その限界を説明できる。
  3. 外れ値がOLS推定にどのような影響を与えるのか議論できる。
  4. 外れ値が分析結果に与える影響を踏まえ、外れ値を含む場合の対処方法を説明できる。

本日の授業の位置付け

小テストの講評

  • 受験者数177人
  • 平均5.52/7点
  • 標準偏差1.38点
  • 最小値0点
  • 最大値7点

大変よくできましたが、問4と問7は要注意(→正答)

復習:OLSの分散と一致性

最小二乗法(OLS)

独立変数\(X\)と従属変数\(Y\)の間の回帰直線を考える。回帰直線の切片と傾きのOLS推定値は以下で計算。

  • 傾き:\(\hat{\beta_{1}}=\frac{\sum(X_i-\bar{X})(Y_i-\bar{Y})}{\sum(X_i-\bar{X})^2}\)
  • 切片:\(\hat{\beta_{0}}=\bar{Y}-\hat{\beta_{1}}\bar{X}\)

OLSのランダム性

傾きの分布の性質

内生性がない場合、\(\hat{\beta_{1}}\)の分布の平均(期待値)は母集団における真の傾き\(\beta_{1}\)になる(不偏性)

一定の条件を満たした場合、分散は\(\text{var}(\hat{\beta_{1}})=\frac{\hat{\sigma}^2}{N\times\text{var}(X)}\)で計算できる

  • 満たさないのは不均一分散や誤差同士の相関(クラスター化されたデータや時系列データ)の場合→別の計算式が必要

\(N\)が大きくなるほど分散は0に近づく→OLS推定値\(\hat{\beta_{1}}\)は確率的に\(\beta_{1}\)に収束(一致性)

適合度

適合度 (goodness of fit)

モデルがデータにどれだけ適合しているかの度合い

Q. 以下のデータ(a)と(b)ではどちらがデータに適合している?(WebClassアンケート)

決定係数\(R^2\)

適合度の尺度の1つで、予測値と実際の値の相関係数を二乗したもの

  • 0-1の値を取り、1に近ければ適合度は高く、0に近ければ適合度は低い
  • 高い\(R^2\)は予測値と実際の値が近いことを意味
    • 具体的には、「従属変数のばらつきのうちどれくらいの割合が推定されたモデルで説明できるか」と解釈
  • しかし、それ以上でもそれ以下でもない
    • 内生性のあるモデルでも高い\(R^2\)は出ることがある
    • どれくらいの\(R^2\)の値なら十分かという基準もない

→実際には\(R^2\)はあまり気にしないことが多い

例:身長と賃金

分析結果は\(賃金_{i}=-13.093+0.412身長_{i}\)で、\(R^2=0.009\)

外れ値

外れ値 (outlier)

他のサンプルの値とは極端に異なる観測値

外れ値はOLSの推定結果を歪めることがあるので、取り扱いに注意

例:都市化率と暴力犯罪

Q. 右上のワシントンDCのデータを除いた時の回帰直線の傾きは、入れた時の傾きと比べてどうなるでしょうか。(WebClassアンケート)

外れ値の対処法

  • 散布図を用いて外れ値の有無を確認する
  • 外れ値の有無で結果が変わる場合は、正直に報告する
  • 外れ値を含む推定結果と含まない推定結果を両方出す
  • 含める理由、あるいは含めない理由をきちんと述べる

例:暴力犯罪率と都市化率

  • DCを入れた場合(赤)→傾きは\(5.61\)
  • DCを除いた場合(青)→傾きは\(3.58\)
  • DCは州ではないので、除いたほうがいいかもしれない

Q&A

質問を募集します

これまでの授業の内容でわからないこと、聞いておきたいことは何かありますか。あればチャットに書き込んでください。

まとめ

本日の目的と到達目標

目的

二変量回帰モデルについてさらに深掘りする。回帰モデルがどれくらいデータを説明しているのかを示す概念である適合度について扱い、その尺度を紹介する。また外れ値とは何かについて学び、それが推定結果にどのような影響を与えるのかを議論する。

到達目標

  1. 適合度とは何かを説明できる。
  2. 決定係数\(R^2\)の定義と性質、その限界を説明できる。
  3. 外れ値がOLS推定にどのような影響を与えるのか議論できる。
  4. 外れ値が分析結果に与える影響を踏まえ、外れ値を含む場合の対処方法を説明できる。

次回までに

事後学習

  • 授業資料を見直し、目標到達をセルフチェック
  • WebClass上での確認小テスト(金曜日まで)

事前学習

  • 教科書(第3章全て)を再読する

来週はオンラインの実習回です。PCから参加してください。