Cheat Sheet Materi 3

TI5002 / Analisis Data dan Statistika · Analisis Regresi Logit

1 · Mengapa logit, bukan OLS?

  • Regresi linier majemuk: Y harus metrik
  • Y nominal (sukses/gagal) → asumsi normalitas error dilanggar: untuk x tertentu error hanya punya 2 kemungkinan nilai
  • Plot kelompok usia vs proporsi CHD tidak linier, membentuk huruf S → didekati dengan fungsi logistik
Skala YModel
metrikregresi linier
nominal binerlogit biner
nominal > 2 kategorimultinomial logit
ordinal > 2 kategoriordered multinomial logit

2 · Fungsi logistik & transformasi logit

E(Y|X) = π(x)
π(x) = eβ0+β1x / (1 + eβ0+β1x)
g(x) = ln[ π(x) / (1−π(x)) ] = β0 + β1xπ(x) selalu di antara 0 dan 1. g(x) = ln(odds), linier dalam parameter.

Properti logit g(x): berbentuk linier · kontinu · bernilai −∞ sampai +∞

0.51203040506070 AGE (x) π(x) kurva S (logistik) proporsi CHD per kelompok usia

Proporsi CHD per kelompok umur (Hosmer & Lemeshow): 0,10 · 0,13 · 0,25 · 0,33 · 0,46 · 0,63 · 0,76 · 0,80 (total 43/100 = 0,43).

3 · Estimasi: maximum likelihood

  • Parameter β tidak bisa dengan least square; dipakai maximum likelihood
  • Cari β yang memaksimalkan l(β); persamaan diselesaikan numerik (software)
l(β) = Π π(xi)yi [1−π(xi)]1−yi
L(β) = ln l(β) = Σ{ yi lnπ(xi) + (1−yi) ln[1−π(xi)] }
maks. L(β) bila: Σ[yi−π(xi)] = 0 dan Σxi[yi−π(xi)] = 0di-log-kan agar mudah didiferensiasi

4 · Uji signifikansi parameter

Pertanyaan: apakah model dengan variabel x memberi informasi lebih banyak daripada model tanpa x?

D = −2 ln[ L(fitted) / L(saturated) ]
G = D(tanpa var) − D(dengan var) = −2 ln[ L(tanpa) / L(dengan) ]saturated = jumlah parameter sama dengan jumlah data point
  • H0: β1 = 0 → G ~ χ² dengan d.o.f = 1 (kritis 3,84 pada α 5%)
  • Wald: W = β̂1 / SE(β̂1), normal secara asimptotis (di SPSS dilaporkan W², df = 1)
  • Jika Sig. < 0,05 → tolak H0: variabel berpengaruh signifikan terhadap peluang Y
CHD (n=100): LL model = −53,677; LL tanpa AGE = −68,331 → G = −2(−68,331+53,677) = 29,31 > 3,84 → β1 signifikan. W = 0,111/0,0241 = 4,61 (konstanta: −5,309/1,1337 = −4,68).

5 · Kebaikan model

R²logit = (−2LLnull − (−2LLmodel)) / (−2LLnull)pseudo R². Ukuran lain: statistik Hosmer–Lemeshow
−2LLnull = 136,662; −2LLmodel = 107,353 → R² = 29,309/136,662 = 0,214

Tabel klasifikasi (cut value 0,5): akurasi = (benar)/(total)

Model (n=60)benarakurasi
0: tanpa variabel38/6063,3%
enter (4 var)(32+10)/6070,0%
forward langkah 2(31+13)/6073,3%

Output enter: −2LL = 65,478; Cox & Snell 0,200; Nagelkerke 0,273.

6 · Interpretasi: odds & Exp(B)

odds = P(Y=1) / P(Y=0) = eβ'x
g(x) = ln(odds)
naik 1 satuan x → odds × eβ (= Exp(B))
Exp(B)Arti
> 1 (B positif)variabel naik → odds Y=1 naik
< 1 (B negatif)odds turun
= 1 (B = 0)tidak berpengaruh
  • Parameter signifikan ≠ 0 → variabel berpengaruh pada probabilitas Y
  • Interpretasi mirip regresi majemuk; efek pada odds bersifat perkalian
odds P=0,8: 0,8/0,2 = 4. g = 0 → π = e0/(1+e0) = 0,5. Kenaikan 10 th: e0,111×10 = e1,11 = 3,03 (= 1,11710).

7 · Prediksi dari model (langkah hitung)

  1. Hitung logit: ĝ = b0 + b1x
  2. Odds = eĝ
  3. Peluang π̂ = eĝ/(1+eĝ)
ĝ(x) = −5,309 + 0,111×AGE. AGE = 50: ĝ = 0,241; odds = 1,27; π̂ = 0,56. Peluang CHD menurut usia: 20 → 0,04 · 30 → 0,12 · 40 → 0,30 · 50 → 0,56 · 60 → 0,79

Peluang naik tidak konstan per tahun (kurva S), tetapi odds naik ×1,12 per tahun.

8 · Contoh kasus: minat perusahaan (n=60)

Y = minat (1 = tidak, 2 = berminat; 38 vs 22). X: ukrn (karyawan), pdptn (juta USD), usia (th), jmlproy.

Model 0 (tanpa X): B = −0,547; Exp(B) = 0,579 = 22/38 (odds berminat).

enterBSig.Exp(B)
ukrn0,0890,0241,093
pdptn0,1610,6461,175
usia0,9140,0202,494
jmlproy−0,0200,9000,980
konstanta−10,3970,0020,000

Hanya ukrn & usia signifikan: +1 karyawan → odds ↑ 9,3%; +1 th usia → odds × 2,5.

Forward: langkah 1 masuk ukrn (B 0,064; p 0,023) → langkah 2 masuk usia (ukrn 0,084, p 0,006; usia 0,934, p 0,016). pdptn & jmlproy tidak masuk.

9 · Jika–maka (cepat)

  • Jika Y metrik → regresi linier; jika Y biner → logit; > 2 kategori → multinomial; ordinal → ordered
  • Jika Sig. < 0,05 → tolak H0: β = 0 (signifikan)
  • Jika G > χ²(1; 0,05) = 3,84 → β1 signifikan
  • Jika Exp(B) > 1 → odds naik; < 1 → odds turun
  • Jika −2LL model jauh lebih kecil dari −2LL null → pseudo R² besar
  • Jika ingin variabel signifikan saja → forward/stepwise; semua variabel → enter

Dirangkum dari slide Minggu 3 (TI5002). Cocokkan lagi dengan slide untuk detail lengkap.