Analisis Regresi 1 - stat.ipb.ac.id · Model Regresi Sederhana Berganda Linier Non Linier Linier...

Itasia & Y Angraini Dep. STK FMIPA-IPB

Analisis Regresi 1

Pokok Bahasan :

Model-model Regresi yang Lebih Lanjut

Itasia & Y Angraini Dep.STK FMIPA-IPB

Macam-macam Model Regresi

Model Regresi

Sederhana Berganda

Linier Non Linier Linier Non Linier

1 peubah penjelas > 1 peubah penjelas

Reciprocal LogMultiplikatifPolinom Eksponensial


Sederhana Linier

Hubungannya linier

Non Linier Polinom

Multiplikatif

Eksponensial

Reciprocal

Contoh : Macam-macam Model Regresi

εxβxββY 2

210

εeβY xβ

01 εe βY x

β

0

1

ε xβY β

01

εxββ

1

10

εxββY 10



SEDERHANA, NONLINIER dalam PARAMETER

BERGANDA, LINIER dalam PARAMETER

hubungannya LINIER :

Ada interaksi :

kk xxxY

xxY

....22110

22110

3223311321123322110

211222110

xxxxxxxxxY

xxxxY

1

0xY


BERGANDA, POLINOM

Ordo DUA :

Ordo TIGA :

(lanjutan)

2112

2

222

2

11122110

2

111110

xxxxxxY

xxY

2

211222

2

11122112

3

2222

3

1111

2

222

2

11122110

3

1111

2

111110

xxxxxxx

xxxxxY

xxxY



Model2 Regresi yang Lebih Lanjut

BERGANDA, NONLINIER dalam PARAMETER

MULTIPLIKATIF

EKSPONENSIAL

RESIPROKAL

(lanjutan)

321

3210 xxxY

.22110 xx

eY

22110

1

xxY


Transformasi untuk Meluruskan Pola Garis

Pada analisis regresi transformasi terhadap peubah penjelas dan atau peubah respon dimaksudkan untuk :

Memenuhi asumsi yang disyaratkan pada suatu metode, agar metode tsb sah digunakan (mis. MKT untuk menduga parameter, uji t dan uji F untuk menguji parameter)

Meluruskan pola dugaan garis regresi, agar analisis dapat dilakukan dengan menggunakan model garis lurus (regresi linier yang hubungan-nya linier, banyaknya parameter sedikit)pengerjaannya lebih sederhana/tidak rumit


Transformasi untuk Meluruskan:Pola Parabola

POLA GARIS :

X

Y

XX

Y

YY

β1 < 0

β1 > 0

β1 < 0

β1 > 0

X

β2 > 0

β2 > 0

β2 < 0

β2 < 0

2

210 xβxββY

TRANSFORMASI:

X diperbesar X2

Y diperkecil Y1/2

TRANSFORMASI:

X diperkecil X1/2

Y diperkecil Y1/2

TRANSFORMASI:

X diperbesar X2

Y diperbesar Y2

TRANSFORMASI:

X diperkecil X1/2

Y diperbesar Y2

PERSAMAAN REGRESI :

X

Y


Contoh: Transformasi untukMeluruskan Tebaran Pola Parabola

Persamaan Regresi:2

210 xβxββY

Xa

ka

r Y

1086420

16

14

12

10

8

6

4

2

0

Scatterplot of akar Y vs X

x1

y

1086420

250

200

150

100

50

0

Scatterplot of y vs x1

YY*

Transformasi Y*= akar Y telah mampu meluruskan pola tebaran menjadi garis lurus. Analisis dilakukan thdp data yg ditransformasi, menggunakan model linier sederhana.

di TRANSFORMASI :


Transformasi untuk Meluruskan:Pola Hiperbola

PERSAMAAN REGRESI :

TRANSFORMASI :

Ke dua ruas dibalik

x

xY

X

Y

X

POLA GARIS :

x

1

1

x

x

Y

Y

1

10

**

*

10

*

, ,1

,1

lurus garis

xx

YY

xY

1


Contoh: Transformasi untukMeluruskan Tebaran Pola Hiperbola

Persamaan Regresi : di TRANSFORMASI :x

xY

Y* = 1/Y

X* = 1/X

1/x

1/

y

1.00.80.60.40.20.0

6.0

5.5

5.0

4.5

4.0

3.5

3.0

Scatterplot of 1/y vs 1/x

x1

y

1086420

0.35

0.30

0.25

0.20

0.15

Scatterplot of y vs x1


Transformasi untuk Meluruskan:Pola Eksponensial

PERSAMAAN REGRESI :

TRANSFORMASI :

Ke dua ruas di ln

xβeY X

Y

X

POLA GARIS :

x

ey x

ln

lnln

Y

10

*

10

*

,ln ,ln

lurus garis

yY

xY


Contoh: Transformasi untukMeluruskan Tebaran Pola Eksponensial

Persamaan Regresi : di TRANSFORMASI :xβeY

x

y

1086420

60

50

40

30

20

10

0

Scatterplot of y vs x

x

ln(y

)

1086420

4

3

2

1

0

Scatterplot of ln(y) vs xr = 0.927 r = 0.987

YY ln*


Transformasi untuk Meluruskan:Pola Pangkat

MODEL REGRESI :

TRANSFORMASI :

Ke dua ruas di ln

βxY

X

Y

POLA GARIS :

x

xy

ln ln

) (ln ln

10

**

*

10

*

,ln ,ln ,ln

lurus garis

xxyY

xY

11 11

10 1


Contoh: Transformasi untukMeluruskan Tebaran Pola Pangkat

Persamaan Regresi : di TRANSFORMASI : βxY

x

y

1086420

200

150

100

50

0

Scatterplot of y vs x r=0.89

ln(x)

ln(y

)

2.52.01.51.00.50.0

5.5

5.0

4.5

4.0

3.5

3.0

2.5

2.0

1.5

Scatterplot of ln(y) vs ln(x) r=0.954

Y*= ln Y

X*= ln X


Transformasi untuk Meluruskan:Pola Kebalikan Eksponensial

PERSAMAAN REGRESI :

TRANSFORMASI :

Ke dua ruas di ln

xeY

X

Y

X

POLA GARIS : Y

0e

β β, βx

Y, xY

xββY

*

**

10

*

10

, ln1

ln

lurus garis

0e

01

01

x

ey x

ln

) (ln ln


Contoh: Transformasi untuk MeluruskanTebaran Pola Kebalikan Eksponensial

Persamaan Regresi : di TRANSFORMASI :

Y*= ln Y

X*= 1/XxeY

x

y

1086420

16

12

8

4

0

Scatterplot of y vs x r=-0.735

1/x

ln(y

)

1.00.80.60.40.20.0

3.0

2.5

2.0

1.5

1.0

0.5

0.0

Scatterplot of ln(y) vs 1/x r=0.848


Model Hasil Transformasi

Hati-hati dengan asumsi sisaan jika Y ditransformasi

Sisaan = Ytransformasi – Ytransformasi

Didiagnosa seperti yang telah diterangkan pada pokok bahasan DIAGNOSA SISAAN, untuk mengetahui apakah sisaan tersebut memenuhi kondisi Gauss-Markov pada MKT dan atau sebaran Normal.

Interpretasi hasil dilakukan terhadap transformasi balik dugaan garis regresi yang didapat


Contoh: Menduga ParameterRegresi Pola Pangkat

Persamaan Regresi : di TRANSFORMASI : βxY

x

y

1086420

200

150

100

50

0

Scatterplot of y vs x r=0.89

ln(x)

ln(y

)

2.52.01.51.00.50.0

5.5

5.0

4.5

4.0

3.5

3.0

2.5

2.0

1.5

Scatterplot of ln(y) vs ln(x) r=0.954

Y*= ln Y

X*= ln X

Karena bentuk tebarannya tidak linier, maka dilakukan transformasi agar menjadi linier. Setelah linier maka selanjutnya dilakukan anali-sis regresi linier sederhana.

Persamaan Regresi yang Digunakan : lurus garis lnln 10 xY

MENGUJI APAKAH MODEL REGRESI LINIER PAS ?

Sequential Analysis of Variance

Source DF SS F PLinear 1 6.98396 89.44 0.000Quadratic 1 0.15023 2.07 0.174

Penambahan penga-ruh kuadratik ke dlm model tidak nyata

pers.linier pas



Fitted Value

Re

sid

ua

l

4.54.03.53.02.5

0.50

0.25

0.00

-0.25

-0.50

-0.75

Residuals Versus the Fitted Values(response is ln(y)1)

Dugaan garis regresi yang digunakan :

ln(y) = 1.64 + 1.44 ln(x)

MENDIAGNOSA SISAAN

The regression equation is: ln(y) = 1.64 + 1.44 ln(x)

Predictor Coef SE Coef T PConstant 1.6398 0.2506 6.54 0.000ln(x) 1.4433 0.1526 9.46 0.000

S = 0.279431 R-Sq = 86.5% R-Sq(adj) = 85.5%

Dari hasil tebaran sisaan terhadap nilai

dugaannya didapatkan bahwa :

- Sisaan di sekitar nol

- Lebar pita hampir sama ragam homogen- Tebaran tidak berpola sisaan saling bebas

Sisaan memenuhi asumsi Gauss-Markov

0 dan 10

0E

(lanjutan)



Residual

Pe

rce

nt

0.500.250.00-0.25-0.50-0.75

99

95

90

80

70

60

50

40

30

20

10

5

1

Normal Probability Plot of the Residuals(response is ln(y)1)

APAKAH SISAAN MENYEBAR NORMAL?

Plot antara sisaan dan peluang normal menunjukkan pola garis lurus sisaan menyebar Normal

Uji t dapat digunakan

Predictor Coef SE Coef T PConstant 1.6398 0.2506 6.54 .000ln(x) 1.4433 0.1526 9.46 .000

Kesimpulan : ln x berpengaruh

linier terhadap ln Y

ln(Y) = 1.64 + 1.44 ln(x)

(lanjutan)



Dugaan persamaan garis regresi :

ln Y = 1.64 + 1.44 ln x

Transformasi balik :

Interpretasi : perubahan x dari xi ke xi+1 mengubah Y sebesar

44.164.1

ln64.1

xln 1.44 64.1ln

.

. 44.1

xe

eeY

ee

x

Y

INTERPRETASI DUGAAN GARIS REGRESI HASIL TRANSFORMASI

110

1

44.144.1

1

64.1

iiii xxexxe

x.

x. 10

Y

eY

(lanjutan)


Model Regresi Polinomial

ORDO KE-SATU hubungannya linier

Satu peubah penjelas

Dua peubah penjelas

K peubah penjelas

ORDO KE-DUA

εXββY 10

εXβXββY 22110

εXβ....XβXββY kk22110

• Satu peubah penjelas

• Dua peubah penjelas

Banyaknya parameter ordo ke-2 dg k peubah = ½( k2+3k) + 1

εXβXββY 2

1110

εXXβXβXβXβXββY 2112

2

222

2

1112210


Model-model Regresi Berdasarkan Peubah Penjelas-nya

Explanatory

Variable

1stOrderModel

3rdOrderModel

2 or MoreQuantitative

Variables

2ndOrderModel

1stOrderModel

2ndOrderModel

Inter-ActionModel

1Qualitative

Variable

DummyVariableModel

1Quantitative

Variable


Model Ordo ke-1 dengan 2 Peubah Penjelas

1. Hubungan antara 2 peubah penjelas dengan peubah respon merupakan fungsi linier.

2. Diasumsikan tidak ada interaksi antara X1 & X2

Pengaruh X1 terhadap Y tidak dipengaruhi nilai X2

3. Model Regresinya εXβXββY 22110


Tidak ada interaksi

Y

X1

4

8

12

0

0 10.5 1.5

Y = 1 + 2X1 + 3X2



Y

X1

4

8

12

0

0 10.5 1.5

E(Y) = 1 + 2X1 + 3X2

E(Y) = 1 + 2X1 + 3(0) = 1 + 2X1

Tidak ada interaksi



Y

X1

4

8

12

0

0 10.5 1.5

E(Y) = 1 + 2X1 + 3X2

E(Y) = 1 + 2X1 + 3(1) = 4 + 2X1

E(Y) = 1 + 2X1 + 3(0) = 1 + 2X1

Tidak ada interaksi



Y

X1

4

8

12

0

0 10.5 1.5

E(Y) = 1 + 2X1 + 3(2) = 7 + 2X1

E(Y) = 1 + 2X1 + 3X2

E(Y) = 1 + 2X1 + 3(1) = 4 + 2X1

E(Y) = 1 + 2X1 + 3(0) = 1 + 2X1

Tidak ada interaksiTidak ada interaksi



Y

X1

4

8

12

0

0 10.5 1.5

E(Y) = 1 + 2X1 + 3(2) = 7 + 2X1

E(Y) = 1 + 2X1 + 3X2

E(Y) = 1 + 2X1 + 3(1) = 4 + 2X1

E(Y) = 1 + 2X1 + 3(0) = 1 + 2X1

E(Y) = 1 + 2X1 + 3(3) = 10 + 2X1

Tidak ada interaksi



Pengaruh X1 thdp Y tidak bergantung pada X2

Y

X1

4

8

12

0

0 10.5 1.5

E(Y) = 1 + 2X1 + 3(2) = 7 + 2 X1

E(Y) = 1 + 2X1 + 3X2

E(Y) = 1 + 2X1 + 3(1) = 4 + 2 X1

E(Y) = 1 + 2X1 + 3(0) = 1 + 2 X1

E(Y) = 1 + 2X1 + 3(3) = 10 + 2 X1

Tidak ada interaksi



Explanatory

Variable

1stOrderModel

3rdOrderModel


Variables

2ndOrderModel

1stOrderModel

2ndOrderModel

Inter-ActionModel

1Qualitative

Variable

DummyVariableModel

1Quantitative

Variable

Model-model Regresi Berdasarkan Peubah Penjelas-nya


Model Interaksi dengan 2 Peubah Penjelas

1. Anggap ada 2 peubah penjelas yang saling berinteraksi

Pengaruh peubah penjelas yang satu (mis. X1) berubah-ubah tergantung pada nilai peubah penjelas lainnya (mis. X2)

2. Model regresi-nya :

3. Dapat dikombinasikan dengan model lainnya, mis. Model peubah boneka

εXXβXβXββY 21322110


Efek Interaksi

1. Model Regresi-nya:

2. Tanpa Interaksi, efek X1 terhadap Ydiukur oleh 1

3. Ada Interaksi, efek X1 terhadapY diukur oleh 1 + 3X2

Efek naik jika X2 naik

21322110 XXXXY


Hubungan Model Interaksi

Y

X1

4

8

12

0

0 10.5 1.5

Y = 1 + 2X1 + 3X2 + 4X1X2


Y

X1

4

8

12

0

0 10.5 1.5

Y = 1 + 2X1 + 3X2 + 4X1X2

Y = 1 + 2X1 + 3(0) + 4X1(0) = 1 + 2X1



Y

X1

4

8

12

0

0 10.5 1.5

Y = 1 + 2X1 + 3X2 + 4X1X2

Y = 1 + 2X1 + 3(1) + 4X1(1) = 4 + 6X1

Y = 1 + 2X1 + 3(0) + 4X1(0) = 1 + 2X1



Efek/kemiringan X1 thdp Y bergantung pd X2

Y

X1

4

8

12

0

0 10.5 1.5

Y = 1 + 2X1 + 3X2 + 4X1X2

Y = 1 + 2X1 + 3(1) + 4X1(1) = 4 + 6X1

Y = 1 + 2X1 + 3(0) + 4X1(0) = 1 + 2X1



Worksheet untuk Model Interaksi

Case, i Yi X1i X2i X1i X2i

1 1 1 3 3

2 4 8 5 40

3 1 3 2 6

4 3 5 6 30

: : : : :

Kalikan X1 dg X2 untuk mendapatkan X1X2.

Lakukan regresi X1, X2 , X1X2 thdp Y


Model-model Regresi Berdasarkan Tipe Peubah Penjelas-nya

Explanatory

Variable

1stOrderModel

3rdOrderModel


Variables

2ndOrderModel

1stOrderModel

2ndOrderModel

Inter-ActionModel

1Qualitative

Variable

DummyVariableModel

1Quantitative

Variable


Peubah Boneka(Dummy variable)

3322110Y : Regresinya Model xxx

Peubah boneka adalah peubah bebas/penjelas yang tipenya kategorik dengan dua taraf: yes atau no, onatau off, male atau female, nilainya 0 atau 1

Peubah Respon (Y)Peubah Penjelas (x)

Kuantitatif Kategorik

Banyaknya barang yang terjual dalam satu minggu

1.Harga barang2.Biaya iklan

Adanya hari libur dalam minggu tersebut

Kecepatan reaksi bahan kimia

1.Suhu2.Tekanan

Jenis katalisator yang digunakan


Peubah Boneka (Dummy variable)

Jika uji parameter peubah boneka nyata

peubah boneka berpengaruh nyata

ada 2 persamaan (grafik): kategori-1 dan kategori-2

Koef intersep untuk ke-dua kategori berbeda

Slope untuk ke-dua kategori tersebut sama

1010

12010

xb b (0)bxbby

xb)b(b(1)bxbby

121

121

ˆ

ˆ

Intersep berbeda Slope sama

(lanjutan)


Contoh :Penggunaan Peubah Boneka

Persamaan regresinya :

Y = banyaknya pie yg terjual/minggu

x1 = harga pie

x2 = hari libur (X2 = 1 jika dalam minggu tsb ada hari libur)

(X2 = 0 jika dalam minggu tsb tidak ada hari libur)

210 xxY21

Sebuah toko kue ingin memprediksi banyaknya pie yang terjual per minggu. Untuk itu dikumpulkan data penjualan selama 25 minggu, beserta data peubah-peubah penjelas yang diperkirakan mempengaruhi banyaknya penjualan pie. Yaitu peubah harga, dan peubah ada/tidak-nya hari libur pd minggu ybs.

P Boneka


Contoh :Penggunaan Peubah Boneka

11202110 )1( xbbbbxbbY

(lanjutan)

x1 (Harga)

y (banyaknya pie yg terjual)

b0+ b2

b0

Jika H0: β2 = 0

ditolak, maka

“Hari Libur”

berpengaruh nyata

thdp banyaknya

penjualan pie


b0+ b2


b0+ b2


b0+ b2


b0+ b2

b0


b0+ b2

b0


b0+ b2

b0


b0+ b2

b0


b0+ b2

b0


b0+ b2

b0


x1 (Harga)

b0+ b2

b0


b0+ b2

b0


1102110 )0( xbbbxbbY

Ada hari libur

Tidak ada hari libur

b0+ b2

b0


b0+ b2

b0


b0+ b2

b0



InterpretasiKoefisien Peubah Boneka

Contoh:

b2 = 15: rata-rata, banyaknya pie yg terjual 15 unit lebih

banyak dalam minggu yg ada hari liburnya dibanding dg

dalam minggu yg tidak ada hari liburnya

libur) 15(hari 30(harga) - 300 Penjualan

x15 x30 -300 Y 21

Penjualan = banyaknyam pie yg terjual/minggu

Harga = harga pie

hari libur 1 jika dalam minggu tsb ada hari libur

0 jika dalam minggu tsb tidak ada hari libur


Menyusun Worksheet-nya

Case, i Yi X1i X2i

1 1 1 1

2 4 8 0

3 1 3 1

4 3 5 1

: : : :

Taraf X2 : jika termasuk kategori 1 = 0

jika termasuk kategori 2 = 1

Analisis Regresi 1 - stat.ipb.ac.id · Model Regresi Sederhana Berganda Linier Non Linier Linier...

Documents

Transcript of Analisis Regresi 1 - stat.ipb.ac.id · Model Regresi Sederhana Berganda Linier Non Linier Linier...