آموزش ویدئویی تحليل خروجی مدل رگرسيون پانل و نيکويي برازش

5 دقیقه اول از این فیلم آموزشی

 

آموزش نیکویی برازش

1- مقدمه

در جلسه (گام) آموزشي قبلی نحوه تشخيص نوع مدل را گفتيم. در اين گام از آموزش استخراج نتايج رگرسيون و آزمونهاي نيکويي برازش را مي گوييم. و در گام آتي نیز نحوه آزمون فرضيه ها را تشريح خواهيم کرد.

2- استخراج نتايج اجراي مدل رگرسيون و تحليل آن

با توجه به نتايج آزمونهاي اف ليمر و هاسمن (که در گام قبلی انجام شد: بسته آموزشی آزمونهای اف لیمر و هاسمن) در نهايت رگرسيوني که بدست خواهد آمد، يکي از سه حالت زير خواهد بود:

1. مدل تجميعي (پولد) يا مدل بدون اثرات
2. مدل با اثرات ثابت
3. مدل با اثرات تصادفي

حال لازم است به تحليل دقيق نتايج بدست آمده و بررسي نيکويي برازش بپردازيم.

منظور از نيکويي برازش اين است که از صحت نتايج اطمينان حاصل کنيم، پيش فرضهاي لازم رعايت شده باشند و در يک کلام مدلي که براي داده ها دوخته ايم، برازنده آنها باشد.

   1-2- تحليل معني داري مدل در حالت کلي

برای تحلیل معنی داری مدل رگرسیون در حالت کلی، به مقدار آماره اف در نتايج رگرسيون و مقدار احتمال آن مراجعه مي کنيم. شرح این مساله به صورت کامل در فیلم آموزشی آمده است.

   2-2- تحليل ضريب تعيين

{توجه نمایید که در این صفحه از سایت به صورت کامل به بحث در خصوص ضریب تعیین پرداخته ایم. اگر علاقه مند به دانستن صفر تا صد ضریب تعیین هستید به اینجا بروید:  تحلیل کامل ضریب تعیین}. البته در فیلم آموزشی این بسته، ضریب تعیین به صورت کامل مورد بحث قرار گرفته است.

1-2-2- ضریب تعیین چیست؟

ضریب تعیین که به آن ضریب تشخیص نیز گفته می شود (Coefficient of Determination)، و تقریبا همه جا با علامت R۲ نمایش داده می شود، معروف ترین معیار سنجش نیکویی برازش مدل است و عبارتست از : مجذور ضریب همبستگی بین y   و)  ý   یعنی توان دوم ضریب همبستگی بین مقادیر واقعی متغیر وابسته و مقادیر برآورد شده حاصل از مدل(

بنا بر تعریف، ضریب همبستگی می بایست بین 1-  و  1  قرار گیرد. در نتیجه R²  که توان دوم آن است بین صفر و یک قرار خواهد داشت. اگر این همبستگی زیاد باشد، مدل داده ها را خوب برازش کرده است، در حالی که اگر همبستگی پایین (نزدیک به صفر) باشد، مدل برازش خوبی از داده ها ارائه نداده است.

2-2-2- ضریب همبستگی بین متغیر وابسته و مقادیر پیش بینی شده آن

ریشه دوم ضریب تعیین را ضریب همبستگی بین y  (متغیر وابسته مدل رگرسیون) و)   ý  مقدارهای پیش بینی شده برای y ) می نامند. هر چه مقدار این ضریب بیشتر باشد، همبستگی بین متغیر وابسته و مقادیر پیش بینی شده آن بیشتر خواهد بود و مدل رگرسیون بهتری برازش شده است.

3-2-2- بیان گرافیکی از مفهوم ضریب تعیین

مقدار ضریب تعیین بالاتر نشان می دهد که در مدل رگرسیونی مقدار مشاهده شده به خط برازش شده نزدیک تر هستند. از لحاظ تئوری اگر R² =۱۰۰.۰% شود تمامی مقادیر مشاهده شده با مقادیر برازش شده یکسان خواهند بود و همه نقاط داده ها بر روی خط برازش شده قرار خواهند گرفت.

4-2-2- ضریب تعیین یکی از معروف ترین شاخص های نیکویی برازش است.

5-2-2- معایب ضریب تعیین به عنوان شاخص نیکویی برازش

محاسبه R²یا ضریب تعیین آسان و تفسیر آن ساده است، ولی با این حال این معیار معروف نیکویی برازش معایبی نیز به شرح زیر دارد:

عیب اول

R² بر حسب تغییرات y نسبت به ý تعریف می شود؛ حال اگر مقادیر و متغیر وابسته کمی تغییر کند، حتی اگر مدل حاصله نسبت به مدل قبلی تفاوت چندانی نداشته باشد و  RSS (تغییراتی که مدل قادر به توضیح آن نیست) دو مدل نیز برابر باشد، R²   تغییر می کند. بنابراین، مقایسه R²در مدل هایی که متغیر وابسته متفاوت دارند معقول نیست

عیب دوم

اگر متغیرهای توضیحی بیشتری وارد مدل شوند،  R2 افزایش می یابد و یا ثابت می ماند. زیرا متغیر اضافه شده جدید، نقشی هر چند کم در تبیین متغیر y خواهد داشت. این ویژگی، R²را به عنوان معیاری جهت انتخاب مدل و متغیرهای آن، غیر معقول جلوه می دهد.

6-2-2- ضریب تعیین تعدیل شده

به منظور اجتناب از عیب دوم، تعدیلی روی ضریب تعیین صورت می گیرد به این طریق که، کاهش درجه آزادی بوجود آمده ناشی از افزایش متغیرهای اضافی، که در محاسبه ضریب تعیین لحاظ نمی شود، در نظر گرفته می شود (زیرا با افزایش متغیرهای توضیحی جدید به مدل، درجه آزادی کاهش می یابد(

این  R²  جدید یا ضریب تعیین تعدیل شده به صورت زیر تعریف می شود:

adj. R²   =  1 –  { (T-1)/(T-k)  *  (1- R۲ ) }

در این صورت با اضافه شدن یک متغیر مستقل جدید به مدل، تعداد پارامترها (k) افزایش می یابد و اثر افزایش R² را خنثی می کند. بنابراین در مدل سازی، R²  تعدیل شده می تواند به عنوان ابزار تصمیم گیری، جهت تعیین وجود یا عدم وجود متغیر مورد نظر، در مدل استفاده شود. اگر با اضافه شدن متغیر مستقل به مدل، R²تعدیل شده افزایش یابد، متغیر اضافه شده در مدل باقی می ماند و اگر R²تعدیل شده کاهش یابد، متغیر از مدل حذف می شود.

معایب ضریب تعیین تعدیل شده

البته هنوز مشکلاتی در رابطه با حداکثر سازی R²تعدیل شده به عنوان معیار انتخاب مدل وجود دارد؛ اصلی ترین مشکل این است که این معیار بسیار انعطاف پذیر یا به اصطلاح “نرم” است و لذا محققان با پیروی از آن به یک مدل بزرگ، با تعداد زیادی متغیر مستقل می رسند که بیشتر متغیرهای آن به صورت مرزی معنا دارند یا اصلا معنا دار نمی باشند.

   3-2- تحليل معني داري ضرايب متغيرهاي رگرسيون

ضريبي که مقدار احتمال آن کمتر از 0.05 باشد، در مدل معني دار خواهد بود. يعني تغيير در مقادير اين متغير باعث تغيير معني دار در متغير وابسته (با توجه به ساختار مدل) مي گردد.

3- اصول و پيش فرضها براي اعتبار رگرسيون

چنانچه يکي از پيش فرضها نقض گردد و توسط دانشجو ناديده گرفته شود و وي به کار خويش ادامه دهد، پيامد آن برآورد ناصحيح ضرايب رگرسيون و معني داري آنهاست.

مهمترين پيش فرضهايي که براي تحليل رگرسيون داده هاي پانل مي بايست مد نظر قرار گيرند به قرار زير است:

   1-3- صفر بودن ميانگين جملات خطا

اگر يک جمله ثابت در رگرسيون لحاظ گردد، اين پيش فرض به راحتي حاصل مي شود و اين فرض هرگز نقض نخواهد شد. بنابراين حتما در مدلهاي رگرسيوني خود در نرم افزار ايويوز، جمله ثابت (عرض از مبدا) که با C  نشان داده مي شود را لحاظ نماييد.

   2-3- عدم وجود خودهمبستگي

در يک مدل کلاسيک رگرسيون خطي فرض بر آن است که کوواریانس بين اجزاي اخلال برابر صفر است. به عبارت ديگر، بين اجزاي اخلال همبستگي وجود ندارد. به اين معني که جزء اخلال مربوط به يک مشاهده، تحت تأثیر جزء اخلال مربوط به مشاهده ديگر قرار نمی‌گيرد.

به عبارت ديگر یکی از مفروضاتی که در رگرسیون مد نظر قرار می‌گیرد؛ استقلال خطا (تفاوت بین مقادیر واقعی و مقادیر پیش‌بینی‌شده توسط معادله رگرسیون) از یکدیگر است. در صورتی که فرضیه استقلال خطاها رد شود و خطاها با یکدیگر همبستگی داشته باشند؛ امکان استفاده از رگرسیون وجود ندارد.

براي تشخيص بصري با هدف توضيح مساله نمودار باقيمانده ها در مقابل باقيمانده ها با يک درجه تاخير (لگ) را ترسيم مي کنيم. اما توجه شود که اين راه مناسبي براي تشخيص نيست. {براي ايجاد سري باقيمانده ها، از proc دستور ساختن باقيمانده ها اجرا شود. بعد با دستور genr لگ ساخته شده و همبستگي محاسبه شود}.

با ترسيم نمودار باقيمانده ها طي زمان، اشکال زير نشان دهنده خودهمبستگي مثبت و منفي است:

براي تشخيص وجود خودهمبستگی می‌توان از آزمون دوربین – واتسون استفاده نمود که در مدل‌های پانل به کار می‌رود و از انعطاف‌پذیری بالایی برخوردار است.

به‌منظور بررسی استقلال خطاها از یکدیگر از آزمون دوربین- واتسون استفاده می‌شود که آماره آن به کمک فرمول زیر محاسبه می‌شود:

e_t= میزان اختلال یا خطا در دوره زمانی t

e_t-1= میزان اختلال یا خطا در دوره زمانی t-1

اگر همبستگی بین خطاها را با ρ نشان دهیم در این صورت آمارهDW به کمک رابطه زیر محاسبه می‌شود:

DW=2(1-ρ)m

مقدار آماره این آزمون در دامنه 0 و 4+ قرار دارد:

اگر 0= ρآنگاهDW=2 خواهد بود که نشان می‌دهد خطاها از یکدیگر مستقل هستند (عدم خودهمبستگی).

اگر 1 =ρ آنگاه DW=0 خواهد بود که نشان می‌دهد خطاها دارای خودهمبستگی مثبت هستند.

اگر 1- =ρ آنگاهDW=4 خواهد بود که نشان می‌دهد خطاها دارای خودهمبستگی منفی هستند.

فرض H0 و H1 به قرار زير است:

H₀ : همبستگی بین خطاها وجود ندارد.

H₁ : همبستگی بین خطاها وجود دارد.

نحوه داوری: نحوه داوری در خصوص آزمون دوربین واتسون و نکات و منابع ارزشمند در این خصوص را در داخل بسته آموزشی خواهید دید.

   3-3- عدم وجود هم خطي (collinearity)

يکي از فرضياتي که در زمان استفاده از روش OLS در نظر گرفته مي شود، اين است که متغيرهاي توضيحي به هم وابسته نيستند. زماني که بين متغيرهاي توضيحي رابطه اي وجود نداشته باشد، گفته مي شود آنها نسبت به هم متعامد هستند. اگر متغيرهاي توضيحي نسبت به هم متعامد باشند، افزودن يک متغير توضيحي جديد که متعامد هم باشد به مدل يا حذف يک متغير توضيحي از مدل، باعث تغييري در ضرايب ساير متغيرها نمي شود.

بهرحال متغيرها داراي درجه از همبستگي هستند، اما تا زماني که اين همبستگي خيلي قوي نباشد، مشکلي پيش نمي آيد.

در آموزش قبل، همبستگي دو گانه و دو به دو را با روش ماتريس همبستگي توضيح داديم {این بسته آموزشی: هم انباشتگی و همخطی در داده های ترکیبی}. و در اين آموزش به صورت عملیاتی آزمون عامل تورم واريانس (VIF) را برای داده های ترکیبی (تابلویی یا پانلی) خواهيم گفت که براي بررسي هم خطي چند گانه بين چند متغير نيز کاربرد دارد.

   4-3- عدم وجود ناهمساني وايانس

پيش فرض مهمي که در رگرسيون OLS وجود دارد اين است که واريانس خطاها مقدار ثابتي باشد (در طول زمان ثابت باشد). اين فرض به همساني واريانس (عدم وجود ناهمساني واريانس) معروف است.

اگر خطاها (باقيمانده ها يا پسماندها) واريانس (پراکنش) ثابت نداشته باشند، گفته مي شود آنها ناهمسان (Heteroskedasticity) هستند.  به عنوان مثال چنانچه پس از برآورد يک رگرسيون، باقيمانده هاي محاسبه شده را در مقابل يکي از متغيرهاي توضيحي رسم کنيم، در صورت ناهمساني وايانس چنين شکلي خواهد داشت:

يعني اگر چه ميانگين ثابت و برابر صفر است اما ميزان پراکندگي (وايانس) انها با افزايش متغير مستقل افزايش مي يابد. اما روش ترسيمي راه صحيح تشخيص ناهمساني وايانس نيست. بلکه معروف ترين و عمومي ترين روشي که براي آزمون همساني وايانس به کار مي رود، آزمون وايت است.

شیوه استخراج آزمون وایت برای داده های پانلی در این بسته آموزشی به صورت کامل بیان شده است.

   5-3- نرمال بودن باقيمانده هاي مدل

با توجه به محتواي آموزش نرماليتي در داده ها در نرم افزار ايويوز، اين مساله که باقيمانده ها بايست داراي توزيع نرمال باشند، يک ضرورت است. البته در خصوص داده هاي پانل مساله کمي متفاوت است. توضیحات کامل در این خصوص در ویدئو آمده است به همراه منابع معتبر.

4- آزمونهاي نيکويي برازش و راه حل رفع مساله

   1-4- نیکویی برازش چیست

لازم است که همواره شاخص هایی برای سنجش چگونگی و میزان دقت برازش داده ها، بوسیله مدل های رگرسیونی داشته باشیم. به عبارت دیگر مایلیم برای سوال زیر، یک پاسخ داشته باشیم:

مدل رگرسیون شامل متغیرهای توضیحی تا چه حد توانسته است تغییرات در متغیر وابسته را توضیح دهد؟

معیارهایی به نام “نیکویی برازش” وجود دارند که برای آزمون چگونگی و میزان دقت برازش داده ها توسط تابع رگرسیون مورد استفاده قرار می گیرند.

   2-4- لزوم اجراي مجدد مدل با توجه به نتيجه آزمونهاي نيکويي برازش

در صورت وجود مشکل در آزمونهاي نيکويي برازش لازم است به مدل رگرسيون برگرديم و تغييرات لازم را اعمال و با برآورد مجدد مدل اصلاح شده، مساله عدم نيکويي برازش را حل کنيم.

   3-4- آزمون دوربين واتسون براي بررسي خود همبستگي باقيمانده ها، رفع خودهمبستگي

براي رفع مي توان correlogram  باقيمانده ها را ترسيم کرد تا مرتبه فرآيند اتورگرسيو (AR) يا ميانگين متحرک (MA) را تعيين کرد. بعد براي رفع آن جملات AR(a) يا MA(b) را به مدل مي توان اضافه کرد. البته کار به اين سادگي ها هم نيست و شما در اصل با اينکار مدل خود را تغيير داده ايد یا اینکه با خطاهای نرم افزار ایویوز مواجه خواهید شد.

در خصوص داده هاي پانل تا حد زيادي از اين مساله خود همبستگي مي توانيد چشم پوشي کنيد. به مستندات و منابع ضميمه شده در این بسته آموزشی مراجعه نماييد.

   4-4- آزمون همخطي متغيرهاي مستقل با آزمون عامل تورم وايانس (VIF)، رفع همخطي

چنانچه مقدار اين آزمون کمتر از 5 باشد، نتیجه می گیریم همخطی چندگانه وجود ندارد.

نکات لازم برای رفع همخطی و توضیحات مرتبط در ویدئوی آموزشی آمده است.

   5-4- آزمون ناهمساني واريانس «وايت»، رفع ناهمساني واريانس

براي رفع ناهمسانی واریانس در گزينه های برآورد مدل، گزینه مناسب را انتخاب مي کنيم. توضیحات کامل در ویدئو آمده است.

   6-4- آزمون نرمال بودن باقيمانده ها «جارک-برا» ؟؟

براي حل مساله نرمال نبودن باقيمانده ها به ویدئوی آموزشی مراجعه نماييد. مستندات لازم و منبع معتبر در فایلهای پیوست آمده است.

همچنين براي رفع به آموزش رفع داده هاي پرت مراجعه نماييد. توجه نماييد که حذف داده هاي پرت يا استفاده از متغيرهاي مجازي براي نمايش آنها، هر دو موجب از دست رفتن درجه آزادي و کاهش اعتبار آماره ها مي گردد. اما بهرحال منافع آن بيشتر از مضرات آن است و ما در آموزش خود بر روي حذف داده هاي پرت کار کرديم.