تحلیل واریانس

یک مثال عملی

بیست‌ودو خرگوش به مدت دوازده هفته رژیم غذایی با کلسترول بالا خوردند، سپس به‌طور تصادفی به چهار گروه تقسیم شدند:

1. 12 هفتهٔ دیگر رژیم غذایی پرکلسترول
2. 12 هفتهٔ دیگر رژیم غذایی عادی
3. درمان دارویی به همراه بازگشت به رژیم غذایی عادی
4. درمان دارویی به همراه ادامه رژیم غذایی پرکلسترول

نتیجه درصد آئورت پوشیده شده توسط پلاک آترواسکلروتیک بود.

چرا فقط همهٔ آزمون‌های t را انجام ندهیم؟

در گروه‌های $k = 4$، مقایسه‌های جفتی $\binom{4}{2} = 6$ وجود دارد. چهار دلیل برای انجام کار دیگری:

1. برای رسیدن به یک پاسخ کلی واحد. پرسش علمی این است که آیا درمان اصلاً اهمیتی دارد یا خیر، نه اینکه آیا گروه 2 با گروه 3 تفاوت دارد.

2. استفاده از تمام اطلاعات موجود در مجموعه داده در هر مقایسه. بهترین برآورد از $\sigma^2$ از کل داده‌ها به دست می‌آید، نه فقط از دو گروهی که با هم مقایسه می‌شوند. تجمیع داده‌ها در میان هر چهار گروه، درجات آزادی بیشتری فراهم می‌کند و برآورد واریانس را پایدارتر می‌سازد، که هر مقایسه را قدرتمندتر می‌کند.

3. برای کنترل نرخ کلی خطای نوع I در سطح 5%. اگر هر یک از شش آزمون نرخ مثبت کاذب 5% داشته باشند، احتمال وجود حداقل یک مثبت کاذب در کل خانواده آزمون‌ها عبارت است از:

$1 - (1 - 0.05)^6 = 1 - 0.735 = 0.265$

احتمال 26% برای وجود حداقل یک یافته‌ی کاذب. با 10 گروه، 45 مقایسه وجود دارد و نرخ خطای خانوادگی بیش از 90% است.

4. زیرا ممکن است پرسش اصلاً جفتی نباشد. «آیا رژیم غذایی اهمیت دارد، با میانگین‌گیری بر وضعیت دارویی» هیچ‌یک از شش مقایسهٔ جفتی نیست.

فرضیه‌ها و پیش‌فرض‌ها

آیا درصد پلاک به معنای درصد پلاک در ترکیب‌های مختلف رژیم غذایی و درمان دارویی متفاوت است؟

برای گروه‌های $k = 4$:

$H_0: \mu_1 = \mu_2 = \cdots = \mu_k$ $H_1: \text{at least two of the } \mu \text{ are different}$

گزینهٔ جایگزین را با دقت بررسی کنید. رد فرضیهٔ $H_0$ به شما می‌گوید که در میان گروه‌ها تفاوتی وجود دارد، اما نمی‌گوید این تفاوت کجاست؛ به همین دلیل است که مقایسه‌های پسینی وجود دارند.

فرض‌ها:

• امتیازات درون گروه‌ها توزیع نرمال دارند.
• واریانس‌های برابر در گروه‌ها: $\sigma_1^2 = \sigma_2^2 = \cdots = \sigma_k^2 = \sigma^2$
• مشاهدات مستقل هستند

این‌ها فرضیات آزمون تی دو نمونه‌ای هستند که به گروه‌های $k$ تعمیم یافته‌اند. ANOVA آزمون تی تعمیم‌یافته است و برای $k = 2$ نتایج یکسانی با $F = t^2$ ارائه می‌دهد.

تجزیهٔ واریانس

نام آن گیج‌کننده است: تحلیل واریانس برای مقایسه میانگین‌ها استفاده می‌شود. ارتباط همان بینشی است که باعث کارکرد این روش می‌شود.

هر خرگوش به دو دلیل با خرگوش متوسط متفاوت است:

1. خرگوش از سایر خرگوش‌های گروهش متفاوت است (تغییرپذیری درون‌گروهی)
2. خرگوش‌های گروه او با میانگین همه خرگوش‌ها متفاوت هستند (واریانس بین‌گروهی)

$\text{Total variation} = \text{within-group variation} + \text{between-group variation}$

اگر گروه‌ها واقعاً میانگین‌های متفاوتی داشته باشند، بخش بین‌گروهی نسبت به بخش درون‌گروهی بزرگ خواهد بود. اگر چنین نباشد، هر دو بخش یک $\sigma^2$ زیرین یکسان را برآورد می‌کنند و نسبت آن‌ها نزدیک به 1 خواهد بود.

مجموع مربعات

برای گروه‌های $k$، با $y_{ij}$ مشاهده $j$ام در گروه $i$:

$\sum(y_{ij} - \bar{\bar{y}})^2 = \sum(y_{ij} - \bar{y}_i)^2 + \sum(\bar{y}_i - \bar{\bar{y}})^2$

$\text{Total SS} = \text{Within SS} + \text{Between SS}$

کجا:

• $\bar{\bar{y}}$ میانگین بزرگ در میان همه خرگوش‌ها است.
• $\bar{y}_i$ میانگین گروه $i$ است.
• $y_{ij}$ یک مشاهدهٔ فردی است.

این هویت دقیق است، نه تقریبی. تفکیک‌های تغییر کل به‌خوبی به دو بخش تقسیم می‌شوند، که این واقعیت جبری است که کل روش بر آن استوار است.

جدول ANOVA

برای گروه‌های $k$ و کل مشاهدات $N$:

میانگین مربعات مجموع مربعات تقسیم بر درجات آزادی آن است که آن را به یک برآورد واریانس تبدیل می‌کند. $MS_w$ واریانس درون‌گروهی تجمیع‌شده است، تعمیم مستقیم $S^2$ تجمیع‌شده از آزمون تی دو نمونه‌ای.

با افزایش $F$ فراتر از 1، احتمال رد $H_0$ بیشتر می‌شود، زیرا میانگین مربعات بین‌گروهی بزرگ‌تر از میانگین مربعات درون‌گروهی است؛ یعنی میانگین‌های گروهی از آنچه نویز درون‌گروهی به‌تنهایی ایجاد می‌کند، فاصله بیشتری دارند.

برای خرگوش‌ها

اعداد را بررسی کنید: $4797 + 7717 = 12{,}514$؛ $3 + 18 = 21 = N - 1$ با $N = 22$؛ $4797/3 = 1599$؛ $7717/18 = 428.7$؛ $1598.9/428.7 = 3.73$.

توزیع F

تحت $H_0$، $F$ توزیعی F را با درجات آزادی $df_b$ و $df_w$ دنبال می‌کند.

$F_{0.95, 3, 18} = 3.16$

از $3.729 > 3.16$، ما $H_0$ را در سطح 5% رد می‌کنیم. مقدار p برابر با 0.030 است.

qf(0.95, df1 = 3, df2 = 18)     # 3.16
1 - pf(3.729, 3, 18)            # 0.0303

# from raw data
fit <- aov(plaque ~ group, data = rabbits)
summary(fit)

توجه داشته باشید که آزمون F ذاتاً یک‌طرفه است: تنها مقادیر بزرگ $F$ مدرکی علیه $H_0$ محسوب می‌شوند، زیرا نسبت نزدیک به صفر نشان‌دهندهٔ قرار گرفتن میانگین‌های گروهی به‌طور غیرمعمول نزدیک به هم است که دلیلی بر وجود تفاوت نیست.

مقایسه‌های چندگانه

آزمون F می‌گوید حداقل دو میانگین با هم متفاوت هستند. کدام‌ها؟

میانگین درصد پلاک به تفکیک گروه:

شش مقایسهٔ جفتی ممکن وجود دارد. اجرای هر یک در $p < 0.05$ نرخ مثبت کاذب خانوادگی بیش از 0.05 را می‌دهد، همان‌طور که قبلاً محاسبه شد.

سه رویکرد

کمترین اختلاف معنادار (LSD). آزمون‌های t معمولی که از $MS_w$ برای برآورد $\sigma^2$ استفاده می‌کنند، بدون هیچ تعدیلی برای تعداد مقایسه‌ها. این روش برای برآورد واریانس از تمام داده‌ها نیرو می‌گیرد اما در مورد چندگانگی هیچ اقدامی نمی‌کند. گاهی اوقات زمانی که توسط یک آزمون F کلی معنادار محافظت شده و به سه گروه محدود باشد، به‌عنوان قابل قبول دفاع می‌شود، و در غیر این صورت گزینه‌ای آزادانه است.

تفاوت معنادار توکی (HSD). مقادیر p را با استفاده از توزیع فاصلهٔ استانداردشدهٔ دانشجویی اصلاح می‌کند که این توزیع این واقعیت را در نظر می‌گیرد که بزرگ‌ترین اختلاف از میان چندین اختلاف به‌طور تصادفی انتظار می‌رود که بزرگ باشد. به‌طور ویژه برای تمام مقایسه‌های جفتی طراحی شده و به‌عنوان گزینهٔ پیش‌فرض مناسب برای این منظور است.

اصلاح بونفرونی. هر مقدار p را در تعداد مقایسه‌ها ضرب کنید، یا به‌طور معادل آلفای بحرانی را بر تعداد مقایسه‌ها تقسیم کنید. با شش مقایسه، آستانه $0.05/6 = 0.0083$ می‌شود. ساده، کلی، قابل اعمال به هر مجموعه آزمون و محافظه‌کارانه، که با افزایش تعداد مقایسه‌ها محافظه‌کارتر می‌شود.

برای خرگوش‌ها

مقادیر p تعدیل‌شده بر حسب روش:

TukeyHSD(fit)
pairwise.t.test(rabbits$plaque, rabbits$group, p.adjust.method = "bonferroni")
pairwise.t.test(rabbits$plaque, rabbits$group, p.adjust.method = "none")   # LSD

دو مشاهده.

این روش نتیجه‌گیری را تغییر می‌دهد. مقایسه رژیم غذایی با کلسترول بالا در برابر رژیم غذایی عادی به‌علاوه دارو، $p = 0.01$ را با LSD، $p = 0.04$ را با توکی و $p = 0.057$ را با بونفرونی ارائه می‌دهد. یک روش آن را در سطح 1% معنادار می‌داند؛ روش دیگر به 5% نمی‌رسد.

بونفرونی در اینجا محافظه‌کارتر از توکی است. بونفرونی فرض می‌کند آزمون‌ها مستقل هستند، در حالی که مقایسه‌های جفتی میان گروه‌های یکسان مستقل نیستند، زیرا میانگین‌های گروهی را با هم شریک می‌شوند. توکی از این ساختار بهره می‌برد و بنابراین برای این هدف خاص قدرتمندتر است. برای همه مقایسه‌های جفتی، توکی را ترجیح دهید؛ برای مجموعه‌ای دلخواه از آزمون‌ها که چنین ساختاری وجود ندارد، از بونفرونی استفاده کنید.

بهترین راه‌حل معمولاً این است که مقایسه‌های کمتری داشته باشیم. تعیین دو مقایسه با اهمیت علمی از پیش، به جای آزمون هر شش مقایسه و سپس اصلاح آن‌ها، قدرت بیشتری می‌دهد و تفسیر را واضح‌تر می‌کند. اصلاح پسینی ترمیمی است برای طرحی که بیش از حد پرسش مطرح کرده بود.

دوطرفه ANOVA و تعامل

طرح خرگوش در واقع شامل چهار گروه دلخواه نیست. این طرح دو عامل متقاطع است:

• رژیم غذایی: کلسترول بالا یا طبیعی
• دارو: دارو یا بدون دارو

تحلیل واریانس دوطرفه تغییرات بین‌گروهی را به یک اثر اصلی رژیم غذایی، یک اثر اصلی دارو، و یک تعامل رژیم غذایی در دارو تجزیه می‌کند.

fit2 <- aov(plaque ~ diet * drug, data = rabbits)
summary(fit2)
interaction.plot(rabbits$drug, rabbits$diet, rabbits$plaque)

یک نمودار تعامل یک عامل را روی محور x قرار می‌دهد و برای هر سطح عامل دیگر یک خط رسم می‌کند.

• خطوط موازی به معنای عدم تعامل هستند: اثر دارو در هر دو رژیم غذایی یکسان است.
• خطوط غیرموازات به معنای تعامل هستند: اثر دارو به رژیم غذایی بستگی دارد.

برای خرگوش‌ها، دارو پلاک را در رژیم غذایی معمولی به طور قابل توجهی کاهش می‌دهد (از 78.5 به 44.8، کاهش 34) و در رژیم غذایی پرکلسترول بسیار کمتر (از 81.2 به 71.0، کاهش 10). خطوط موازی نیستند که نشان‌دهندهٔ یک تعامل است: دارو زمانی بهتر عمل می‌کند که رژیم غذایی نیز اصلاح شود.

دو پیامد:

وقتی یک تعامل وجود دارد، اثرات اصلی به‌تنهایی قابل تفسیر نیستند. «این دارو به‌طور متوسط پلاک را 22 واحد کاهش می‌دهد» گزاره‌ای دربارهٔ میانگین دو اثر بسیار متفاوت است و هیچ‌یک از آن دو وضعیت را توصیف نمی‌کند.

این همان ایده تعدیل اثر در دوره مبانی است. تعامل در یک مدل و تعدیل‌کننده اثر در یک تحلیل اپیدمیولوژیک، یک پدیده‌اند با دو واژگان متفاوت. عامل مخدوش‌گر مزاحمی است که باید تعدیل شود؛ تعامل یافته‌ای است که باید گزارش شود.

پس از ANOVA

سه نکتهٔ دیگر:

فرض‌ها را بررسی کنید. باقیمانده‌ها را در مقابل مقادیر برآوردی ترسیم کنید تا به دنبال واریانس‌های نابرابر باشید و از نمودار کوانتیل نرمال باقیمانده‌ها استفاده کنید. آزمون لِوِن به‌طور رسمی برابری واریانس‌ها را آزمایش می‌کند، اگرچه همان احتیاطی که هنگام پیش‌آزمون واریانس‌ها پیش از آزمون t لازم است، در اینجا نیز صدق می‌کند.

وقتی مفروضات برقرار نباشند، آزمون کروسکال-والیس همتای رتبه‌ای تحلیل واریانس یک‌طرفه است و آزمون مجموع رتبه ویلکاکسون را به $k$ گروه تعمیم می‌دهد.

kruskal.test(plaque ~ group, data = rabbits)

ANOVA یک مورد ویژه از رگرسیون خطی است که در آن عضویت گروه به‌عنوان متغیرهای شاخص وارد می‌شود. همهٔ مطالب این واحد در دورهٔ رگرسیون به‌صورت کلی‌تری که پیش‌بین‌ها و هم‌وراهای پیوسته را نیز در بر می‌گیرد، مجدداً مطرح می‌شوند. آزمون F در اینجا آزمون F کلی یک مدل رگرسیون است.

درک خود را بررسی کنید

1. یک مطالعه پنج درمان را مقایسه می‌کند. تعداد مقایسه‌های جفتی و نرخ خطای نوع اول خانوادگی را محاسبه کنید اگر هر یک بدون اعمال اصلاح با سطح 0.05 آزمون شوند.
2. جدول ANOVA گزارش می‌دهد که بین SS برابر با 240 با 3 درجه آزادی و درون SS برابر با 1,080 با 36 درجه آزادی است. جدول را تکمیل کنید، F را محاسبه کنید و مشخص کنید که آیا در سطح 5% معنادار است یا خیر. در R تأیید کنید.
3. توضیح دهید چرا آزمون F یک‌طرفه است و مقدار بسیار کوچک F (مثلاً 0.02) چه چیزی را درباره داده‌ها نشان می‌دهد.
4. یک پژوهشگر آزمون ANOVA را اجرا می‌کند که معنادار نیست (p = 0.12) و سپس یک مقایسهٔ جفتی را گزارش می‌کند که به p = 0.03 می‌رسد. در مورد این عمل نظر دهید.
5. توضیح دهید چرا بونفرونی در تمام مقایسه‌های جفتی محافظه‌کارتر از توکی است و مثالی از موقعیتی بیاورید که در آن بونفرونی انتخاب مناسبی باشد.
6. یک نمودار تعامل دو خط متقاطع را نشان می‌دهد. به زبان ساده توضیح دهید این از نظر بالینی چه معنایی دارد و توضیح دهید چرا اثرات اصلی را به‌عنوان نتیجهٔ اصلی گزارش نمی‌کنید.

مطالعه بیشتر

• Rosner B. Fundamentals of Biostatistics. 8th ed. Chapter 12.
• Pagano M, Gauvreau K. Principles of Biostatistics. 2nd ed. Chapter 12.
• Bland JM, Altman DG. Multiple significance tests: the Bonferroni method. BMJ. 1995;310:170.
• Rothman KJ. No adjustments are needed for multiple comparisons. Epidemiology. 1990;1(1):43-46. (A well-argued dissent worth reading against the standard advice.)