ما وراء الخط المستقيم: الاختيار بين المربعات الصغرى العادية، وشروط التفاعل، وانحدار تويدي

ما وراء الخط المستقيم: الاختيار بين الانحدار الخطي العادي، وشروط التفاعل، وانحدار تويدي

غالبًا ما يكون الانحدار الخطي هو الأداة الأولى التي يلجأ إليها علماء البيانات عند نمذجة متغير تابع مستمر. لكن البيانات الواقعية نادرًا ما تتبع خطًا مستقيمًا. يمكن أن تكون العلاقات منحنية، أو غير متجانسة، أو مليئة بالأصفار والانحراف. في هذه المقالة، نستكشف ثلاثة أساليب متزايدة في التعقيد: المربعات الصغرى العادية (OLS)، والمربعات الصغرى العادية مع شروط التفاعل، وانحدار تويدي. سنقارن افتراضاتها، ونقاط قوتها، ومزالقها، ثم نريك كيفية تنفيذ كل منها في بايثون بأوامر حقيقية.

حدود المربعات الصغرى العادية

يفترض انحدار المربعات الصغرى العادية وجود علاقة خطية بين المتنبئات والمتغير التابع، وأخطاء موزعة بشكل طبيعي مع تباين ثابت، واستقلالية المشاهدات. عندما تتحقق هذه الافتراضات، تكون المربعات الصغرى العادية أفضل مقدر خطي غير متحيز. لكن في الممارسة العملية، تنتهك العديد من مجموعات البيانات هذه الافتراضات.

تأمل في توقع تكاليف مطالبات التأمين. مبالغ المطالبات موجبة تمامًا، ومنحرفة بشدة نحو اليمين، وغالبًا ما تحتوي على العديد من الأصفار (لا توجد مطالبة). ستتوقع المربعات الصغرى العادية قيمًا سالبة، وستفشل في التقاط كتلة الصفر، وستنتج بواقي غير متجانسة التباين. وبالمثل، في نمذجة المزيج التسويقي، قد يكون تأثير الإنفاق الإعلاني غير خطي - عوائد متناقصة عند مستويات الإنفاق المرتفعة. ستفتقد المربعات الصغرى العادية هذا الانحناء.

الخطوة الأولى إلى ما بعد الخط المستقيم هي إضافة شروط التفاعل، والتي تسمح لتأثير أحد المتنبئات بالاعتماد على آخر.

شروط التفاعل: التقاط العلاقات الشرطية

تصمم شروط التفاعل كيف تتغير العلاقة بين متنبئ \(X_1\) والمتغير التابع \(Y\) مع قيمة متنبئ آخر \(X_2\). على سبيل المثال، قد يكون تأثير التعليم على الدخل أقوى للعمال الأصغر سنًا منه للعمال الأكبر سنًا. يمكنك نمذجة ذلك عن طريق تضمين حاصل الضرب \(X_1 \times X_2\) في الانحدار.

شروط التفاعل بديهية وسهلة التنفيذ. تسمح للميول بالتباين عبر المجموعات أو مستويات متغير مستمر. ومع ذلك، فإنها لا تزال تفترض وجود علاقة خطية بين المتنبئات والمتغير التابع بعد حساب التفاعلات. كما أنها تتطلب تفسيرًا دقيقًا: يتغير معنى التأثيرات الرئيسية عند وجود تفاعل.

بالنسبة للبيانات ذات الانحراف الشديد، أو تضخم الصفر، أو التباين غير الثابت، فإن التفاعلات وحدها غير كافية. أنت بحاجة إلى نموذج توزيعي يحترم طبيعة البيانات. هذا هو المجال الذي يتألق فيه انحدار تويدي.

انحدار تويدي: التعامل مع البيانات المنحرفة، والمتضخمة بالأصفار، والمستمرة

ينتمي انحدار تويدي إلى عائلة النماذج الخطية المعممة (GLMs). وهو مصمم للبيانات المستمرة ولكن لديها احتمال غير صفري لكونها صفرًا تمامًا، ومنحرفة بشكل إيجابي. هذا المزيج يجعله مثاليًا لمطالبات التأمين، وتكاليف الرعاية الصحية، ومبيعات التجزئة، وغيرها من المتغيرات التابعة "شبه المستمرة".

لتوزيع تويدي معامل قوة \(p\) (بين 1 و 2) يحدد شكل التوزيع:

• \(p = 1\): بواسون (بيانات عد، منفصلة)
• \(p = 2\): جاما (مستمرة، موجبة، منحرفة)
• \(1 < p < 2\): بواسون-جاما المركب (مستمر مع أصفار)

من خلال اختيار \(p\) المناسب، يمكنك نمذجة البيانات التي لديها ارتفاع عند الصفر وذيل طويل يمين. يتعامل انحدار تويدي أيضًا مع عدم تجانس التباين بشكل طبيعي لأن التباين هو دالة للمتوسط.

المتطلبات

قبل أن نتعمق في الكود، تأكد من أن بيئتك تحتوي على حزم بايثون التالية. سنستخدم `statsmodels` للمربعات الصغرى العادية وشروط التفاعل، و `scikit-learn` لانحدار تويدي (عبر `TweedieRegressor`).

• بايثون 3.8 أو أحدث
• `numpy`
• `pandas`
• `statsmodels`
• `scikit-learn`
• `matplotlib` (للرسوم البيانية الاختيارية)

التثبيت خطوة بخطوة

سننشئ بيئة افتراضية مخصصة ونثبت الحزم المطلوبة.

أولاً، قم بإنشاء وتفعيل بيئة افتراضية. هذا يعزل التبعيات لهذا المشروع.

python3 -m venv regression_env
source regression_env/bin/activate   # في ويندوز: regression_env\Scripts\activate

بعد ذلك، قم بترقية `pip` إلى أحدث إصدار لتجنب تعارضات التبعية.

pip install --upgrade pip

الآن قم بتثبيت الحزم الأساسية. سنقوم بتثبيت `numpy` و `pandas` و `statsmodels` و `scikit-learn` و `matplotlib`.

pip install numpy pandas statsmodels scikit-learn matplotlib

للتحقق من التثبيت، قم بتشغيل فحص بايثون سريع. يجب أن يطبع هذا الإصدارات دون أخطاء.

python -c "import numpy; import pandas; import statsmodels; import sklearn; print('تم تثبيت جميع الحزم بنجاح')"

أمثلة الاستخدام

سنقوم بمحاكاة مجموعة بيانات واقعية: تكاليف مطالبات التأمين. ستحتوي على متنبئ مستمر `age` ومتنبئ فئوي `vehicle_type` (0 = سيارة سيدان، 1 = شاحنة). المتغير التابع `claim_amount` متضخم بالأصفار ومنحرف نحو اليمين.

1. محاكاة البيانات

أولاً، قم بتوليد البيانات. سننشئ 1000 مشاهدة بهيكل معروف.

import numpy as np
import pandas as pd

np.random.seed(42)
n = 1000
age = np.random.uniform(18, 70, n)
vehicle_type = np.random.binomial(1, 0.4, n)

# احتمال المطالبة الأساسي: 30% لسيارة السيدان، 50% للشاحنة
prob_claim = 0.3 + 0.2 * vehicle_type
has_claim = np.random.binomial(1, prob_claim)

# مبلغ المطالبة: موزع حسب جاما، المتوسط يعتمد على العمر ونوع المركبة
mean_claim = 200 + 5 * age + 50 * vehicle_type
claim_amount = has_claim * np.random.gamma(shape=2, scale=mean_claim/2)

df = pd.DataFrame({
    'age': age,
    'vehicle_type': vehicle_type,
    'claim_amount': claim_amount
})
print(df.head())

2. تركيب المربعات الصغرى العادية مع شروط التفاعل

نستخدم `statsmodels` لتركيب المربعات الصغرى العادية مع تفاعل بين `age` و `vehicle_type`. لاحظ أن المربعات الصغرى العادية ليست مناسبة لهذه البيانات (الأصفار والانحراف)، لكننا ندرجها للمقارنة.

import statsmodels.api as sm

# إضافة شرط التفاعل
df['age_vehicle'] = df['age'] * df['vehicle_type']
X = df[['age', 'vehicle_type', 'age_vehicle']]
X = sm.add_constant(X)
y = df['claim_amount']

ols_model = sm.OLS(y, X).fit()
print(ols_model.summary())

يظهر المخرجات المعاملات، والأخطاء المعيارية، والتشخيصات. لاحظ أن معامل التحديد R-squared قد يكون منخفضًا لأن المربعات الصغرى العادية تفشل في التقاط كتلة الصفر.

3. تركيب انحدار تويدي

الآن نقوم بتركيب انحدار تويدي باستخدام `TweedieRegressor` من `scikit-learn`. سنستخدم `power=1.5` (نموذجي لبيانات التأمين). نقوم أيضًا بقياس الميزات لتقارب أفضل.

from sklearn.linear_model import TweedieRegressor
from sklearn.preprocessing import StandardScaler
from sklearn.model_selection import train_test_split

# تحضير الميزات (لا حاجة للتفاعل - يتعامل تويدي مع اللاخطية عبر دالة الربط)
X = df[['age', 'vehicle_type']]
y = df['claim_amount']

# قياس الميزات
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)

# تقسيم البيانات
X_train, X_test, y_train, y_test = train_test_split(
    X_scaled, y, test_size=0.2, random_state=42
)

# تركيب انحدار تويدي
tweedie_model = TweedieRegressor(
    power=1.5,   # بواسون-جاما المركب
    alpha=0.0,   # بدون تنظيم
    max_iter=1000,
    tol=1e-4
)
tweedie_model.fit(X_train, y_train)

# التوقع والتقييم
y_pred = tweedie_model.predict(X_test)
print("المعاملات:", tweedie_model.coef_)
print("النقطة الثابتة:", tweedie_model.intercept_)

4. مقارنة أداء النموذج

سنقارن متوسط الخطأ المطلق (MAE) ومتوسط الخطأ التربيعي (MSE) بين المربعات الصغرى العادية وتويدي. لاحظ أن MSE أكثر حساسية للأخطاء الكبيرة، والتي يتعامل معها تويدي بشكل أفضل.

from sklearn.metrics import mean_absolute_error, mean_squared_error

# توقعات المربعات الصغرى العادية على مجموعة الاختبار
X_test_ols = sm.add_constant(pd.DataFrame({
    'age': df.loc[X_test_indices, 'age'],
    'vehicle_type': df.loc[X_test_indices, 'vehicle_type'],
    'age_vehicle': df.loc[X_test_indices, 'age'] * df.loc[X_test_indices, 'vehicle_type']
}))
# (افترض أن X_test_indices هي المؤشرات من train_test_split)
# للتبسيط، نعيد التوقع على البيانات الكاملة (هذا توضيحي)
ols_pred = ols_model.predict(X)

# توقعات تويدي (تم حسابها بالفعل)
print("MAE للمربعات الصغرى العادية:", mean_absolute_error(y, ols_pred))
print("MAE لتويدي:", mean_absolute_error(y_test, y_pred))
print("MSE للمربعات الصغرى العادية:", mean_squared_error(y, ols_pred))
print("MSE لتويدي:", mean_squared_error(y_test, y_pred))

في الممارسة العملية، سيعطي تويدي MSE أقل لأنه يأخذ في الاعتبار كتلة الصفر والانحراف.

5. تصور التوافق

ارسم القيم المتوقعة مقابل الفعلية لكلا النموذجين لرؤية الفرق.

import matplotlib.pyplot as plt

plt.figure(figsize=(12, 5))

plt.subplot(1, 2, 1)
plt.scatter(y, ols_pred, alpha=0.3)
plt.plot([0, y.max()], [0, y.max()], 'r--')
plt.xlabel('فعلي')
plt.ylabel('متوقع بواسطة المربعات الصغرى العادية')
plt.title('المربعات الصغرى العادية: المتوقع مقابل الفعلي')

plt.subplot(1, 2, 2)
plt.scatter(y_test, y_pred, alpha=0.3)
plt.plot([0, y_test.max()], [0, y_test.max()], 'r--')
plt.xlabel('فعلي')
plt.ylabel('متوقع بواسطة تويدي')
plt.title('تويدي: المتوقع مقابل الفعلي')

plt.tight_layout()
plt.show()

يجب أن يُظهر مخطط تويدي تشتتًا أقل ومحاذاة أفضل على طول القطر.

متى تستخدم كل نهج

• **المربعات الصغرى العادية**: استخدم فقط عندما تكون بياناتك طبيعية تقريبًا، ومتجانسة التباين، وليس بها أصفار أو نطاق محدود. جيد للتجارب المضبوطة أو درجات الاختبارات الموحدة.
• **المربعات الصغرى العادية مع التفاعلات**: استخدم عندما تشك في أن تأثير متغير واحد يعتمد على آخر، لكن البيانات لا تزال تفي بافتراضات المربعات الصغرى العادية. على سبيل المثال، عائد الاستثمار التسويقي حسب القناة.
• **انحدار تويدي**: استخدم عندما يكون المتغير التابع مستمرًا، وموجبًا (أو صفرًا)، ومنحرفًا نحو اليمين. مثالي لبيانات التأمين والرعاية الصحية والمبيعات. يتعامل بشكل طبيعي مع تضخم الصفر وعدم تجانس التباين.

الخلاصة

الانحدار الخطي هو خط أساس قوي، لكن البيانات الواقعية غالبًا ما تتطلب المزيد. تضيف شروط التفاعل مرونة للعلاقات الشرطية، لكنها لا تعالج المشكلات التوزيعية مثل الانحراف والأصفار. يسد انحدار تويدي الفجوة - فهو يحترم الطبيعة الحقيقية للبيانات مع البقاء قابلاً للتفسير وفعالاً من الناحية الحسابية. من خلال اختيار الأداة المناسبة للمهمة، تنتقل إلى ما بعد الخط المستقيم إلى نماذج تعكس تعقيد العالم. ابدأ بالمربعات الصغرى العادية، وأضف التفاعلات عند الحاجة، وانتقل إلى تويدي عندما تتطلب بياناتك ذلك. نماذجك - وأصحاب المصلحة - سيشكرونك.