الغابة العشوائية (Random Forest) Random Forest

الصياغة

for each tree t in [1..n_estimators]:
    sample = bootstrap_sample(X_train, y_train)
    t.fit(sample, subset_of_features)

# التصنيف
prediction = mode([t.predict(X) for t in trees])
# الانحدار
prediction = mean([t.predict(X) for t in trees])

📄 مثال

from sklearn.ensemble import RandomForestClassifier
from sklearn.datasets import load_wine
from sklearn.model_selection import train_test_split

X, y = load_wine(return_X_y=True)
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=42, stratify=y)

model = RandomForestClassifier(n_estimators=200, max_depth=5, random_state=42)
model.fit(X_train, y_train)

print(f"دقة الاختبار: {model.score(X_test, y_test):.3f}")
print(f"أهم 3 ميزات: {model.feature_importances_.argsort()[-3:][::-1]}")

أهم النقاط

💡 نصائح عملية

• n_estimators=100 نقطة بداية جيدة، ارفعها تدريجيًا حتى يستقر الأداء — كل شجرة تكلّف ذاكرة
• oob_score يعطيك تقييمًا مجانيًا بدون تركيب مجموعة تحقق منفصلة — استفد منه حين البيانات محدودة

⚠️ أخطاء شائعة

• افتراض أن Random Forest لا يفرط في التعلّم — يفرط أقل من شجرة واحدة، لكنه يفرط مع بيانات قليلة وميزات كثيرة
• استخدام feature_importances_ كمؤشر سببي — يعكس إسهام الميزة في التنبؤ داخل النموذج، لا في الواقع

خصائص ذات صلة