ما هي خوارزمية الانحدار اللوجستي [المفهوم, المميزات والاستخدامات]

هل سمعت عن خوارزمية الانحدار اللوجستي من قبل؟ ربما تكون قد سمعت عنها إذا كنت مهتما بتحليل البيانات أو تعلم الآلة, هذه الخوارزمية تعد واحدة من الأدوات الأساسية التي يستخدمها علماء البيانات والخبراء في العديد من المجالات لتحليل البيانات واتخاذ القرارات المستنيرة. 

خوارزمية الانحدار اللوجستي ليست معقدة كما يبدو من اسمها, فهي تستخدم على نطاق واسع لحل مشكلات التصنيف الثنائية Binary Classification حيث يكون الهدف هو التنبؤ بواحد من فئتين فقط< مثل "نعم" أو "لا"، "نجاح" أو "فشل".  

في هذا المقال، سنتناول بالتفصيل مفهوم خوارزمية الانحدار اللوجستي, مبدأ عملها, استخداماتها المختلفة, كيفية تدريبها على البيانات, والتحديات التي قد تواجهها أثناء التعامل معها. سنحاول تقديم معلومات غنية ومفيدة تفيدك سواء كنت مبتدئا أو على دراية جيدة بعالم التحليل الإحصائي وتعلم الآلة.

 ما هي خوارزمية الانحدار اللوجستي؟

خوارزمية الانحدار اللوجستي Logistic Regression هي خوارزمية تعلم آلي تتبع التعلم الخاضع للإشراف تستخدم لحل مشاكل التصنيف على أساس مجموعة من المتغيرات المستقلة. [1]

على الرغم من أن اسمها يوحي بأنها تنتمي إلى فئة النماذج الانحدارية المستخدمة للتنبؤ بالقيم المستمرة, مثل الانحدار الخطي, فإن الفرق الأساسي بينها وبين الانحدار الخطي هو أن خوارزمية الانحدار اللوجستي تتعامل مع القيم الثنائية أو الاحتمالية (0 أو 1) فقط, بينما تتعامل الانحدار الخطي مع القيم المستمرة.  

الهدف الرئيسي لخوارزمية الانحدار اللوجستي هو تقدير احتمالية وقوع حدث معين (مثل إصابة الشخص بمرض معين) استنادا إلى بيانات موجودة. 

إذا استنادا إلى البيانات يتم استخدام دالة السيجمويد Sigmoid وذلك لإعطاء قيمة تتراوح بين 0 و 1, بذلك فإنها تعطي قيمة احتمالية تقع بين 1 و 0, بدلا من أن تكون القيمة إما (نعم أو لا) , أو (0 أو 1). 

ما هي إيجابيات خوارزمية الانحدار اللوجستي؟ 

تعد هذه الخوارزمية من الخوارزميات المهمة والمفيدة, لعدد من الأسباب, من أهمها: [2]

• الخيار الأسهل في تنفيذ طرق تعلم الآلة

يعد الانحدار اللوجستي خوارزمية بسيطة نسبيا لتنفيذها مقارنة مع خوارزميات تعلم الآلة الأخرى, فهي تتطلب موارد حسابية أقل, مما يجعلها خيارا ممتازا للمبتدئين وللمشاريع التي تتطلب السرعة والبساطة. 

على عكس الخوارزميات الأكثر تعقيدا مثل الشبكات العصبية أو آلة المتجه الداعم SVM, لا يتطلب الانحدار اللوجستي تعديلا معقدا للمعاملات ويمكن تنفيذه بسهولة باستخدام الأدوات الأساسية, كما أن الأساس الرياضي له يعتمد على مفاهيم بسيطة في الاحتمالات, مما يجعله سهل الفهم والتطبيق في السيناريوهات العملية.

• مناسبة للمجموعات البيانية القابلة للفصل الخطي

من المزايا الكبرى لخوارزمية الانحدار اللوجستي هي ملاءمتها للمجموعات البيانية التي يمكن فصلها خطيا, أي الحالات التي يمكن فيها فصل الفئتين بخط مستقيم أو مستوى (في الأبعاد الأعلى), حيث  يمكن لهذه الخوارزمية  التمييز بفعالية بين الفئات. 

تعمل الخوارزمية من خلال تعلم حد فاصل خطي يفصل الفئات استنادا إلى الميزات المدخلة. إنه مفيد بشكل خاص عندما تكون البيانات منظمة بشكل جيد وتظهر علاقة خطية واضحة بين المتغيرات المدخلة والهدف.

• توفر رؤى قيمة

الانحدار اللوجستي ليس فقط خوارزمية تصنيف, بل هو أيضا أداة لفهم العلاقات بين الميزات المدخلة والمتغير المستهدف. المعاملات (الأوزان) التي يتم تعلمها خلال عملية التدريب تخبرك بمدى تأثير كل ميزة على التنبؤ. 

هذه المعاملات تشير إلى الاتجاه و القوة التي يؤثر بها كل عامل في النتيجة. تجعل هذه القابلية للتفسير الانحدار اللوجستي أداة قوية لفهم تأثير العوامل المختلفة, خاصة في مجالات مثل الرعاية الصحية, والاقتصاد, والعلوم الاجتماعية, حيث يكون فهم هذه العلاقات مهما بقدر أهمية إجراء التنبؤات.

• فعالة في العمل مع الاحتمالات

يمتلك الانحدار اللوجستي القدرة الفريدة على التنبؤ بالاحتمالات وهو ميزة كبيرة, على عكس الخوارزميات التي تعطي فقط تسميات الفئات, فإن الانحدار اللوجستي يقدم درجة احتمالية (بين 0 و 1) لكل تنبؤ, مما يمثل احتمال انتماء نقطة البيانات إلى فئة معينة. 

هذه الميزة مفيدة بشكل خاص في السيناريوهات التي يتطلب فيها اتخاذ القرارات استنادا إلى عتبة الاحتمالات (مثل الاحتمال 0.5 أو أكثر). إنها تمكن من اتخاذ قرارات أكثر دقة, مثل تصنيف النقاط بناء على احتمالاتها أو تعديل العتبة لتناسب الاحتياجات التجارية المحددة.

• الاستفادة من خاصية التنظيم Regularization

الانحدار اللوجستي يدعم تقنيات مثل التنظيم Regularization, مثل L1 و L2, والتي يمكن أن تساعد في تجنب مشكلة فرط التجهيز Overfitting, يمكن تنظيم النموذج لتحسين أدائه على البيانات الجديدة من خلال تقليل تأثير بعض المدخلات أو تقليل تعقيد النموذج. هذه الميزة تجعل الخوارزمية أكثر قوة ومرونة في التعامل مع البيانات غير المثالية.

• التفسير السهل للنتائج

عند مقارنة خوارزميات تعلم الآلة الأخرى التي تعمل على نماذج غير قابلة للتفسير بسهولة, يوفر الانحدار اللوجستي درجة عالية من القابلية للتفسير. على سبيل المثال, يمكن أن تكون قيمة المعامل (الوزن) التي تعلمها النموذج في الانحدار اللوجستي مؤشرا مباشرا على مدى تأثير الميزة على التنبؤ. هذه الميزة تجعل الانحدار اللوجستي خيارا جيدا في المجالات التي تتطلب شفافية مثل الطب والقانون.

• المرونة في التعامل مع أنواع مختلفة من البيانات

يمكن لهذه الخوارزمية التعامل مع أنواع مختلفة من البيانات, بما في ذلك البيانات المستمرة (مثل العمر والدخل) والبيانات التصنيفية (مثل الجنس أو الحالة الاجتماعية). يمكن تمثيل البيانات التصنيفية باستخدام تقنيات مثل الترميز الثنائي One-Hot Encoding, مما يسمح باستخدام الانحدار اللوجستي في مجموعة واسعة من التطبيقات.

أنواع الانحدار اللوجستي

هناك ثلاثة أنواع من الانحدار اللوجستي, وهي: [3]

• الانحدار اللوجستي الثنائي

الانحدار اللوجستي الثنائي هو النوع الأكثر استخداما من الانحدار اللوجستي ويستخدم عندما يكون المتغير المستهدف يحتوي على نتيجتين فقط, عادة ما يتم تمثيل هذه النتائج كـ 0 و 1, أو صحيح و خطأ, مثل:

• نعم / لا
• صح / خطأ
• 0 / 1

الهدف منه هو نمذجة الاحتمال بأن نقطة البيانات تنتمي إلى إحدى الفئتين, يخرج النموذج قيمة احتمالية بين 0 و 1, والتي يتم تفسيرها كاحتمال أن تنتمي نقطة البيانات إلى الفئة الإيجابية (عادة الفئة 1). 

إذا كانت الاحتمالية أكبر من العتبة المحددة (عادة 0.5), يتم تصنيف النقطة إلى الفئة 1, وإذا كانت أقل, يتم تصنيفها إلى الفئة 0.

مثال على الاستخدام: التنبؤ بما إذا كان البريد الإلكتروني هو بريد مزعج (1) أو ليس بريدا مزعجا (0), التنبؤ بما إذا كان العميل سيشتري منتجا (نعم/لا).

• الانحدار اللوجستي متعدد الفئات 

الانحدار اللوجستي متعدد الفئات هو امتداد للانحدار اللوجستي الثنائي ويستخدم لمشاكل التصنيف التي تحتوي على أكثر من فئتين (أي مشكلة التصنيف المتعدد), فبدلا من التنبؤ بين فئتين فقط, يقوم الانحدار اللوجستي متعدد الفئات بنمذجة الاحتمالية لكل فئة ممكنة.

في الانحدار اللوجستي متعدد الفئات, يتم اختيار فئة واحدة كفئة مرجعية (غالبا الفئة 0), ويحسب النموذج الاحتمالات بأن تنتمي النقطة إلى الفئات الأخرى بالنسبة للفئة المرجعية. النتيجة هي مجموعة من الاحتمالات لكل فئة, ويتم اختيار الفئة التي تحتوي على أعلى احتمالية كالفئة المتنبأ بها.

مثال على الاستخدام: تصنيف أنواع الفواكه بناء على خصائص مثل اللون والشكل والحجم (مثل التفاح, الموز, البرتقال), تصنيف المقالات الإخبارية إلى مواضيع مختلفة (مثل الرياضة, السياسة, التكنولوجيا).

• الانحدار اللوجستي الترتيبي

الانحدار اللوجستي الترتيبي يستخدم عندما يتكون المتغير المستهدف من فئات مرتبة, على عكس الانحدار اللوجستي متعدد الفئات, حيث تكون الفئات غير مرتبة, يتعامل الانحدار اللوجستي الترتيبي مع الحالات التي تكون فيها الفئات لها ترتيب طبيعي أو تصنيف. على سبيل المثال, قد تكون تصنيفات رضا العملاء مصنفة م ضعيف, مقبول, و ممتاز, حيث يكون الترتيب ذا أهمية ولكن المسافة بين الفئات قد لا تكون متساوية.

يقوم الانحدار اللوجستي الترتيبي بتقدير الاحتمالية لأن تكون النتيجة في كل فئة, مع الأخذ في الاعتبار الطبيعة الترتيبية للمتغير المستهدف. يتم بناء النموذج عادة باستخدام نموذج اللوجيت التراكمي, الذي يعامل المشكلة كمجموعة من المقارنات الثنائية بين الفئات المجاورة.

مثال على الاستخدام: التنبؤ بمستوى التعليم لشخص (مثل الثانوية العامة, بكالوريوس, ماجستير, دكتوراه), تصنيف جودة المنتج على مقياس من 1 إلى 5, تصنيف مراحل السرطان (مبكر, متوسط, متقدم).

ما هي المجالات التي تستخدم فيها خوارزمية الانحدار اللوجستي ؟ 

تستخدم خوارزمية الانحدار اللوجستي على نطاق واسع في العديد من المجالات, ومن أبرز الاستخدامات:

• تحليل المخاطر في المجال المالي: يتم استخدامها لتقدير احتمالية الفشل المالي أو الإفلاس استنادا إلى مجموعة من المؤشرات المالية.
• التنبؤ بالأمراض الطبية: تستخدم لتحديد احتمالية إصابة الشخص بمرض معين بناء على البيانات الطبية.
• التسويق الرقمي: تعتمد الشركات على الانحدار اللوجستي لتحليل بيانات العملاء وتحديد احتمالية إتمام عمليات الشراء.
• التنبؤ بسلوك المستخدم: تستخدم لتقدير احتمالية قيام المستخدم بعمل معين, مثل النقر على إعلان أو التسجيل في خدمة معينة.

أهم الافتراضات التي تعتمد عليها خوارزمية الانحدار اللوجستي

تعتمد الخوارزمية على بعض الافتراضات التي يجب التحقق منها لضمان دقة النموذج, من هذه الافتراضات ما يلي:  [4]

1. المتغير التابع الثنائي: يفترض الانحدار اللوجستي أن المتغير التابع (الذي يتم التنبؤ به) ثنائي, أي يحتوي على فئتين فقط مثل 0 و 1 أو نعم ولا. إذا كان المتغير التابع يحتوي على أكثر من فئتين, يجب استخدام الانحدار اللوجستي متعدد الفئات.
2. غياب التعددية المتعددة: يفترض الانحدار اللوجستي أن المتغيرات المستقلة غير مترابطة بشدة, إذا كانت المتغيرات المستقلة مرتبطة بشكل كبير (التعددية المتعددة), قد تؤثر على استقرار النتائج.
3. استقلالية الملاحظات: يفترض أن الملاحظات في البيانات مستقلة عن بعضها البعض, أي أن نتيجة ملاحظة لا تؤثر على نتيجة أخرى, في حال كانت البيانات متجمعة أو متكررة, يمكن استخدام تقنيات أخرى مثل المعادلات التقديرية العامة (GEE).
4. حجم العينة الكبير: يفترض الانحدار اللوجستي أن العينة كبيرة بما يكفي لضمان نتائج دقيقة, قاعدة شائعة هي وجود 10 أحداث لكل متغير مستقل على الأقل.
5. غياب القيم الشاذة: الانحدار اللوجستي حساس للقيم الشاذة في المتغيرات المستقلة, والتي قد تؤثر على دقة النموذج, يجب التعامل مع القيم الشاذة قبل استخدام النموذج.

الخاتمة 

في الختام, تعتبر خوارزمية الانحدار اللوجستي أداة هامة وفعالة في مجالات متعددة مثل تحليل البيانات الطبية, التسويق الرقمي, والمالية. توفر هذه الخوارزمية حلولا بسيطة وفعالة لمشاكل التصنيف الثنائي, مع إمكانية تقديم تنبؤات احتمالية تساهم في اتخاذ قرارات مستنيرة. كما تتميز بسهولة تنفيذها وقابليتها للتفسير, مما يجعلها خيارا مثاليا للمبتدئين والممارسين على حد سواء. ورغم مزاياها, إلا أن استخدامها يتطلب التحقق من بعض الافتراضات الأساسية مثل استقلالية البيانات وحجم العينة الكبير لضمان دقة النتائج.

المصادر

1. Logistic Regression in Machine Learning - GeeksforGeeks
2. What Is Logistic Regression? Equation, Assumptions, Types, and Best Practices
3. The 3 Types of Logistic Regression (Including Examples)
4. The 6 Assumptions of Logistic Regression (With Examples)