الامين عبدالله الامين طه¹ مرتضى مالك ادم الحاج²  عاطف معاوية الطيب³

¹ محاضر بالجامعة السعودية الالكترونية.

² استاذ مساعد في تقانة المعلومات جامعة افريقيا العالمية

³ استاذ مساعد شركة أكاديمية الجزيرة العالمية.

HNSJ, 2022, 3(9); https://doi.org/10.53796/hnsj396

Download

تاريخ النشر: 01/09/2022م تاريخ القبول: 10/08/2022م

المستخلص

هدفت الدراسة الى بناء نموذج لاختيار أفضل الميزات المؤثرة للتنبؤ بأفضل دقة بمعدلات هطول الامطار في دولة السودان، لأن بعض النماذج المستخدمة في عملية التنبؤ تم تطويرها باستخدام ميزة وحيدة بحيث لا يتم الأخذ بالميزات الأخرى التي تؤثر في نتائج النموذج، كما لا توجد خوارزمية محددة لاختيار أفضل الميزات تناسب بيانات هطول الامطار للتنبؤ بمعدلها من خلال الدراسات السابقة التي اعتمدت عليها الدراسة. استخدمت الدراسة 10 خوارزميات (importance of random forest, Lasso, Persons Correlation Coefficient, ANOVA, Forward selection, Backward selection, Recursive Feature Elimination, Information gain, Correlation, وImportance Features) لاختيار أفضل الميزات من حيث دقة التنبؤ وتم تجربتها على مجموعة بيانية مكونة من 35 ميزة و216792 سجل وتقييمها باستخدام معيار الدقة من خلال أربع خوارزميات تصنيف. خلصت الدراسة الى أن خوارزمية الاختيار الأمامي المتسلسل هي الأفضل من حيث الدقة بمعدلات دقة 78.6% باستخدام خوارزمية الغابة العشوائية، ثم %77.6 باستخدام خوارزمية أقرب الجيران K، ثم %76.6 باستخدام خوارزمية التعبئة، ثم %73.8 باستخدام خوارزمية شجرة القرار، وتوصي الدراسة بتجربة خوارزميات اختيار ميزات تحقق دقة أعلى في التنبؤ بمعدلات هطول الامطار في داخل وخارج دولة السودان.

الكلمات المفتاحية: اختيار الميزات، الدقة، التنبؤ، التقييم، هطول الامطار.

Research title

Building a model for selecting the influential features using the sequential forward selection algorithm to predict the best accuracy of rainfall rates in Sudan

Alameen abdallah Alameen Taha¹, Murtada Malik Adam Elhaj²,  Atif Muawia Eltaib³

¹ Lecturer at the Saudi Electronic University.

² Assistant Professor of Information Technology, International University of Africa

³ Assistant Professor, Al Jazeera International Academy Company.

HNSJ, 2022, 3(9); https://doi.org/10.53796/hnsj396

Published at 01/09/2022 Accepted at 10/08/2021

Abstract

The study aimed to build a model to choose the best features affecting the best accuracy to predict rainfall rates, because some models used in the forecasting process were developed using a single feature so that other features that affect the model results in terms of accuracy are not considered, and there is no specific algorithm to choose the best The factors fit the rainfall data to predict its rate through previous studies on which the study relied. The study used 10 algorithms (importance of random forest, Lasso, Persons Correlation Coefficient, ANOVA, Forward selection, Backward selection, Recursive Feature Elimination, Information gain, Correlation, and Importance Features) to choose the best features in terms of prediction accuracy and they were tested on a data set consisting of 35 features and 216,792 records and evaluated using an accuracy criterion through four classification algorithms. The study concluded that the sequential forward selection algorithm is the best in terms of accuracy with accuracy rates of 78.6% using the random forest algorithm, then 77.6% using the K-nearest neighbor algorithm, then 76.6% using the Bagging algorithm, then 73.8% using the decision tree algorithm. And the study recommends trying Feature selection algorithms with higher accuracy to predicate rainfall rates inside and outside Sudan.

Key Words: Feature Selection, Accuracy, Prediction, Rain Fall.

مقدمة

عادةً ما تحتوي نماذج التصنيف على عدد كبير من الميزات في البيانات، ولكن ليست جميعها مهمة للتنبؤ [1]يمكن أن يؤدي تحديد مجموعة محددة من الميزات إلى زيادة أداء النموذج بشكل كبير لتنقيب البيانات، وتسهيل فهم النموذج تنقيب البيانات، وجعل النموذج أكثر وضوحًا [2].

1.1 منهجيات اختيار الميزات

منهجيات اختيار الميزات Feature Selection Methodologies تنقسم منهجيات اختيار الميزات إلى خمسة أنواع:

1.1.1 طريقة التصفية

تعتمد طريقة التصفية Filter Method على تقييم أي ميزة بشكل فردي بناءً على نموذج إحصائي، حيث يتم تقييم كل ميزة ثم يتم ترتيب الميزات وفقًا لتقييم الميزات، ثم اختيار الجزء العلوي من الميزات ذات أعلى تقييم ليتم اعتمادها في النموذج النهائي [3]. تتميز طريقة التصفية ببساطتها وسرعة تنفيذها [4].

2.1.1 طريقة التغليف

تعتمد طريقة Wrapper Method على خوارزمية التنبؤ لتحديد مجموعة الميزات التي سيتم استخدامها في تصميم النموذج بناءً على مجموعة الميزات التي تعطي أعلى دقة مع الخوارزمية [5]. تستخدم هذه الطريقة على نطاق واسع وخاصة في التطبيقات التي تهتم بالدقة أكثر من السرعة، بعد كل شيء، فإنه يعطي نتائج أفضل، ولكن الأمر يستغرق وقتًا طويلاً في المعالجة للحصول على أفضل نتيجة [6]. ويمكن أيضًا استخدامه في تطبيقات الوقت الفعلي عندما يكون لدينا عدد قليل من الميزات [7].

الشكل (1) منهجيات اختيار الميزات

3.1.1 الطريقة الهجينة

الطريقة الهجينة Hybrid Method هي تتكون من مرحلتين: الأولى تقييم السمات وترتيبها وفقًا لمعيار معين، والمرحلة الثانية يتم فيها اختيار مجموعة الميزات التي تعطي أفضل نتيجة [8]. تزيل هذه الطريقة الميزات التي لا تزيد من دقة النموذج [9].

4.1.1 الطريقة المضمنة

تعتمد طريقة Embedded Method على خوارزمية تصنيف مثل طريقة التغليف، لكن الارتباط في الطريقة المضمنة أقوى [10]. حيث تكون هذه الطريقة عبارة عن مزيج بين طريقة التصفية وطريقة التغليف، حيث يتم دمج عملية اختيار الميزات في مرحلة تدريب النموذج، ومن هذه العملية يتم إرجاع نتيجة تدريب النموذج ومجموعة الميزات المختارة. دمج عملية الاختيار في مرحلة التدريب النموذجي يحسن أداء النموذج [11].

5.1.1 طريقة المجموعة

تعتمد طريقة المجموعة Ensemble Method على استخدام أكثر من طريقة لاختيار مجموعة من الميزات التي تعطي أفضل أداء، فهذه الطريقة جيدة مقارنة باستخدام طريقة اختيار واحدة لتجنب ضعف الطريقة. لذلك فإن استخدام طريقة ثانية يعطي نتائج أفضل وموثوق بها، بالإضافة إلى أن استخدام عدة طرق يؤدي إلى توليد طريقة أكثر استقرارًا خاصة مع البيانات ذات الأبعاد العالية [12].

الدراسة تم تقسيمها الى سبعة اقسام؛ أولاً: المقدمة حيث تحتوي على مقدمة، المشكلة، حدود البحث، أهداف البحث، منهجية البحث، واجراءات البحث. ثانياً: الدراسات السابقة حيث تشمل 11 دراسة سابقة ومقارنة بينهم. ثالثاً: فكرة ونموذج وتطبيق الحل المقترح. رابعاً: النتائج. خامساً: مناقشة النتائج. سادسا: الخاتمة. وسابعاً: قائمة المصادر والمراجع.

2.1 مشكلة البحث

تتمثل المشكلة في أن بعض النماذج المستخدمة في عملية التنبؤ تم تطويرها باستخدام عامل [14] ، لا يتم الأخذ بالميزات الأخرى التي تؤثر في نتائج النموذج، كما لا توجد خوارزمية محددة لاختيار أفضل الميزات تناسب بيانات هطول الامطار للتنبؤ بمعدلها.

3.1 حدود البحث

الحدود الزمانية لهذا البحث هي الفترة الممتدة من (ديسمبر 2016م وحتى اغسطس 2022م)، وتم جمع البيانات الأولية في شهر مارس وابريل 2017م، الحدود المكانية هي الهيئة العامة للأرصاد الجوية السودانية بدولة السودان.

4.1 أهداف البحث

تشمل اهداف البحث: تحديد الميزات المؤثرة في عملية التنبؤ بمعدلات هطول الامطار، تحديد أفضل الميزات باستخدام أفضل الخوارزميات وبعد مقارنة نتائج الخوارزميات، بناء نموذج لتحديد أفضل الميزات، واختيار أفضل خوارزمية لتحديد الميزات للتنبؤ بأفضل دقة بمعدلات هطول الامطار بالسودان.

5.1 منهجية البحث

المنهجية العلمية المتبعة لإجراء هذا البحث تشمل المنهج التحليلي حيث تم جمع بيانات ومسح الدراسات السابقة وتحليلها وتصنيفها ومن ثم استخلاص الفجوة العلمية لغرض بناء نموذج لتحديد أفضل الميزات للتنبؤ بمعدلات هطول الامطار باستخدام المنهج التجريبي والتطبيقي.

6.1 إجراءات البحث

تهدف الإجراءات الى بناء نموذج يتألف من المراحل التالية: جمع البيانات Data Collection، تجهيز البيانات Data Preparation، تجربة ومقارنة بعض طرق من منهجيات مختلفة لاختيار الميزات وتقييمها من حيث الدقة باستخدام خوارزميات تصنيف للتنبؤ (أقرب الجيران K-Nearest Neighbor ، شجرة القرار Decision Tree، الغابة العشوائية Random Forest ، والتعبئة Bagging )، اختيار أفضل طريقة من حيث الدقة، وتحديد الميزات لأفضل طريقة لغرض استخدامها في التنبؤ بمعدلات هطول الامطار.

الدراسات السابقة

دراسة Nikhil ، (2021) [13] ، بعنوان ” توقع هطول الأمطار باستخدام تقنيات التعلم الآلي”، استعرضت الدراسة مناهج وخوارزميات التعلم الالي للتنبؤ بهطول الأمطار، استخدمت الدراسة مجموعة خوارزميات التعلم الالي (Logistic Regression، Decision Tree، K – Nearest Neighbour، Random Forest، AdaBoost، Gradient Boosting) للتنبؤ بهطول الامطار، واشتملت بيانات الدراسة على متغيرات الطقس اليومية في المدن الكبرى في استراليا، تقدم النتائج مقارنة لمقاييس التقييم المختلفة لتقنيات التعلم الآلي ومدى صلتها بالتنبؤ بهطول الأمطار من خلال تحليل بيانات الطقس.

دراسة Basha واخرون (2020)[14] ، بعنوان ” التنبؤ بهطول الأمطار باستخدام تقنيات التعلم الآلي والتعلم العميق”، في هذه الدراسة تمت مناقشة استخدام منهجية التعلم العميق Deep Learning في التنبؤ بهطول الأمطار باستخدام تعدد الطبقات بمقارنة المعمارية الحالية مع المعماريات السابقة، تمت الإشارة لأهمية قضايا الدقة في التنبؤ نتيجة للعلاقات غير الخطية بين الميزات المختلفة المستخدمة في التنبؤ بمعدلات الأمطار باستخدام خوارزميات الذكاء الاصطناعي المختلفة.

دراسة Poornima واخرون (2019) [15] ، بعنوان “التنبؤ بهطول الأمطار باستخدام شبكة عصبية متكررة قائمة على LSTM مع وحدات خطية مرجحة ” في هذه الدراسة تم اقتراح نموذجًا للتنبؤ بهطول الأمطار باستخدام RNN القائم على تقنية LSTM، تم الدراسة في منطقة حيدر أباد باستخدام مجموعة بيانات هطول الأمطار، تم استخدام الحد الأدنى والأقصى لدرجة الحرارة، وسرعة الرياح، وأشعة الشمس، والرطوبة النسبية الدنيا والقصوى، وميزات التبخر. وبمقارنة أداء نموذج LSTM مقارنة بأساليب RNN وLSTM وELM وHolt-Winters وARIMA تظهر نتيجة هذه الدراسة أن تقنية LSTM تعطي نتائج أفضل مقارنة بالطرق الأخرى المستخدمة في التنبؤ بمعدلات هطول الأمطار.

دراسة kala واخرون (2018) [16]، بعنوان” التنبؤ بهطول الأمطار باستخدام الشبكة العصبية الاصطناعية”، في هذه الدراسة تم تطوير نموذج باستخدام الشبكة العصبية الاصطناعية (ANN) مثل شبكة التغذية العصبية الأمامية (FFNN) للتنبؤ بهطول الأمطار. وبأخذ أربع ميزات في الاعتبار مثل درجة الحرارة والغطاء السحابي وضغط البخار وهطول الأمطار لتحديد هطول الأمطار مسبقًا. تم استخدام جذر متوسط ​​الخطأ التربيعي (RMSE) ومصفوفة الارتباك لقياس دقة التنبؤ. يشير النموذج المقترح المستند إلى ANN إلى دقة مقبولة.

دراسة Tharun واخرون، (2018) [17] ، بعنوان ” التنبؤ بهطول الأمطار باستخدام تقنيات التنقيب في البيانات” هدفت هذه الدراسة الى مقارنة تقنيات الانحدار المختلفة القائمة على الخطأ النسبي، استخدمت هذه الدراسة تقنيات دعم الانحدار المتجه Support Vector Regression (SVR)، الغابة العشوائية Random forest (RF)، شجرة القرار Decision Tree (DT)، اشتملت الدراسة على بيانات الطقس اليومية (درجة الحرارة، سرعة الرياح، اتجاه الرياح) في مدينة كونور لمدة 9 سنوات في الفترة من 2005 وحتى 2014، توصلت الدراسة الى ان نموذج RF أفضل وأكثر كفاءة مقارنة نماذج SVR و DT.

دراسة Aftab واخرون، (2018) [18] ، بعنوان ” التنبؤ بهطول الأمطار في مدينة لاهور باستخدام تقنيات التنقيب عن البيانات”، هدفت هذه الدراسة إلى تحليل أداء تقنيات التنقيب عن البيانات للتنبؤ بهطول الأمطار في مدينة لاهور باستخدام إطار تصنيف، استخدمت هذه الدراسة تقنيات Support Vector Machine (SVM)، Naïve Bayes (NB)، k Nearest Neighbor (KNN) ، Decision Tree (J48)، Multilayer Perceptron (MLP)، اشتملت بيانات البحث التي تم جمعها من مواقع ويب للتنبؤ بالطقس على العديد من سمات الغلاف الجوي (درجة الحرارة، الضغط الجوي على سطح الارض، الضغط الجوي على سطح البحر، ميل الضغط، الرطوبة النسبية، سرعة الرياح، أدنى درجة حرارة، أقصى درجة حرارة، الرؤية، مقياس معدل الرطوبة) في مدينة لاهور لمدة 12 سنة في الفترة من 2005 وحتى 2017، وفقًا للنتائج ، كان أداء تقنيات التصنيف المستخدمة جيدًا بالنسبة لفئة عدم هطول الأمطار ولكن بالنسبة لفئة المطر، لم تعمل التقنيات بشكل جيد، أوصت الدراسة إجراء المزيد من التنبؤات من خلال استكشاف المزيد من تقنيات التصنيف والسمات المناخية على بيانات الطقس المختلفة.

دراسة Kashiwao واخرون، (2017) [19] ، بعنوان “دراسة مبنية على الشبكات العصبية لهطول الأمطار المحلية باستخدام بيانات الإرصاد الجوي الموجودة على الإنترنت، دراسة حالة وكالة الإرصاد الجوي اليابانية”، هدف النظام المقترح إلى استخدام البيانات الموجودة على الإنترنت كـ “بيانات ضخمة” للتنبؤ بهطول الأمطار، استخدمت الدراسة نهجين للتنبؤ Radial Basis Function Network (RBFN)، و Multi-layer Perceptron(MLP) ، وقد اشتملت الدراسة على استخدام ثمانية أنواع من بيانات الأرصاد الجوية في اليابان )الضغط الجوي في الموقع، الضغط الجوي على سطح البحر، التساقط، درجة الحرارة ، درجة حرارة الهواء الطلق، ضغط البخار، الرطوبة، سرعة الرياح) في الفترة من 2000 وحتى 2012، توصلت نتائج الدراسة ان نهج (MLP) افضل في التنبؤ بهطول الامطار، تمت مقارنة نتائج التنبؤ مع نتائج وكالة الأرصاد الجوية اليابانية وأن الطريقة المقترحة تفوقت على تنبؤات وكالة الأرصاد الجوية اليابانية.

دراسة Qiu واخرون، (2017) [20] ، بعنوان ” نموذج التنبؤ بهطول الأمطار على المدى القصير باستخدام الشبكات العصبية التلافيفية متعددة المهام”، اقترحت الدراسة نموذج الشبكة العصبية الالتفافية متعددة المهام للتنبؤ بهطول الأمطار، استخدمت الدراسة تقنيات التعلم متعدد المهام والتعلم العميق Multi-Task Convolutional Neural Networks (MT-CNN) للتنبؤ بكمية هطول الأمطار على المدى القصير، وقد اشتملت الدراسة على ثمانية أنواع من متغيرات الطقس بناءً على ميزات متعددة المواقع (حالة المطر، ارتفاع المرصد، سرعة الرياح، اتجاه الرياح، درجة الندى، درجة الحرارة، الضغط الجوي، الرطوبة)، في الفترة من 2002 وحتى 2015، أظهرت النتائج أن النموذج المقترح يتفوق بشكل كبير على مجموعة واسعة من النماذج الأساسية بما في ذلك نظام المركز الأوروبي للتنبؤات الجوية (ECMWF).

دراسة Rasel واخرون، (2017) [21] ، بعنوان ” تطبيق التنقيب في البيانات والتعلم الآلي للتنبؤ بالطقس”، هدفت الدراسة الى مراقبة أداء التنبؤ بالطقس لمختلف تقنيات التعلم الآلي واستخراج البيانات واقتراح نموذج للتنبؤ بالطقس بدقة عالية، واستخدمت الدراسة تقنيات Support Vector Regression (SVR) و Artificial Neural Network (ANN) لاستخراج البيانات، اشتملت بيانات الدراسة على نوعين من بيانات الطقس (هطول الامطار ودرجة الحرارة ) لمدة ستة سنوات من منطقة العاصمة شيتاغونغ من إدارة الأرصاد الجوية في بنغلاديش، اظهرت نتائج هذه الدراسة أظهرت نتائج SVR أفضل للتنبؤ بهطول الأمطار، وأن ANN اظهرت نتائج افضل للتنبؤ بدرجة الحرارة.

الجدول رقم (1) يظهر مقارنة بين الدراسات السابقة حول التنبؤ بهطول الامطار والدراسة الحالية

الجدول رقم (1) يظهر مقارنة بين الدراسات السابقة حول التنبؤ بهطول الامطار والدراسة الحالية

Authors	Region	Dataset	Features	Measure
Nikhil et al. (2021) [13]	Australian	–	Date, Location, Min Temp, Max Temp, Rainfall, Evaporation, Sunshine, Wind Gust Direction, Wind Gust Speed, Wind Dir 9 am, Wind Dir 3 pm, Wind Speed 9 am, Wind Speed 3 pm, Humidity 9 am, Humidity 3 pm, Pressure 9 am, Pressure 3 pm, Cloud 9 am, Cloud 3 pm, Temp 9 am, Temp 3 pm, Rain Today, RISK, Rain Tomorrow	Accuracy, Precision, Recall, F1score, AUC
Basha et al. (2020) [14]	India	–	Rainfall	MSE, RMSE
Poornima et al. (2019) [15]	Hyderabad	1980-2014	Max and Min Temperature, Wind Speed, Sunshine, Minimum and Maximum Relative Humidity, Evapotranspiration, Rainfall	Accuracy, RMSE, loss, LR: Learning rate of network, No. of epochs
Tharun et al. (2018) [17]	Coonoor-India	2005-2014	daily Temperature, daily humidity, daily cloud speed, daily windspeed, daily wind direction	R-square, adjusted R-square
Aftab et al. (2018) [18]	Lahore	2005-2017	Temperature, Atmospheric Pressure (weather station), Atmospheric Pressure (sea level), Pressure Tendency, Relative Humidity, Mean Wind Speed, Minimum Temperature, Maximum Temperature, Visibility, Dew Point Temperature	Precision, recall, f-measure
Kashiwao et al. (2017) [19]	Japan	2000-2012	Temperature, Humidity, Atmospheric Pressure, Amount of Precipitation, Vapor Pressure and Wind Velocity	Total hit rate, Hit rate of precipitation and Hit rate of non precipitation, Overlooking rate, Swing and miss rate, Caching rate, Confusion Matrix
Qiu et al. (2017) [20]	China	2002-2015	Rain condition, Observatory height, Wind speed, Wind direction, Dew point, Temperature, Air pressure, Humidity	MSE, MSE, Correlation, CSI: Critical Success Index
Rasel et al. (2017) [21]	Chittagong Bangladesh	6-years	Rainfall, Temperature	RMSE, MAE

الحل المقترح

هذا القسم يشمل ثلاث مواضيع؛ فكرة الحل المقترح، ونموذج الحل المقترح العام التي توضح خطوات الحل وفقا للفكرة، ثم تطبيق الحل المقترح وفقا للنموذج.

1.3 فكرة الحل المقترح

الحل المقترح هو بناء نموذج لتحديد افضل الميزات لاستخدامها في عملية التنبؤ بمعدلات هطول الامطار، ويتألف النموذج من عدة خطوات، أولا تحديد الهدف وتشمل تحديد مصدر البيانات وتحديد الطرق التي تستخدم لاختيار الميزات، ثانيا جمع البيانات، ثالثا تجهيز البيانات لتناسب الطرق التي تم تحديدها في الخطوة الأولى، رابعا تحديد خوارزميات التقييم للطرق حسب الدقة، خامسا تجربة كل طريقة و تقييمها بواسطة خوارزميات التقييم حسب الدقة، سادسا اختيار افضل الطرق اعتمادا على نتائج التقييم في الخطوة السابقة، و أخيرا تحديد أفضل الميزات حسب افضل طريقة تم اختيارها في الخطوة السابقة.

2.3 نموذج الحل المقترح

يوضح الشكل رقم (1) خطوات الحل المقترح في النموذج بدءًا من تحديد الاهداف ثم جمع البيانات من المستودع عبر الإنترنت، حتى الخطوة السابعة والأخيرة وهو اختيار أفضل الميزات.

الخطوة الأولى هي تحديد الاهداف و تشمل تحديد مصدر البيانات وطرق اختيار الميزات، الخطوة الثانية هي جمع البيانات من مصادرها، الخطوة الثالثة هي تجهيز البيانات واختيار الميزات حيث تحتوي على عدة عمليات وأهمها التحويل، الخطوة الرابعة هي تحديد خوارزميات التقييم للطرق وهي 4 خوارزميات، الخطوة الخامسة هي تجربة كل طريقة وتقييمها من خلال خوارزميات التقييم حسب معيار الدقة، والخطوة السادسة هي اختيار أفضل طريقة حسب نتيجة التقييم، الخطوة السابعة والأخيرة هي تحديد أفضل الميزات المؤثرة في التنبؤ بمعدلات هطول الامطار.

• 1. الشكل (1) نموذج الحل المقترح العام

يتم التقييم باستخدام معيار الدقة في خوارزميات التقييم وهي خوارزميات/نماذج تصنيف تُستخدم المعادلة التالية لقياس دقة طرق اختيار الميزات/الميزات Accuracy [22] و [23]:

دقة التصنيف Accuracy هي عدد العينات التي صنفت بشكل صحيح إلى العدد الكلي للعينات.

المعادلة (1)

تطبيق الحل المقترح

تم استخدام لغات وبرامج لتجهيز البيانات وهي لغة Python من خلال محرر Jupyter Notebooks لتنفيذ التعليمات البرمجية في برنامج ِAnaconda Navigator V2.1.4، والذي يستخدم مكتبات pandas، وNumPy، وScikit-learn Python library. وتم التنفيذ على جهاز حاسوب محمول Laptop شركة لينوفو بذاكرة 4 جيجابايت، ومعالج انتل Corei5-8250U 1.60 قيقا هيرتز، ونوع النظام 64 بت، ونظام تشغيل ويندوز 10 برو نسخة 21H2. وتطبيق الخطوات في النموذج السابق:

الخطوة الأولى: تحديد الاهداف

تم تحديد مصدر بيانات هطول الامطار في السودان وهو من مستودع بيانات وكالة ناسا الفضائية عبر الإنترنت /https://power.larc.nasa.gov/data-access-viewer .

تم تحديد طرق او خوارزميات اختيار الميزات التالية لتوفرها وسهولة تطبيقها و مناسبتها مع نوعية بيانات هطول الامطار و هي حوالي 10 طرق وهي: importance of random forest classifier, Lasso, Persons Correlation Coefficient, ANOVA , Forward selection, Backward selection, Recursive Feature Elimination, ، Information gain، Correlation، و Importance Features.

الخطوة الثانية: جمع البيانات

تم تنزيل مجموعة البيانات من المصدر المحدد مسبقا وتتضمن 216.972 سجلاً و35 ميزة والتي تمثل البيانات اليومية لعناصر الأرصاد الجوي في الفترة من يناير 2000م وحتى ديسمبر 2021م لــ 27 محطة إرصاد جوية على مستوى دولة السودان، وموضح في الشكل رقم (2).

شكل (2) لقطة من شاشة البيانات الاولية

الخطوة الثالثة: تجهيز البيانات

سيتم إعداد البيانات التي تم جمعها للتحليل بواسطة خوارزميات التعلم الآلي بحيث تصبح البيانات صالحة في الشكل والسياق الصحيحين. يوضح الشكل رقم (2) تنسيق البيانات قبل عملية التحويل، حيث يتم تحويل البيانات إلى تنسيق رقمي ليتم التعامل معها بواسطة خوارزميات التعلم الآلي كما موضح في الشكل رقم (4).

يوضح الشكل رقم (3) أعلاه معلومات حول البيانات، بما في ذلك نوع بنية البيانات، إطار البيانات (Data Frame)، كما يعرض أيضًا الميزات وأطوالها وعددها ونوع البيانات في كل ميزة بالإضافة إلى عدد السجلات وما إذا كانت هناك قيم مفقودة في البيانات.

وتجرى عدة نشاطات مثل: التحويل في الشكل رقم (4)، وأيضا تبين أنه لا توجد قيم مفقودة كما موضح في الشكل رقم (5)، وفي حذف القيم المكررة تبين أنه لا توجد قيم مكررة موضحة في الشكل رقم (6)، وفي إزالة القيم المتطرفة وتطبيع البيانات موضحة في الشكل رقم (7)، تحويل البيانات الى فئات موضح في الشكل رقم (8)، وترميز البيانات الفئوية موضح في الشكل رقم (9)، حيث يتم الاحتياج للفئات لغرض استخدامها في خوارزميات التصنيف لتقييم طريقة اختيار الميزات، وموازنة الفئات في الشكل رقم (10).

الخطوة الرابعة: تحديد خوارزميات تقييم طرق اختيار الميزات

تم تحديد أربع خوارزميات لتقييم طرق او خوارزميات اختيار الميزات وهي خوارزميات تصنيف للتنبؤ بمعدلات هطول الامطار كفئة من ضمن الفئات وهي: أقرب الجيران K-Nearest Neighbor (KNN)، شجرة القرار Decision Tree (DT)، الغابة العشوائية Random Forest (RF)، والتعبئة Bagging (B).

تم اختيار هذه الخوارزميات نسبة لسرعتها في التدريب والاختبار لتقييم طرق اخيار الميزات من حيث معيار الدقة.

الخطوة الخامسة: تجربة طرق اختيار الميزات وتقييمها حسب الدقة

تم تجربة طرق اختيار الميزات في الخطوة الأولى، وكل طريقة حددت عدد من الميزات، ولاختبار مستوى الدقة لهذه الميزات لكل طريقة تم تقييمها باستخدام خوارزميات التقييم (تصنيف حسب الفئات) في الخطوة السابقة من خلال معيار الدقة للتقييم للتنبؤ بمعدلات هطول المطار، ونتائج هذه التجربة موضحة في الجدول رقم (2).

الشكل (3) ملخص البيانات عن كل الميزات

الشكل (4) البيانات بعد عملية التحويل

الشكل (5) عدد القيم المفقودة لبعض الميزات في المجموعة البيانية

الشكل (6) التحقق من وجود السجلات المتكررة في المجموعة البيانية

الشكل (7) تحجيم البيانات وتطبيعها ومسح القيم المتطرفة في المجموعة البيانية

الشكل (8) تحويل البيانات الى 12 فئة

الشكل (9) يوضح ترميز فئات البيانات وعدد عناصرها

الشكل (10) يوضح موازنة الفئات

الجدول رقم (2) نتائج تجربة وتقييم طرق اختيار الميزات من حيث الدقة

Method	No of Features	No & Selected Features	KNN	DT	RF	B
Forward selection (Supervised)	12	‘station’, ‘YEAR’,’MO’,’DY’,’CLRSKY_SFC_SW_DWN’, ‘ALLSKY_SFC_LW_DWN’, ‘ALLSKY_SFC_UVA’,’WS2M’,’T2MWET’,’T2M_MIN’,’RH2M’,’PS’	77.6	73.8	78.6	76.7
Information gain (Supervised)	14	‘MO’, ‘CLRSKY_SFC_SW_DWN’, ‘ALLSKY_KT’, ‘ALLSKY_SFC_LW_DWN’, ‘T2M’,’T2MDEW’, ‘T2MWET’, ‘T2M_RANGE’, ‘T2M_MAX’, ‘T2M_MIN’, ‘QV2M’, ‘RH2M’,’PS’, ‘WD10M’]	73.8	73.1	76.5	75.5
Pearson Correlation Coefficient (Unsupervised)	17	‘ALLSKY_SFC_LW_DWN’,’ALLSKY_SFC_PAR_TOT’,’ALLSKY_SFC_UVA’,’ALLSKY_SFC_UVB’,’CLRSKY_SFC_SW_DWN’,’QV2M’,’RH2M’,’T2MWET’, ‘T2M_MAX’,’T2M_MIN’,’TS’,’WD50M’, ‘WS10M_MAX’,’WS10M_MIN’,’WS50M’,’WS50M_MAX’,’WS50M_MIN’	72.6	70.5	76.3	74.6
Correlation (Unsupervised)	16	‘ALLSKY_SFC_LW_DWN’, ‘ALLSKY_SFC_PAR_TOT’, ‘ALLSKY_SFC_UVA’, ‘ALLSKY_SFC_UVB’,’QV2M’, ‘RH2M’,’T2M_MAX’,’T2M_MI’,’TS’,’WD50M’,’WS10M_MAX’,’WS10M_MIN’,’WS50M’,’WS50M_MAX’,’WS50M_MIN’	72.2	70.3	76.1	74.3
Importance of Random Forest (Unsupervised)	12	‘ALLSKY_KT’, ‘ALLSKY_SFC_LW_DWN’, ‘T2M’, ‘T2MDEW’,’T2MWET’, ‘TS’,’T2M_RANGE’, ‘T2M_MAX’, ‘T2M_MIN’, ‘QV2M’, ‘RH2M’, ‘PS’	72.8	72.7	75.8	75.1
Backward Selection (Supervised)	12	ALLSKY_SFC_SW_DWN’, ‘CLRSKY_SFC_SW_DWN’, ‘ALLSKY_SFC_LW_DWN’, ‘ALLSKY_SFC_PAR_TOT’, ‘T2MDEW’,’T2MWET’,’T2M_RANGE’,’QV2M’,’RH2M’,’PS’,’WS10M’,’WS50M’	73	71	75.8	74.3
Recursive Feature Elimination (Supervised)	11	‘ALLSKY_SFC_LW_DWN’, ‘CLRSKY_SFC_PAR_TOT’, ‘T2M’, ‘T2MDEW’, ‘T2MWET’,’TS’, ‘T2M_RANGE’, ‘T2M_MAX’, ‘T2M_MIN’, ‘QV2M’RH2M’, ‘PS’	72.8	71	75.5	74.3
Feature Importance (Supervised)	12	‘QV2M’, ‘RH2M’,’T2MDEW’, ‘T2MWET’,’T2M_MAX’,’T2M’,’PS’,’T2M_RANGE’,’T2M_MIN’, ‘MO’,’TS’,’WD10M’	73.5	72.2	75.5	74.8
ANOVA (Supervised)	12	‘ALLSKY_SFC_LW_DWN’,’ALLSKY_SFC_UVB’,’T2MWET’,’TS’,’QV2M’,’RH2M’,’WS10M’,’WS10M_MAX’,’WS10M_MIN’,’WD10M’,’WS50M_RANGE’,’WD50M’	71.6	69.7	75.3	73.8
Lasso (Unsupervised)	7	[‘T2MWET’, ‘ALLSKY_SFC_UVA’, ‘CLRSKY_SFC_PAR_TOT’, ‘ALLSKY_SFC_UV_INDEX’,’WD50M’,’T2MDEW’,’RH2M’]	69.7	68.6	73.1	71.8

الخطوة السادسة: اختيار أفضل طريقة حسب نتيجة التقييم بمعيار الدقة

حسب الجدول رقم (2) اتضح بأن أفضل خوارزمية هي خوارزمية التسلسل الأمامي Forward selection، وهي أحرزت حسب التجارب أعلى معدلات دقة في كل خوارزميات التقييم (التصنيف).

الخطوة السابعة: تحديد أفضل الميزات المؤثرة في التنبؤ بمعدلات هطول الأمطار حسب الدقة

وفقا للجدول رقم (2)، تبين أن أفضل الميزات عددها 12 عامل وهي:

‘station’, ‘YEAR’,’MO’,’DY’,’CLRSKY_SFC_SW_DWN’, ‘ALLSKY_SFC_LW_DWN’, ‘ALLSKY_SFC_UVA’,’WS2M’,’T2MWET’,’T2M_MIN’,’RH2M’,’PS’.

الجدول رقم (3) معاني الميزات المستخدمة في التنبؤ بمعدلات هطول الأمطار

المعنى	كود الميزة
اسم المحطة	Station
العام	YEAR
الشهر	MO
اليوم	DY
كل اشعاع الموجات القصيرة الهابطة من سطح السماء	ALLSKY_SFC_SW_DWN
اشعاع الموجات القصيرة الصافي الهابطة من سطح السماء	CLRSKY_SFC_SW_DWN
كل مؤشر صفاء تشمس السماء	ALLSKY_KT
كل اشعاع الموجات الطويلة الهابطة من سطح السماء	ALLSKY_SFC_LW_DWN
مجموع كل الـ PAR من سطح السماء	ALLSKY_SFC_PAR_TOT
مجموع الـ PAR الصافي من سطح السماء	CLRSKY_SFC_PAR_TOT
كل اشعاع UVA من سطح السماء	ALLSKY_SFC_UVA
كل اشعاع UVB من سطح السماء	ALLSKY_SFC_UVB
كل مؤشر UV من سطح السماء	ALLSKY_SFC_UV_INDEX
سرعة الرياح عند 2 متر	WS2M
درجة الحرارة عند 2 متر	T2M
درجة الندى / الصقيع عند 2 متر	T2MDEW
درجة حرارة المصباح المبتل عند 2 متر	T2MWET
درجة حرارة سطح الارض	TS
درجة الحرار عند مدى 2 متر	T2M_RANGE
درجة الحرار عند 2 متر كحد أقصى	T2M_MAX
درجة الحرارة عند 2 متر كحد أدنى	T2M_MIN
الرطوبة النوعية عند 2متر	QV2M
الرطوبة النسبية عند 2 متر	RH2M
معدل هطول الامطار الحقيقي	PRECTOTCORR
ضغط السطح	PS
سرعة الرياح عند 10 متر	WS10M
سرعة الرياح عند 10 متر كحد أعلى	WS10M_MAX
سرعة الرياح عند 10 متر كحد أدنى	WS10M_MIN
سرعة الرياح عند مدى 10 متر	WS10M_RANGE
اتجاه الرياح عند 10 متر	WD10M
سرعة الرياح عند 50 متر	WS50M
سرعة الرياح عند 50 متر كحد أعلى	WS50M_MAX
سرعة الرياح عند 50 متر كحد أدنى	WS50M_MIN
سرعة الرياح عند مدى 50 متر	WS50M_RANGE
اتجاه الرياح عند 50 متر	WD50M

النتائج

1. تم بناء نموذج لاختيار أفضل ميزات للتنبؤ بمعدلات هطول الامطار من حيث الدقة.
2. تبين من التجارب لـ 10 خوارزميات من منهجيات مختلفة أن أفضل خوارزمية من حيث الدقة لاختيار الميزات هي خوارزمية الاختيار الأمامي المتسلسل Forward selection من منهجية الـ Wrapper.
3. أعلى معدلات دقة تم الوصول اليها لخوارزمية الاختيار الأمامي المتسلسل من خلال خوارزميات التقييم(التصنيف) المستخدمة هي 78.6% باستخدام خوارزمية الغابة العشوائية (Random Forest)، ثم %77.6 باستخدام خوارزمية أقرب الجيران (KNN)، ثم %76.6 باستخدام خوارزمية التعبئة (Bagging)، ثم %73.8 باستخدام خوارزمية شجرة القرار (Decision Tree).
4. تم تحديد أفضل الميزات من خلال تحقيقها لأفضل معدل دقة في التنبؤ بمعدلات هطول الامطار، وعددها 12 وهي (Station YEAR, MO, DY, CLRSKY_SFC_SW_DWN, ALLSKY_SFC_LW_DWN,ALLSKY_SFC_UVA,WS2M,T2MWET,T2M_MIN,RH2M,PS)، ومعاني الميزات موضح في الجدول رقم (3).

مناقشة النتائج

تم بناء نموذج يتعامل مع عدة ميزات من بيانات هطول الامطار التي تم جمعها، وتجهيزها، ثم تحديد عدد 10 خوارزميات لتجربتها على هذه الميزات لاختيار أفضلها من خلال استخدام أفضل الميزات لقياس معدل الدقة باستخدام خوارزميات التصنيف.

خوارزمية الاختيار الأمامي المتسلسل Forward selection من منهجية الـ Wrapper تم استخدامها وتم اختيار 12 ميزة باعتبارها حققت أعلى دقة وعند اختيار 11 أو 13 ميزة قلت الدقة لأنها خوارزمية تحت الاشراف Supervised وكذلك الخوارزميات الأخرى تحت الاشراف التي جربت، كما يوجد بعض الخوارزميات غير الخاضعة للأشرف Unsupervised وموضحة في الجدول رقم (2). وتم تقييمها بمعيار الدقة Accuracy من خلال أربع خوارزميات تصنيف (أقرب الجيران K-Nearest Neighbor (KNN)، شجرة القرارDecision Tree (DT)، الغابة العشوائية Random Forest (RF)، والتعبئة Bagging (B))، وأحرزت اعلى معدلات دقة. الخوارزمية التي تليها لاختيار الميزات هي Information gain، ثم خوارزمية Correlation persons، وكلاهما من منهجية التصفية Filtering. والخوارزمية التي أحرزت أقل معدلات دقة هي خوارزمية Lasso وهي من المنهجية المضمنة Embedded. والجدول رقم (2) يوضح خوارزميات اختيار الميزات المجربة بالترتيب التنازلي حسب معدل الدقة لكل خوارزمية تقييم (تصنيف).

تم تحديد الميزات التي تحقق اعلى معدل دقة في التنبؤ بمعدلات هطول الأمطار وعددها 12 ميزة: (Station YEAR, MO, DY, CLRSKY_SFC_SW_DWN,

LLSKY_SFC_LW_DWN,ALLSKY_SFC_UVA,WS2M,T2MWET,T2M_MIN,RH2M,PS)، ومعاني الميزات موضح في الجدول رقم (3)، وهذه الميزات تم تحديدها من خلال خوارزمية الاختيار الأمامي المتسلسل Forward selection وهي تعتبر أنسب وأدق خوارزمية من بين عشرة خوارزميات من خلال التجارب.

الخاتمة

تم بناء نموذج لتحديد أفضل الميزات المؤثرة في التنبؤ بمعدلات هطول الامطار في السودان وهذه الميزات تم تحديدها من خلال خوارزمية الاختيار الأمامي المتسلسل Forward selection وهي تعتبر أنسب وأدق خوارزمية من بين عشرة خوارزميات من خلال التجارب ، حيث خرجت الدراسة بعدة توصيات؛ وهي بناء نموذج يستوعب عدة ميزات او ميزات في البيئة التي تطرأ، تطوير النموذج بحيث يعمل في مناطق مختلفة غير دولة السودان بدقة أو أكثر دقة، التحقق المستمر عن نقاط ضعف خوارزميات اختيار الميزات وتحديثها حسب الطلب، في المستقبل تجربة طرق أخرى أحدث تحقق أعلى دقة. تميزت هذه الدراسة ببناء نموذج لتحديد أفضل الميزات المؤثرة في التنبؤ بمعدلات هطول الامطار في دولة السودان باختيارها من أفضل خوارزمية اختيار ميزات بعد تجربة 10 خوارزميات باستخدام معيار الدقة في التقييم وباستخدام 4 خوارزميات تقييم.

قائمة المصادر والمراجع

X. B, Z. M, M. S and N. B. W, “Particle Swarm Optimization for Feature Selection in Classification : A Multi-Objective Approach,” IEEE Explore, vol. 43, pp. 1656 – 1671, 13 12 2012.

A. S. M and L. J, “Feature selection based on mutual information for machine learning prediction of petroleum reservoir properties,” International Conference on IT in Asia (CITA), pp. 2-7, 4 5 2015.

C. R and K. U. A, “A novel filter feature selection method using rough set for short text data,” Journal Pre-proofs, Vols. 16,1, 2020.

H. E, X. B and Z. M, “Differential evolution for filter feature selection based on information theory and feature ranking,” Knowledge-Based Systems, vol. 140, pp. 103-119, 2018.

M. K. M, M. I. M and M. K, “A new wrapper feature selection approach using neural network,” Neurocomputing, vol. 73, pp. 3273-3283, 2010.

V. F. Rodriguez-Galiano, J. A. Luque-Espinar, M. Chica-Olmo and M. P. Mendes , “Feature selection approaches for predictive modelling of groundwater nitrate pollution: An evaluation of filters, embedded and wrapper methods,” Science of the Total Environment, vol. 624, pp. 661-672, 2018.

G. Jesús , O. Julio , D. Miguel , M.-S. Pedro and Q. G. John , “A new multi-objective wrapper method for feature selection – Accuracy and stability analysis for BCI,” Neurocomputing, 2019.

J. D and S. V, ““Feature selection and classification systems for chronic disease prediction: A review,” Egyptian Informatics Journal, vol. 19, pp. 189-189, 2018.

P. Jamshid , A. Mohsen, E. A. Tahereh and . H. O. Mohammad, “An Efficient hybrid filter-wrapper metaheuristic-based gene selection method for high dimensional datasets,” scientific Reports, pp. 10-15, 2019.

L. S. H, M. Z. Member, Q. I and L. G, “An Embedded Feature Selection Method for Imbalanced Data Classification,” IEEE/CAA JOURNAL OF AUTOMATICA SINICA, pp. 1-13, 2019.

L. Meng, “Embedded feature selection accounting for unknown data heterogeneity,” Expert Systems With Applications, vol. 119, pp. 350 – 361, 2018.

. B.-C. V and A.-B. A, “Ensembles for feature selection: A review and future trends,” Information Fusion, vol. 52, pp. 1 – 12, 2018.

Nikhil Oswal, “Predicting Rainfall using Machine Learning Techniques,” TechRxiv, 2021.

C. Z. Basha, N. Bhavana, B. Ponduru and V. Sowmya , “Rainfall Prediction Using Machine Learning & Deep Learning Techniques,” in Proceedings of the International Conference on Electronics and Sustainable Communication Systems (ICESC 2020), 2020.

S. Poornima and M. Pushpalatha, “Prediction of Rainfall Using Intensified LSTM Based Recurrent Neural Network with Weighted Linear Units,” Atmosphere, vol. 10, no. 11, pp. 1-18, 2019.

A. Kala and S. G. Vaidyanathan, “Prediction of Rainfall Using Artificial Neural Network,” in International Conference on Inventive Research in Computing Applications (ICIRCA), Coimbatore,India, 2018.

V. Tharun, P. Ramya and S. R. Devi, “Prediction of Rainfall Using Data Mining Techniques,” in Proceedings of the 2nd International Conference on Inventive Communication and Computational Technologies (ICICCT 2018), 2018.

S. Aftab, M. Ahmad, N. Hameed, M. S. Bashir, I. Ali and Z. Nawaz, “Rainfall Prediction in Lahore City using Data Mining Techniques,” International Journal of Advanced Computer Science and Applications (IJACSA), vol. 9, no. 4, 2018.

T. Kashiwao, K. Nakayama, S. Ando and K. L. Ikeda, “A neural network-based local rainfall prediction sys-tem using meteorological data on the Internet: A case study using data from the Japan Meteorological Agency,” in Applied Soft Computing, 2017.

M. Qiu , P. Zhao, K. Zhang, J. Huang and X. Shi, “A short-term rainfall prediction model using multitask convolutional neural networks,” in 2017 IEEE International Conference on Data Mining, 2017.

R. I. Rasel, N. Sultana and P. Meesad, “An Application of Data Mining and Machine Learning for Weather Forecasting,” 2017.

A. K. V, Classification Of Diabetes Disease Using Support Vector Machine, vol. 3, 2013, pp. 1797-1801.

N.-A. N and M. R, “Comparison of Classifiers for the Risk of Diabetes Prediction,” Procedia Computer Science, vol. 69, pp. 132-142, 2015.