Cost-sensitive deep learning-based credit rating: Providing an optimal weighted combination framework of heterogeneous algorithms
Subject Areas : Economic
Mahdi farzi
1
,
yaghub pourkarim
2
,
Seyedali Paytakhti oskoii
3
,
Mahdi zeynali
4
,
Rasoul Baradaran Hassanzadeh
5
1 - Department of Accounting, Ta.c, Islamic Azad University, Tabriz, Iran
2 - Islamic Azad University / Tabriz Branch / Management, Economics and Accounting / Accounting
3 - Department of Economics, Tabriz Branch, Islamic Azad University, Tabriz, Iran
4 - Department of Accounting, Tabriz Branch, Islamic Azad University, Tabriz, Iran
5 -
Keywords: Credit Scoring , Deep learning , LSTM network , Ensemble learning , Genetic algorithm , Financial stability.,
Abstract :
Credit scoring is a process employed by lenders, such as banks or credit card companies, to evaluate the ability of individuals or businesses to repay loans. This assessment is conducted by examining factors such as payment history, credit utilization, length of credit history, and types of credit used. A variety of models have been developed for credit scoring, utilizing complex algorithms to calculate credit scores. In recent years, the use of deep learning in this domain has seen significant growth due to its high accuracy and capability to analyze complex data. The LSTM deep neural network, benefiting from a forget gate and long-term memory, offers superior performance compared to other similar neural networks. This research proposes an integrated deep learning model for credit scoring of bank customers, designed based on ensemble learning and simultaneous optimization of parameters and feature selection using a genetic algorithm (GA). The key innovation of this model is the independent combination of four algorithms—AdaBoost, Bagging, Random Forest, and LSTM—and the integration of their outputs through an optimized linear weighted combination. This approach, by leveraging the strengths of each algorithm and optimizing hyperparameters and features, significantly enhances prediction accuracy. The proposed model was evaluated on three standard datasets from Iran, Australia, and Germany. The results demonstrated substantial improvements in metrics such as accuracy (ACC), precision, recall, F1 score, and reduction in classification error (MC). Specifically, for the Iranian dataset, the accuracy reached 0.934, reducing the classification error to 6.6%. For the Australian and German datasets, the accuracies were 0.902 and 0.843, respectively, showing notable superiority over previous models from 2023 to 2025. These findings confirm the high potential of the proposed model in improving credit decision-making, reducing the risk of default, and enhancing the financial stability of banks.
منابع
- ابتیاع، مجید و همکاران. (1400). رتبه بندی اعتباری مشتریان بانک به کمک روش جدید گروهی بر پایه ماشین بردار پشتیبان: مطالعه موردی بانک پاسارگاد، محاسبات نرم، دوره 10(2)، 2-15.
- اخباری، مهدیه؛ مخاطبرفیعی، فریماه. (1389). كاربرد سيستمهاي استدلال عصبي ـ فازي در رتبهبندی اعتباری مشتریان حقوقی بانکها، مجله تحقیقات اقتصادی، شماره 92، پاییز 89، صص. 21-1.
- اسراری، مصطفی. (1392). مقايسه کارايي مدلهاي شبکه عصبي، الگوريتم ژنتيک و لاجيت در ارزيابي ريسک اعتباري مشتريان حقيقي: مطالعه موردي در بانک کشاورزي، پایاننامه کارشناسی ارشد، رشته MBA، گرایش مالی، دانشگاه علوم اقتصادی.
- پاکبین، پرستو؛ پویانفر، احمد. (1397). رتبهبندی اعتباری مشتریان بانک با تکنیک طبقهبندی ترکیبی پویا و احتمال نرم (مطالعه موردی: بانک پاسارگاد)، پایاننامه کارشناسی ارشد، رشته مهندسی مالی و مدیریت ریسک، دانشگاه خاتم.
- جیحونیپور، مهرداد؛ اعظمی، سمیه؛ دلانگیزان، سهراب. (1403). مدلسازی و شناسایی روابط علی بین عوامل اصلی ریسک اعتباری در سیستم بانکی با استفاده از تکنیک تصمیم گیری دیمتل، نشریه: سیاست گذاری اقتصادی، 17(33)، 180-211.
- حسامی، علی. (1398). امتیازدهی اعتباری مشتریان حقیقی بانکی با استفاده از روش یادگیری عمیق مورد مطالعه: مشتریان اعتباری یکی از بانکهای ایرانی، پایاننامه کارشناسی ارشد، مهندسی صنایع ـ سیستمهای مالی، دانشگاه اراک.
- خانجانی، محسن و همکاران. (1402). رتبه بندی اعتباری مشتریان حقوقی با استفاده از روشهای یادگیری ماشین و یادگیری عمیق، اولین کنفرانس بین المللی توانمندی مدیریت، مهندسی صنایع، حسابداری و اقتصاد.
- دادمحمدی، دانیال؛ احمدی، عباس. (1393). رتبهبندی اعتباری مشتریان بانک با استفاده از شبکه عصبی با اتصالات جانبی، فصلنامه توسعه مدیریت پولی و بانکی، سال دوم، شماره 3، تابستان 1393.
- کوچهباغی، سمیرا؛ رجبیبهجت، امیر. (1396). انتخاب زیرمجموعهای از ویژگیها مبتنی بر الگوریتم جستجوی گرانشی باینری برای رتبهبندی اعتباری مشتریان بانکی با استفاده از ترکیب الگوریتمهای طبقهبندی، پایاننامه کارشناسی ارشد، دانشگاه آزاد اسلامی، واحد بندرعباس.
- گلمحمدی، نسرین. (1395). رتبهبندي اعتباري مشتریان بانک با استفاده از الگوریتم فراابتکاري(ژنتیک) (مورد مطالعه: مشتریان حقیقی بانک مسکن ـ شعب منطقه غرب تهران)، پایاننامه کارشناسی ارشد، مرکز آموزش عالی رجاء، دانشکده مهندسی صنایع.
- مهدوی، کاوه؛ حری، محمدصادق. (1394). طراحی مدلی جهت پیش بینی رتبه اعتباری مشتریان بانکها با استفاده از الگوریتم فراابتکاری و هیبریدی چند معیاره شبکه عصبی فازی – کلونی مورچگان ( مطالعه موردی شعب پست بانک استان تهران)، پژوهشهای مدیریت در ایران، دوره 19، شماره 1، 91-116.
- ندری، کامران؛ محرابی، لیلا. (1397). بررسی انواع ریسک و مدیریت ریسک در نظام بانکداري اسلامی، توسعه راهبرد، 54(14)، 160-181.
- نظرآقایی، مهدی. (1398). دسته بندی ریسک اعتباری مشتریان حقیقی با استفاده از یادگیری جمعی (مطالعه موردی بانک سپه)، پژوهشهای پولی ـ بانکی، شماره 39، 129-166.
- Abdou, H. A., Mitra, S., Fry, J., & Elamer, A. A. (2019). Would two-stage scoring models alleviate bank exposure to bad debt?. Expert Systems with Applications, 128, 1-13.
- Abellán, J., & Mantas, C. J. (2014). Improving experimental studies about ensembles of classifiers for bankruptcy
- Addy, W. A., Ugochukwu, C. E., Oyewole, A. T., & Chrisanctus, O. (2024). Predictive analytics in credit risk management for banks: A comprehensive review.
- Ala’raj, M., Abbod, M. F., Majdalawieh, M., & Jum’a, L. (2022). A deep learning model for behavioural credit scoring in banks. Neural Computing and Applications, 1-28.
- Almufti, S. M., Shaban, A. A., Ali, Z. A., Ali, R. I., & Fuente, J. A. D. (2023). Overview of Metaheuristic Algorithms. Polaris Global Journal of Scholarly Research and Trends, 2(2), 10-32.
- Aruleba, I., & Sun, Y. (2024). Effective credit risk prediction using ensemble classifiers with model explanation. IEEE Access.
- Attigeri, G. V., Pai, M. M., & Pai, R. M. (2017). Credit risk assessment using machine learning algorithms. Advanced Science Letters, 23(4), 3649-3653.
- Bhattacharya, A., Biswas, S. K., & Mandal, A. (2023). Credit risk evaluation: a comprehensive study. Multimedia Tools and Applications, 82(12), 18217-18267.
- Bielecki, T. R., & Rutkowski, M. (2013). Credit risk: modeling, valuation and hedging. Springer Science & Business Media.
- Cahn, C., Girotti, M., & Salvade, F. (2024). Credit ratings and the hold-up problem in the loan market. Management Science, 70(3), 1810-1831.
- Das, S. R. (2019). Credit risk derivatives. In World Scientific Reference on Contingent Claims Analysis in Corporate Finance: Volume 3: Empirical Testing and Applications of CCA (pp. 373-400).
- Du, P., & Shu, H. (2022). Exploration of financial market credit scoring and risk management and prediction using deep learning and bionic algorithm. Journal of Global Information Management (JGIM), 30(9), 1-29.
- Dumitrescu, E., Hue, S., Hurlin, C., & Tokpavi, S. (2018). Machine Learning for Credit Scoring: Improving Logistic Regression with Non Linear Decision Tree Effects (Doctoral dissertation, PhD thesis. Paris Nanterre University, University of Orleans).
- Eletter, S. F., & Yaseen, S. G. (2017). Loan decision models for the Jordanian commercial banks. Global Business and Economics Review, 19(3), 323-338.
- Gunnarsson, B. R., Vanden Broucke, S., Baesens, B., Óskarsdóttir, M., & Lemahieu, W. (2021). Deep learning for credit scoring: Do or don’t?. European Journal of Operational Research, 295(1), 292-305.
- Joshi, S. (2025). Review of Gen AI Models for Financial Risk Management. International Journal of Scientific Research in Computer Science, Engineering and Information Technology, 11(1), 709-723.
- Khalili, N., & Rastegar, M. A. (2023). Optimal cost-sensitive credit scoring using a new hybrid performance metric. Expert Systems with Applications, 213, 119232.
- Lando, D. (2009). Credit risk modeling. In Credit Risk Modeling. Princeton University Press.
- Maleki, M. S., Motevallian, S. N., Hosseini, F., Sabokrou, M., & Maleki, H. S. (2021, October). Improvement of credit scoring by lstm autoencoder model. In 2021 11th International Conference on Computer Engineering and Knowledge (ICCKE) (pp. 182-187). IEEE.
- Mpofu, T. P., & Mukosera, M. (2014). Credit scoring techniques: a survey. International Journal of Science and Research (IJSR), 2319-7064.
- Naili, M., & Lahrichi, Y. (2022). Banks’ credit risk, systematic determinants and specific factors: recent evidence from emerging markets. Heliyon, 8(2).
- Rofik, R., Aulia, R., Musaadah, K., Ardyani, S. S. F., & Hakim, A. A. (2024). The optimization of credit scoring model using stacking ensemble learning and oversampling techniques. Journal of Information System Exploration and Research, 2(1).
- Suksamai, C., Hengpraprohm, K., & Silachan, K. (2022, July). A Comparison of Normalization Data Transformation Efficiency Affecting with Bank Customer Credit Data Classification using Data Mining Techniques. The 14th NPRU National Academic Conference Nakhon Pathom Rajabhat University.
- Sutrisno, H., & Halim, S. (2017, September). Credit Scoring Refinement Using Optimized Logistic Regression. In 2017 International Conference on Soft Computing, Intelligent System and Information Technology (ICSIIT) (pp. 26-31). IEEE.
- Thomas, L., Crook, J., & Edelman, D. (2017). Credit scoring and its applications. Society for industrial and Applied Mathematics.
- Tripathi, D., Edla, D. R., & Cheruku, R. (2018). Hybrid credit scoring model using neighborhood rough set and multi-layer ensemble classification. Journal of Intelligent & Fuzzy Systems, 34(3), 1543-1549.
- Wang, Y., Jia, Y., Fan, S., & Xiao, J. (2023). Deep Reinforcement Learning Based on Balanced Stratified Prioritized Experience Replay for Customer Credit Scoring in Peer-to-Peer Lending.
- Zhang, R., Liguo, X., & Qin, W. An Ensemble Credit Scoring Model Based on Logistic Regression with Heterogeneous Balancing and Weighting Effects. Available at SSRN 4167821.
- Zhuang, Y., Xu, Z., & Tang, Y. (2015, September). A credit scoring model based on bayesian network and mutual information. In 2015 12th Web Information System and Application Conference (WISA) (pp. 281-286). IEEE.