ধরুন, আপনি একটি ব্যাংকে ব্যবসায়িক ঋণের জন্য আবেদন করলেন। কয়েক সেকেন্ডের মধ্যেই AI সিস্টেম জানিয়ে দিল—“Loan Declined.” আপনি কারণ জানতে চাইলে ব্যাংক কর্মকর্তা বললেন, “AI মডেল আবেদনটি বাতিল করেছে, কিন্তু ঠিক কেন করেছে, তা আমরা বলতে পারছি না।”
এখানেই শুরু হয় Explainable AI (XAI) এবং Black-Box AI-এর বিতর্ক।
বর্তমানে ব্যাংকিং, ঋণ, বীমা, Fraud Detection এবং Investment Management-এ AI-এর ব্যবহার দ্রুত বাড়ছে। কিন্তু একটি গুরুত্বপূর্ণ প্রশ্নও সামনে আসছে—AI শুধু সঠিক সিদ্ধান্ত নিলেই হবে, নাকি সেই সিদ্ধান্তের কারণও মানুষকে বুঝতে হবে?
Black-Box AI এমন একটি মডেল, যেখানে ইনপুট ও ফলাফল দেখা যায়, কিন্তু সিদ্ধান্তে পৌঁছানোর প্রক্রিয়া সহজে বোঝা যায় না। একটি AI হয়তো শত শত তথ্য বিশ্লেষণ করে বলল—“High Risk।” কিন্তু কোন তথ্যটি সবচেয়ে বেশি প্রভাব ফেলেছে, সেটি ব্যাংক কর্মকর্তাও স্পষ্টভাবে ব্যাখ্যা করতে পারেন না।
অন্যদিকে Explainable AI (XAI) সিদ্ধান্তের পেছনের যুক্তি মানুষের ভাষায় তুলে ধরার চেষ্টা করে। যেমন—“সাম্প্রতিক Debt-to-Income Ratio বেড়েছে, Cash Flow অনিয়মিত হয়েছে এবং কয়েকটি Payment Delay হওয়ায় Risk Score কমেছে।” অর্থাৎ শুধু “না” নয়, বরং “কেন না”—সেটিও জানানো হয়।
NIST-এর মতে, একটি Explainable AI System এমন হওয়া উচিত, যা সিদ্ধান্তের সঙ্গে অর্থবহ ব্যাখ্যা দিতে পারে এবং সেই ব্যাখ্যা AI-এর প্রকৃত সিদ্ধান্ত প্রক্রিয়ার সঙ্গে সামঞ্জস্যপূর্ণ।
Finance খাতে এই বিষয়টি অত্যন্ত গুরুত্বপূর্ণ। Netflix ভুল সিনেমা সাজেস্ট করলে হয়তো সময় নষ্ট হবে, কিন্তু AI যদি ভুলভাবে Loan Reject করে বা একটি Account Fraud হিসেবে Freeze করে, তার প্রভাব অনেক বড় হতে পারে।
এ কারণেই Consumer Financial Protection Bureau (CFPB) বলেছে, কোনো প্রতিষ্ঠান যদি AI বা Complex Algorithm ব্যবহার করে Credit Application প্রত্যাখ্যান করে, তবে গ্রাহককে নির্দিষ্ট ও অর্থবহ কারণ জানাতে হবে। শুধু “আপনি প্রয়োজনীয় স্কোর পাননি”—এ ধরনের অস্পষ্ট ব্যাখ্যা যথেষ্ট নয়।
Explainable AI-এর আরেকটি বড় সুবিধা হলো Bias শনাক্ত করা। AI যদি ঐতিহাসিক তথ্য থেকে কোনো নির্দিষ্ট গোষ্ঠীর বিরুদ্ধে অনিচ্ছাকৃত বৈষম্য শিখে ফেলে, তাহলে Explainable Model সেটি খুঁজে বের করা সহজ করে। এ কারণেই EU AI Act Creditworthiness Assessment-এর মতো AI System-কে High-Risk হিসেবে বিবেচনা করে এবং Risk Management, Human Oversight ও Accountability-এর ওপর গুরুত্ব দেয়।
তবে এখানে একটি গুরুত্বপূর্ণ Trade-off রয়েছে। অনেক সময় সবচেয়ে শক্তিশালী AI Model-ই সবচেয়ে কম ব্যাখ্যাযোগ্য। আবার সহজে ব্যাখ্যা করা যায় এমন Model সবসময় সর্বোচ্চ নির্ভুল নাও হতে পারে। তাই ভবিষ্যতের Financial AI সম্ভবত হবে Powerful Prediction + Explainability + Human Oversight—এই তিনটির সমন্বয়।
বাংলাদেশের জন্য বিষয়টি এখন থেকেই গুরুত্বপূর্ণ। AI Credit Scoring, Digital Lending এবং Automated Banking যত বাড়বে, ততই গ্রাহকের জানার অধিকার থাকবে—“আমার Loan Reject হলো কেন?” কিংবা “আমাকে High Risk বলা হলো কেন?” স্থানীয় FinTech Startup-গুলোর জন্য এখানেই বড় সুযোগ—এমন Explainable AI Layer তৈরি করা, যা জটিল AI Decision-কে সহজ বাংলা বা ইংরেজিতে ব্যাখ্যা করতে পারে।
Islamic Finance-এর ক্ষেত্রেও Explainability আরও গুরুত্বপূর্ণ। IFSB Stability Report 2025-এ বলা হয়েছে, AI Credit Assessment, Risk Management এবং Shariah Advisory-তে ব্যবহৃত হলেও Model Integrity, Bias এবং Opaque Decision নিয়ে সতর্ক থাকতে হবে। যদি AI বলে কোনো Investment Shariah-Compliant নয়, তাহলে প্রশ্ন হওয়া উচিত—কেন? ব্যবসার ধরন, Debt Ratio নাকি Contract Structure—কোনটি সমস্যার কারণ?
সবশেষে, Financial AI-এর ভবিষ্যৎ শুধু সবচেয়ে বুদ্ধিমান AI তৈরি করা নয়; বরং এমন AI তৈরি করা, যা নিজের সিদ্ধান্তের জন্য জবাবদিহি করতে পারে। কারণ Finance-এর মতো গুরুত্বপূর্ণ খাতে সবচেয়ে বড় প্রশ্ন হলো—“AI কতটা Intelligent?” নয়, বরং “AI তার সিদ্ধান্ত কতটা ব্যাখ্যা করতে পারে?”
সোর্স: NIST — Four Principles of Explainable Artificial Intelligence; Consumer Financial Protection Bureau (CFPB) — Adverse Action Requirements for Complex Algorithms and AI Credit Models; European Commission — EU AI Act (High-Risk AI Systems); Islamic Financial Services Board (IFSB) — Islamic Financial Services Industry Stability Report 2025।
#ExplainableAI #BlackBoxAI #ResponsibleAI #AIBanking #Fintech #IslamicFintech #BangladeshFintech #AITransparency #FutureOfFinance
