Bayes' Theorem

Introduction to Bayes' Theorem

Bayes' Theorem হলো একটা ছোট্ট সমীকরণ, যেটা যুক্তির জগতের সবচেয়ে দরকারী প্রশ্নগুলোর একটার উত্তর দেয়: নতুন কোনো প্রমাণ (evidence) পেলে, আগের বিশ্বাসটাকে কীভাবে আপডেট করা উচিত?

এই থিওরিটা প্রথম লিখেছিলেন রেভারেন্ড টমাস বেইজ, আঠারো শতকে — তাঁর মৃত্যুর পর ১৭৬৩ সালে এটা প্রকাশিত হয়, আর পরে পিয়ের-সিমোঁ লাপ্লাস এটাকে আরও সাধারণ রূপ দেন। তারপর থেকে এটা পরিসংখ্যান, মেডিসিন, আইন, ইঞ্জিনিয়ারিং — আর এই কোর্সের জন্য সবচেয়ে গুরুত্বপূর্ণ, মেশিন লার্নিং-এর অন্যতম গুরুত্বপূর্ণ একটা আইডিয়ায় পরিণত হয়েছে। স্প্যাম ফিল্টার, মেডিকেল ডায়াগনসিস টুল, সার্চ ইঞ্জিন, ফ্রড ডিটেকশন সিস্টেম, আর Naive Bayes classifier নামের একটা পুরো মডেল-পরিবার — এগুলো সবই, ভেতরে ভেতরে, এই একটামাত্র ফর্মুলার বারবার প্রয়োগ।

Bayes' Theorem-কে বিশেষ করে তোলে কী? এটা যে গাণিতিকভাবে খুব জটিল, তা না — এই চ্যাপ্টারের শেষে দেখবে যে এটা মাত্র দুই লাইনের বীজগণিত থেকে বেরিয়ে আসে। এটাকে বিশেষ করে তোলে এর পেছনের চিন্তার ধরনটা: probability-কে জগতের একটা স্থির, অপরিবর্তনীয় বৈশিষ্ট্য হিসেবে না দেখে, এটাকে দেখা হয় এমন একটা বিশ্বাস হিসেবে, যেটা প্রমাণ আসার সাথে সাথে সংশোধিত হয়। ঠিক এই দৃষ্টিভঙ্গির পরিবর্তনটাই পুরো একটা পরিসংখ্যান-স্কুল (Bayesian statistics) আর আধুনিক মেশিন লার্নিং-এর বিশাল একটা অংশের ভিত্তি।

The Problem Bayes' Theorem Solves

সমস্যাটা সহজ ভাষায় বলি। প্রায়ই তুমি একটা conditional probability জানো, কিন্তু আসলে দরকার তার উল্টোটা — আর এই দুইটা এক সংখ্যা না।

ধরো তুমি জানো: "কারো যদি একটা নির্দিষ্ট রোগ থাকে, তার টেস্ট positive আসার সম্ভাবনা ৯০%।" এটা তথ্য হিসেবে দরকারী, কিন্তু এটা সেই প্রশ্ন না যেটা একজন রোগীর আসলে জানার দরকার। রোগী জানতে চায়: "আমার টেস্ট positive এসেছে — আমার আসলে রোগটা থাকার সম্ভাবনা কত?" এই দুইটা সম্পূর্ণ ভিন্ন প্রশ্ন, আর এই দুইটাকে গুলিয়ে ফেলা পরিসংখ্যানের সবচেয়ে সাধারণ আর মারাত্মক ভুলগুলোর একটা।

• জানা আছে: $P(\text{positive test} \mid \text{disease})$ — কারণ (রোগ) থাকলে লক্ষণ/প্রমাণ আসার সম্ভাবনা।
• জানতে চাই: $P(\text{disease} \mid \text{positive test})$ — লক্ষণ/প্রমাণ দেখলে কারণটা (রোগ) থাকার সম্ভাবনা।

আর কোনো তথ্য ছাড়া, নিছক অনুমান দিয়ে একটা থেকে আরেকটায় যাওয়ার কোনো উপায় নেই — এমন একটা ফর্মুলা দরকার যেটা এই দুইটাকে সঠিকভাবে যুক্ত করে, রোগটা আসলে কত সাধারণ সেটাও হিসেবে ধরে। সেই ফর্মুলাটাই হলো Bayes' Theorem। মূলত এটা হলো conditional probability-কে সঠিকভাবে উল্টানোর একটা টুল।

A Real-Life Motivation: Updating Beliefs with Evidence

ধরো তুমি একটা জানালাবিহীন রুমে ঢুকলে, আর কেউ বলল একটা কয়েন টস করা হয়েছিল: হেড বা টেইল, ৫০/৫০, আর কোনো তথ্য নেই। এটাই তোমার শুরুর বিশ্বাস — তোমার prior।

এখন কেউ তোমাকে একটা নতুন তথ্য দিলো: তারা বলল কয়েনটা এমন একটা পাশ দেখিয়ে পড়েছে যেখানে একটা মানুষের মুখের ছবি আছে (বেশিরভাগ কয়েনে যেটা হেডের বৈশিষ্ট্য, টেইলের না)। এই প্রমাণ প্রমাণ করে না যে এটা হেড, কিন্তু এটা তোমার বিশ্বাসকে সেদিকে একটু ঠেলে দেওয়া উচিত। তুমি আগের বিশ্বাস পুরোপুরি ফেলে দিয়ে নতুন করে শুরু করো না, আবার নতুন প্রমাণকেও অগ্রাহ্য করো না — তুমি দুইটাকে একসাথে মিলিয়ে একটা আপডেটেড বিশ্বাসে পৌঁছাও।

মানুষ এটাই অনানুষ্ঠানিকভাবে সবসময় করে:

• একজন ডাক্তারের টেস্ট রেজাল্ট দেখার আগে একটা রোগ কতটা সম্ভব সে সম্পর্কে একটা সাধারণ ধারণা থাকে (prior), তারপর টেস্ট রেজাল্ট দেখার পর সেই বিশ্বাসটা আপডেট করে (posterior)।
• একজন গোয়েন্দার কাছে বিভিন্ন সন্দেহভাজনের বিভিন্ন সম্ভাব্যতা থাকে (prior), তারপর ক্লু আসার সাথে সাথে সেই সম্ভাব্যতাগুলো আপডেট হয় (posterior)।
• তোমার একটা মোটামুটি ধারণা থাকে আজ বৃষ্টি হবে কিনা (prior), আর আকাশ, ফোরকাস্ট, আর আর্দ্রতা দেখে সেটা সংশোধন করো (posterior)।

Bayes' Theorem আসলে এই মিলানোর ধাপটা গাণিতিকভাবে সঠিকভাবে করার উপায় — শুধু অনুভূতি দিয়ে না — আর এই চ্যাপ্টারের পরের দিকে "Common Misconceptions" অংশে দেখবে, মানুষ নিজে নিজে এটা সঠিকভাবে করতে বিস্ময়করভাবে খারাপ।

Prerequisites: Conditional Probability Refresher

Bayes' Theorem বোঝার আগে conditional probability নিয়ে স্বচ্ছন্দ হওয়া দরকার — একটা ইভেন্টের সম্ভাবনা, যখন আমরা জানি আরেকটা ইভেন্ট ইতিমধ্যে ঘটেছে বা সত্যি।

$$P(A \mid B) = \frac{P(A \cap B)}{P(B)}, \qquad P(B) > 0$$

যেখানে:

• $P(A \mid B)$ পড়া হয় "B জানার শর্তে A-এর সম্ভাবনা" — B ঘটেছে জানার পর A কতটা সম্ভব।
• $P(A \cap B)$ হলো A এবং B দুইটাই ঘটার সম্ভাবনা।
• $P(B)$ হলো B ঘটার সাধারণ (unconditional) সম্ভাবনা।

ইনটুইশন: একবার জানলে B ঘটেছে, তোমার সম্ভাব্য "জগৎ" সংকুচিত হয়ে শুধু সেই আউটকামগুলোতে চলে আসে যেখানে B সত্যি। সেই সংকুচিত জগতের মধ্যে, $P(A \mid B)$ জিজ্ঞেস করে: এর কত অংশে A-ও সত্যি?

একটা ছোট উদাহরণ। একটা ফেয়ার ছয়-পাশের ডাই রোল করো। $A$ = "ফলাফল জোড়" ($\{2,4,6\}$) আর $B$ = "ফলাফল ৩-এর বেশি" ($\{4,5,6\}$)। তাহলে $A \cap B = \{4, 6\}$, তাই:

$$P(A \mid B) = \frac{P(\{4,6\})}{P(\{4,5,6\})} = \frac{2/6}{3/6} = \frac{2}{3}$$

একবার জানলে রোলটা ৩-এর বেশি, বাকি তিনটা সম্ভাবনার ($4, 5, 6$) মধ্যে দুইটাই জোড় — তাই $\frac{2}{3}$, যেটা unconditional জোড় হওয়ার সম্ভাবনা $\frac{1}{2}$ থেকে বেশ আলাদা।

Why P(A|B) Is Not the Same as P(B|A)

এই পুরো চ্যাপ্টারের সবচেয়ে গুরুত্বপূর্ণ সতর্কবাণী এটাই, কারণ এই দুইটা রাশিকে গুলিয়ে ফেলাকে বলা হয় base rate fallacy বা prosecutor's fallacy, আর এটা মেডিসিন, আইন, আর ডেটা সায়েন্সে বাস্তব, বড়সড় ভুলের জন্ম দেয়।

$P(A \mid B)$ আর $P(B \mid A)$ একদম আলাদা সংখ্যা হতে পারে, কারণ এরা আলাদা "জগৎ"-এর ওপর কন্ডিশন করছে।

উদাহরণ দিয়ে বুঝি। ভাবো:

• $P(\text{rain} \mid \text{clouds})$ — মেঘলা থাকলে বৃষ্টি হওয়ার সম্ভাবনা কত? মোটামুটি বেশি, ধরো ৪০%।
• $P(\text{clouds} \mid \text{rain})$ — বৃষ্টি হলে মেঘলা থাকার সম্ভাবনা কত? অনেক বেশি, প্রায় ১০০% (বৃষ্টি হলে প্রায় সবসময়ই আকাশ মেঘলা থাকে)।

এই দুইটা স্পষ্টতই আলাদা সংখ্যা, ভিন্ন প্রশ্নের উত্তর — যদিও একই দুইটা ইভেন্ট নিয়ে কথা হচ্ছে। আরেকটা ক্লাসিক উদাহরণ: "তুমি কুকুর হলে, তুমি খুব সম্ভবত স্তন্যপায়ী" ($P(\text{mammal}\mid\text{dog}) \approx 100\%$), কিন্তু "তুমি স্তন্যপায়ী হলে, তুমি কুকুর হওয়ার সম্ভাবনা কম" ($P(\text{dog}\mid\text{mammal})$ ছোট, কারণ বেশিরভাগ স্তন্যপায়ী প্রজাতিই কুকুর না)।

Bayes' Theorem হলো সেই ফর্মুলা যেটা তোমাকে বৈধভাবে একটা থেকে আরেকটায় যেতে দেয় — কিন্তু শুধু তখনই, যখন প্রতিটা ইভেন্ট নিজে নিজে কতটা সাধারণ সেটাও হিসাবে ঢোকানো হয়। এই মিসিং উপাদানটাই সাধারণত ইনটুইশনে বাদ পড়ে যায়।

Deriving Bayes' Theorem

ডেরিভেশনটা ছোট, আর ওপরের Prerequisites সেকশনের product rule-টাই লাগে — শুধু দুই দিক থেকে একবার করে প্রয়োগ করলেই হবে।

Conditional probability-র সংজ্ঞা থেকে শুরু করি, দুইভাবে লিখে:

$$P(A \mid B) = \frac{P(A \cap B)}{P(B)} \qquad \text{এবং} \qquad P(B \mid A) = \frac{P(A \cap B)}{P(A)}$$

Product rule দিয়ে প্রতিটাকে সাজালে একই রাশি $P(A \cap B)$-এর দুইটা এক্সপ্রেশন পাওয়া যায়:

$$P(A \cap B) = P(A \mid B)\,P(B) \qquad \text{এবং} \qquad P(A \cap B) = P(B \mid A)\,P(A)$$

যেহেতু দুইটা রাইট-হ্যান্ড সাইড একই জিনিসের সমান, ওরা একে অপরের সমান:

$$P(A \mid B)\,P(B) = P(B \mid A)\,P(A)$$

শেষে, $P(A \mid B)$-কে আলাদা করতে দুই পাশে $P(B)$ দিয়ে ভাগ করি (ধরে নিচ্ছি $P(B) > 0$):

$$P(A \mid B) = \frac{P(B \mid A)\,P(A)}{P(B)}$$

এই তো — এটাই Bayes' Theorem। এটা কোনো গভীর বা রহস্যময় ফলাফল না; শুধু conditional probability-র দুইটা সংজ্ঞাকে সমান ধরে সাজানো হয়েছে। যেটা এটাকে শক্তিশালী করে তোলে, সেটা ডেরিভেশন না — সেটা এর interpretation, যেটা এরপরে আলোচনা করা হচ্ছে।

Understanding the Bayes' Theorem Formula

$$P(A \mid B) = \frac{P(B \mid A)\,P(A)}{P(B)}$$

যেখানে, সবচেয়ে সাধারণ ফ্রেমিংয়ে ($A$ হলো hypothesis, $B$ হলো observed evidence):

• $P(A \mid B)$ — posterior: প্রমাণ $B$ দেখার পরে $A$ সম্পর্কে বিশ্বাস।
• $P(B \mid A)$ — likelihood: $A$ সত্যি হলে প্রমাণ $B$ কতটা সম্ভব।
• $P(A)$ — prior: কোনো প্রমাণ দেখার আগে $A$ সম্পর্কে বিশ্বাস।
• $P(B)$ — evidence (বা marginal probability): $A$ সত্যি কি না তা নির্বিশেষে, সামগ্রিকভাবে $B$ প্রমাণটা কতটা সম্ভব।

বাম থেকে ডানে পড়লে ফর্মুলাটা বলছে: তোমার আপডেটেড বিশ্বাস হলো তোমার পুরোনো বিশ্বাস, একটা ফ্যাক্টর দিয়ে পুনর্মাপা — সেই ফ্যাক্টরটা হলো, গড়ে যতটা হওয়া উচিত তার তুলনায় তোমার hypothesis-এর অধীনে প্রমাণটা কতটা বেশি (বা কম) সম্ভব। সেই রিস্কেলিং ফ্যাক্টর, $\frac{P(B\mid A)}{P(B)}$, আসল "আপডেট"-এর কাজটা করছে — যখন প্রমাণটা $A$-কে গড়ের চেয়ে বেশি সমর্থন করে তখন এটা ১-এর বেশি, না করলে ১-এর কম।

Breaking Down the Components

Prior Probability

Prior, $P(A)$, হলো নতুন প্রমাণ যোগ করার আগে hypothesis সম্পর্কে বিশ্বাস। এটা আসতে পারে ঐতিহাসিক ডেটা থেকে (যেমন, "এই জনগোষ্ঠীর ১% মানুষের এই রোগ আছে"), ডোমেইন এক্সপার্টাইজ থেকে, অথবা এমনকি ইচ্ছাকৃতভাবে অনির্দিষ্ট একটা শুরুর অনুমান থেকেও (যেমন, "৫০/৫০, আমার কোনো ধারণা নেই") যখন ভালো কোনো তথ্য পাওয়া যায় না। Prior-টাই সেই অ্যাঙ্কর, যেখান থেকে বাকি হিসাবটা আপডেট হয়ে দূরে সরে যায়।

Likelihood

Likelihood, $P(B \mid A)$, মাপে যে hypothesis সত্যি ধরে নিলে observed evidence-টা কতটা প্রত্যাশিত। এটা hypothesis-এর ওপর কোনো probability distribution না — এটা fixed একটা hypothesis-এর জন্য evidence-এর একটা ফাংশন। উচ্চ likelihood মানে হলো, "$A$ সত্যিই সত্যি হলে, $B$-র মতো প্রমাণ দেখাটা মোটেও অবাক করার মতো হতো না।"

Evidence (Marginal Probability)

Evidence, $P(B)$, হলো $B$ দেখার সম্পূর্ণ, unconditional সম্ভাবনা, প্রতিটা সম্ভাব্য hypothesis-এর ওপর গড় করে। যখন দুইটা প্রতিদ্বন্দ্বী hypothesis থাকে, $A$ আর "not $A$" (লেখা হয় $\neg A$), এটা law of total probability দিয়ে বিস্তৃত হয়:

$$P(B) = P(B \mid A)\,P(A) + P(B \mid \neg A)\,P(\neg A)$$

কেন এটা গুরুত্বপূর্ণ: হাতে হিসাব করার সময় এটাই সাধারণত সবচেয়ে কঠিন অংশ, আর এটাই সেই অংশ যেটা মানুষ সবচেয়ে বেশি বাদ দিয়ে ফেলে — নিঃশব্দে এটা বাদ দেওয়া এই চ্যাপ্টারের পরের দিকে "Common Mistakes"-এ আলোচিত সবচেয়ে সাধারণ ভুলগুলোর একটা।

Posterior Probability

Posterior, $P(A \mid B)$, হলো শেষ উত্তর: প্রমাণ $B$-কে সঠিকভাবে হিসাবে নেওয়ার পর $A$ সম্পর্কে তোমার আপডেটেড বিশ্বাস। খুবই গুরুত্বপূর্ণ একটা বিষয় — এক রাউন্ড প্রমাণের posterior পরের রাউন্ডের prior হয়ে যেতে পারে। Bayes' Theorem স্বাভাবিকভাবেই বারবার প্রয়োগ করার জন্য উপযুক্ত, যতই নতুন নতুন প্রমাণ আসতে থাকে, প্রতিবার বিশ্বাসটাকে একটু একটু করে আরও পরিমার্জিত করে।

Visualizing Bayes' Theorem

Bayes' Theorem কল্পনা করার একটা দারুণ উপায় হলো, বিমূর্ত সিম্বলের বদলে একটা জনগোষ্ঠীকে গ্রুপে ভাগ করে দেখা।

এই "natural frequencies" পদ্ধতিতে Bayes' Theorem কল্পনা করা — বিমূর্ত শতাংশের বদলে ১০০০ জনের মধ্যে কতজন সেই সংখ্যায় চিন্তা করা — আসল ইনটুইশন তৈরির সবচেয়ে কার্যকর টুলগুলোর একটা, আর এই চ্যাপ্টারের কয়েক সেকশন পরে "Medical Diagnosis Example"-এ ঠিক এই টেকনিকটাই ব্যবহার করা হয়েছে।

নিচের Medical Diagnosis উদাহরণটা পড়ার আগে ওপরের স্লাইডারগুলো নাড়িয়ে দেখো — লক্ষ্য করো, খুব sensitive একটা টেস্ট থাকলেও, prior-কে টেনে একটা বিরল, ছোট শতাংশে নামালে posterior কীভাবে ধসে পড়ে। এই একটা ইন্টার‍্যাকশনই এই চ্যাপ্টারের পরের কয়েকটা সেকশনের পুরো শিক্ষা — শুধু পড়ে না, অনুভব করে বোঝা।

Step-by-Step Numerical Example

বাস্তব-জগতের উদাহরণে যাওয়ার আগে চলো একটা পরিষ্কার সংখ্যার উদাহরণ পুরোপুরি সমাধান করি।

সেটআপ। একটা কারখানায় দুইটা মেশিন একই পার্ট তৈরি করে। মেশিন A সব পার্টের ৬০% বানায়, আর এর ডিফেক্ট রেট ২%। মেশিন B বাকি ৪০% বানায়, আর এর ডিফেক্ট রেট ৫%। তুমি র‍্যান্ডমলি একটা পার্ট তুললে এবং দেখলে সেটা ডিফেক্টিভ। এটা মেশিন B থেকে আসার সম্ভাবনা কত?

ধাপ ১ — যা জানা আছে লিখে ফেলি।

$$P(A) = 0.60, \quad P(B_{\text{mach}}) = 0.40, \quad P(\text{defect} \mid A) = 0.02, \quad P(\text{defect} \mid B_{\text{mach}}) = 0.05$$

ধাপ ২ — law of total probability দিয়ে evidence, $P(\text{defect})$, বের করি।

$$P(\text{defect}) = P(\text{defect}\mid A)P(A) + P(\text{defect}\mid B_{\text{mach}})P(B_{\text{mach}}) = (0.02)(0.60) + (0.05)(0.40) = 0.012 + 0.020 = 0.032$$

ধাপ ৩ — Bayes' Theorem প্রয়োগ করি, আমরা যেটা আসলে জানতে চাই, $P(B_{\text{mach}} \mid \text{defect})$:

$$P(B_{\text{mach}} \mid \text{defect}) = \frac{P(\text{defect}\mid B_{\text{mach}})\,P(B_{\text{mach}})}{P(\text{defect})} = \frac{0.020}{0.032} = 0.625$$

ফলাফল। যদিও মেশিন B সব পার্টের মাত্র ৪০% বানায়, একটা র‍্যান্ডমলি পাওয়া ডিফেক্টিভ পার্ট ৬২.৫% সম্ভাবনায় মেশিন B থেকে এসেছে — কারণ এর ডিফেক্ট রেট মেশিন A-র দ্বিগুণেরও বেশি। এটাই ঠিক সেই ধরনের শিফট, যেটা আসল প্রমাণ (ডিফেক্ট) হিসাবে ঢোকানোর পর prior-এর মধ্যে ঘটে।

Medical Diagnosis Example

Bayes' Theorem-এর সবচেয়ে বিখ্যাত প্রয়োগ এটাই, ঠিক এই কারণে যে ইনটুইশন এখানে এতটাই ভুল করে — এমনকি প্রকাশিত গবেষণায় প্রশিক্ষিত ডাক্তারদের মধ্যেও।

সেটআপ। একটা রোগ জনগোষ্ঠীর ১%-কে প্রভাবিত করে ($P(D) = 0.01$)। এর জন্য একটা টেস্ট ৯০% sensitive (যাদের সত্যিই রোগ আছে তাদের ৯০%কে সঠিকভাবে ধরে: $P(+\mid D) = 0.90$) এবং ৯৫% specific (যাদের রোগ নেই তাদের ৯৫%কে সঠিকভাবে ক্লিয়ার করে, মানে ৫% false-positive রেট: $P(+\mid \neg D) = 0.05$)। তোমার টেস্ট positive এসেছে। তোমার আসলে রোগটা থাকার সম্ভাবনা কত?

১০,০০০ জনের natural frequencies দিয়ে হিসাব করি:

• $10{,}000 \times 0.01 = 100$ জনের আসলে রোগটা আছে। এদের মধ্যে $100 \times 0.90 = 90$ জনের টেস্ট positive আসে (true positives)।
• $10{,}000 \times 0.99 = 9{,}900$ জনের রোগটা নেই। এদের মধ্যে $9{,}900 \times 0.05 = 495$ জনের টেস্টও positive আসে (false positives)।
• মোট positive: $90 + 495 = 585$।

$$P(D \mid +) = \frac{90}{585} \approx 0.154$$

ফলাফল। "৯০% অ্যাকুরেট" টেস্ট হওয়া সত্ত্বেও, একটা positive রেজাল্ট মানে আসলে রোগ থাকার সম্ভাবনা মাত্র ১৫.৪% — কারণ রোগটা বিরল, তাই false positive তৈরি করা সুস্থ মানুষের পুল, সত্যিকারের রোগী তৈরি করা true positive পুলের চেয়ে অনেক বড়। এটা ব্যাপকভাবে ডকুমেন্টেড একটা ফলাফল: এই ঠিক এই প্রশ্নটা জিজ্ঞেস করলে অনেক ডাক্তারই উত্তরটাকে খুব বেশি ধরে নেন, প্রায়ই ৯০%-এর কাছাকাছি অনুমান করেন। ঠিক এই কারণেই একটা positive স্ক্রিনিং টেস্টের পরে প্রায় সবসময় একটা কনফার্মেটরি দ্বিতীয় টেস্ট করা হয়, একে একা ডায়াগনসিস হিসেবে ধরা হয় না।

Spam Email Detection Example

স্প্যাম ফিল্টার হলো Bayes' Theorem-এর সবচেয়ে সরাসরি বাস্তব-জগতের প্রয়োগগুলোর একটা, আর এটাই পরের সেকশনে আলোচিত Naive Bayes classifier-এর প্রেরণা।

সেটআপ। ধরো তুমি যত ইমেইল পাও তার ২০% স্প্যাম ($P(S) = 0.20$)। "free" শব্দটা স্প্যাম ইমেইলের ৬০%-এ থাকে ($P(\text{"free"}\mid S) = 0.60$) কিন্তু বৈধ ইমেইলের মাত্র ৫%-এ থাকে ($P(\text{"free"}\mid \neg S) = 0.05$)। একটা ইমেইল আসে যেখানে "free" শব্দটা আছে। এটা স্প্যাম হওয়ার সম্ভাবনা কত?

$$P(\text{"free"}) = P(\text{"free"}\mid S)P(S) + P(\text{"free"}\mid \neg S)P(\neg S) = (0.60)(0.20) + (0.05)(0.80) = 0.12 + 0.04 = 0.16$$ $$P(S \mid \text{"free"}) = \frac{(0.60)(0.20)}{0.16} = \frac{0.12}{0.16} = 0.75$$

ফলাফল। "free" শব্দটা দেখলে স্প্যাম হওয়ার সম্ভাবনা ২০% prior থেকে বেড়ে ৭৫% posterior হয়ে যায়। একটা আসল স্প্যাম ফিল্টার ঠিক এটাই করে, কিন্তু একসাথে অনেক শব্দ থেকে প্রমাণ মিলিয়ে নেয় — ইমেইলের প্রতিটা শব্দ নিজের likelihood ratio দিয়ে অবদান রাখে, আর সেগুলো সব একসাথে গুণ হয় (নিচে Naive Bayes সেকশনে বর্ণিত একটা সরলীকরণকারী independence assumption সহ)।

Weather Forecasting Example

সেটআপ। একটা শহরে, একটা নির্দিষ্ট সিজনে দিনের ৩০%-এ বৃষ্টি হয় ($P(R) = 0.30$)। যখন বৃষ্টি হবে, সকালে আকাশ মেঘলা থাকে ৮৫% সময় ($P(C \mid R) = 0.85$)। যখন বৃষ্টি হবে না, তখনও সকালে আকাশ মেঘলা থাকে ২০% সময় ($P(C \mid \neg R) = 0.20$)। তুমি ঘুম থেকে উঠে দেখলে আকাশ মেঘলা। আজ বৃষ্টি হওয়ার সম্ভাবনা কত?

$$P(C) = (0.85)(0.30) + (0.20)(0.70) = 0.255 + 0.140 = 0.395$$ $$P(R \mid C) = \frac{(0.85)(0.30)}{0.395} = \frac{0.255}{0.395} \approx 0.646$$

ফলাফল। মেঘলা সকাল বৃষ্টির সম্ভাবনাকে ৩০% বেস রেট থেকে প্রায় ৬৪.৬%-এ ঠেলে দেয়। আসল ফোরকাস্টিং মডেল আরও অনেক ভ্যারিয়েবল (আর্দ্রতা, চাপ, স্যাটেলাইট ইমেজারি, ঐতিহাসিক প্যাটার্ন) একই কায়দায় ঢোকায় — প্রতিটাই আরেকটা প্রমাণের টুকরা হিসেবে কাজ করে, posterior-কে আরও পরিমার্জিত করে, অনেক সময় একই অন্তর্নিহিত Bayesian যুক্তির ওপর তৈরি আরও পরিশীলিত মডেলের মধ্য দিয়ে।

Search Engines & Recommendation Systems

সার্চ আর রেকমেন্ডেশন, মূলত, র‍্যাংকিং সমস্যা: একটা query বা ইউজারের হিস্ট্রি দিয়ে, $P(\text{relevant} \mid \text{query, document})$ বা $P(\text{will click} \mid \text{user, item})$ অনুমান করা — আর সেই posterior probability দিয়ে রেজাল্ট বা রেকমেন্ডেশন re-rank করা।

• সার্চ র‍্যাংকিং: একটা সার্চ ইঞ্জিনের একটা ডকুমেন্ট সাধারণভাবে কতটা relevant সে সম্পর্কে prior বিশ্বাস থাকে (যেমন, এর সামগ্রিক কোয়ালিটি বা জনপ্রিয়তা), তারপর query শব্দের সাথে কতটা মিলছে সেই নির্দিষ্ট প্রমাণ দিয়ে সেই বিশ্বাসটা আপডেট করে — ওপরের স্প্যাম-ফিল্টারিং হিসাবের মতোই।
• কোলাবরেটিভ ফিল্টারিং রেকমেন্ডেশন: একটা রেকমেন্ডার সিস্টেমের ইউজার কী পছন্দ করতে পারে সে সম্পর্কে একটা prior থাকে (যেমন, আইটেমের সাধারণ জনপ্রিয়তার ওপর ভিত্তি করে), তারপর একই রকম ইউজাররা কী পছন্দ করেছে, বা এই নির্দিষ্ট ইউজার আগে কী ক্লিক, রেট বা কিনেছে, সেই প্রমাণ দিয়ে বিশ্বাসটা আপডেট করে।
• Click-through-rate prediction: বিজ্ঞাপন সিস্টেম একটা ইউজার বিজ্ঞাপনে ক্লিক করবে কিনা তার posterior probability অনুমান করে, একটা বেসলাইন ক্লিক রেট prior-এর সাথে ইউজারের কনটেক্সট, ডিভাইস, আর হিস্ট্রি থেকে প্রমাণ মিলিয়ে।

তিনটার মধ্যে যে জিনিসটা মিলে যায়: একটা যুক্তিসঙ্গত prior দিয়ে শুরু করা, তারপর observed evidence (query শব্দ, আগের আচরণ, একই রকম ইউজার) দিয়ে একটা আপডেটেড, evidence-adjusted posterior হিসাব করা — আর raw prior না, সেই posterior দিয়েই র‍্যাংক বা রেকমেন্ড করা।

Fraud Detection in Banking

ফ্রড ডিটেকশন মেডিকেল ডায়াগনসিস উদাহরণের মতোই একই "বিরল ইভেন্ট" গঠনের মুখোমুখি হয়, আর ঠিক একই ফাঁদে পড়ে: আসল ফ্রড বিরল, তাই একটা খুব নির্ভুল ডিটেক্টরও পরম সংখ্যায় প্রচুর মিথ্যা অ্যালার্ম তৈরি করে।

দৃষ্টান্তমূলক সেটআপ। ধরো লেনদেনের মাত্র ০.১% জালিয়াতি ($P(F) = 0.001$)। একটা ডিটেকশন মডেল আসল ফ্রডের ৯৫% সঠিকভাবে ফ্ল্যাগ করে ($P(\text{flag}\mid F) = 0.95$), কিন্তু বৈধ লেনদেনেও ২% ভুল অ্যালার্ম দেয় ($P(\text{flag}\mid \neg F) = 0.02$)। মেডিকেল উদাহরণের মতো একই natural-frequency পদ্ধতি ব্যবহার করে (১,০০,০০০ লেনদেনের মধ্যে: প্রায় ১০০টা ফ্রড, তার মধ্যে ৯৫টা ফ্ল্যাগ হয়; প্রায় ৯৯,৯০০টা বৈধ, তার মধ্যে প্রায় ১,৯৯৮টাও ফ্ল্যাগ হয়ে যায়), posterior দাঁড়ায়:

$$P(F \mid \text{flag}) = \frac{95}{95 + 1998} \approx 0.045$$

ফলাফল। ফ্ল্যাগ হওয়া লেনদেনের মাত্র প্রায় ৪.৫% আসলে জালিয়াতি। এটা মডেলের কোনো ব্যর্থতা না — এটা একটা বিরল ইভেন্ট শনাক্ত করার অনিবার্য গণিত। ঠিক এই কারণেই ব্যাংকগুলো প্রতিটা ফ্ল্যাগ স্বয়ংক্রিয়ভাবে ব্লক না করে ফ্ল্যাগ হওয়া লেনদেনগুলোকে অতিরিক্ত রিভিউ ধাপের মধ্য দিয়ে নিয়ে যায় (আরও প্রমাণের টুকরা), প্রতিটা অতিরিক্ত চেক আরেকটা Bayesian আপডেট হিসেবে কাজ করে যেটা posterior-কে আরও ধারালো করে।

Bayes' Theorem in Machine Learning

Bayes' Theorem শুধু কিছু classifier-এ মাঝেমধ্যে ব্যবহৃত একটা কৌশল না — এটা মেশিন লার্নিং-এর একটা পুরো শাখার (Bayesian machine learning) ভিত্তি। এর কয়েকটা বড় প্রয়োগ:

• Naive Bayes classifiers — classification-এ Bayes' Theorem-এর সরাসরি, সুস্পষ্ট প্রয়োগ (পরের সেকশনে পুরো প্রিভিউ)।
• মডেল প্যারামিটারের জন্য Bayesian inference — একটা একক "সেরা" ওয়েট সেট ফিট করার বদলে, ওয়েটগুলোকে নিজেরাই random variable হিসেবে ধরা, একটা prior distribution সহ, তারপর training data দিয়ে ওয়েটের ওপর একটা posterior distribution হিসাব করা। এতে শুধু একটা প্রেডিকশন না, প্লজিবল প্রেডিকশনের একটা ডিস্ট্রিবিউশন পাওয়া যায়, যেটা থেকেই প্রিন্সিপলড uncertainty estimate পাওয়া যায়।
• Maximum a Posteriori (MAP) estimation — একটা খুবই সাধারণ টেকনিক, যেটা Bayes' Theorem-এর অধীনে সবচেয়ে সম্ভাব্য প্যারামিটার সেটিং খুঁজে বের করে; দেখা যায় যে অনেক জনপ্রিয় regularization টেকনিক (যেমন L2 regularization / weight decay, এই কোর্সের math foundations-এ অন্য জায়গায় আলোচিত) ওয়েটের ওপর একটা নির্দিষ্ট prior বেছে নিয়ে করা MAP estimation-এর সাথে গাণিতিকভাবে সমতুল্য।
• Bayesian optimization — hyperparameter টিউনিং-এর জন্য ব্যবহৃত হয়, যেখানে hyperparameter সেটিং জুড়ে মডেলের পারফরম্যান্স কেমন আচরণ করে সে সম্পর্কে একটা prior বিশ্বাস প্রতিটা ট্রায়াল রানের পর আপডেট হয়, সার্চটাকে সম্ভাবনাময় অঞ্চলের দিকে নিয়ে যায়।
• A/B testing এবং Bayesian statistics — Bayesian পদ্ধতিতে এক্সপেরিমেন্টেশনে, শেষে শুধু একটা p-value হিসাব করার বদলে, ডেটা আসার সাথে সাথে একটা ভ্যারিয়েন্ট আরেকটার চেয়ে ভালো হওয়ার সম্ভাবনা আপডেট করা হয়।

Naive Bayes Classifier: A Preview

Naive Bayes classifier Bayes' Theorem সরাসরি classification-এ প্রয়োগ করে: একগুচ্ছ ফিচার $x_1, \dots, x_n$ (যেমন, একটা ইমেইলের শব্দগুলো) দিয়ে, সেই ক্লাস $C$ (যেমন, স্প্যাম বা স্প্যাম-না) বেছে নাও যেটা posterior probability $P(C \mid x_1, \dots, x_n)$-কে সর্বোচ্চ করে।

$$P(C \mid x_1, \dots, x_n) = \frac{P(x_1, \dots, x_n \mid C)\,P(C)}{P(x_1, \dots, x_n)}$$

"Naive" সরলীকরণকারী অনুমান: $P(x_1, \dots, x_n \mid C)$ ঠিকঠাক হিসাব করতে প্রতিটা ফিচার-জোড়ার মধ্যে প্রতিটা মিথস্ক্রিয়া মডেল করতে হবে, যেটা ফিচারের সংখ্যা বাড়ার সাথে সাথে অসাধ্য হয়ে যায়। Naive Bayes শুধু ধরে নেয় যে ক্লাস জানা থাকলে প্রতিটা ফিচার বাকি সব ফিচার থেকে conditionally independent:

$$P(x_1, \dots, x_n \mid C) \approx P(x_1\mid C)\,P(x_2\mid C)\cdots P(x_n\mid C)$$

কেন এটা গুরুত্বপূর্ণ: এই অনুমানটা বাস্তবে প্রায় কখনোই একদম সত্যি না (একটা বাক্যের শব্দগুলো স্পষ্টতই একে অপরের থেকে independent না), তবুও Naive Bayes বাস্তবে বিস্ময়করভাবে ভালো পারফর্ম করে — বিশেষ করে টেক্সট classification-এর মতো কাজে, যেমন স্প্যাম ফিল্টারিং, যেখানে এটা প্রবর্তনের কয়েক দশক পরেও একটা দ্রুত, শক্তিশালী বেসলাইন হিসেবে টিকে আছে।

যেহেতু $P(x_1, \dots, x_n)$ — evidence — যে ক্লাস $C$ মূল্যায়ন করা হচ্ছে তা নির্বিশেষে একই থাকে, classification-এর জন্য শুধু $P(x_1\mid C)\cdots P(x_n\mid C)\,P(C)$ ক্লাসগুলোর মধ্যে তুলনা করলেই হয়, সবচেয়ে বড়টা বেছে নিলেই হয়; কমন denominator-টা পুরোপুরি বাদ দেওয়া যায়। প্রতিটা প্র্যাকটিক্যাল Naive Bayes ইমপ্লিমেন্টেশন ঠিক এই শর্টকাটটাই ব্যবহার করে। Naive Bayes-এর একটা সম্পূর্ণ, ডেডিকেটেড আলোচনা — training, smoothing, আর কোড সহ — নিজের চ্যাপ্টারে থাকা উচিত; এই প্রিভিউটা শুধু এই জন্য, যাতে ওই চ্যাপ্টারে পৌঁছালে ওপরের ফর্মুলাটা তোমার কাছে অচেনা না লাগে।

Likelihood vs Probability vs Posterior

এই তিনটা শব্দ সাধারণ কথাবার্তায় শিথিলভাবে ব্যবহৃত হয়, কিন্তু Bayes' Theorem-এ এদের প্রত্যেকটার নির্দিষ্ট, আলাদা অর্থ আছে, আর এদের গুলিয়ে ফেলা একটা সাধারণ ভুল বোঝাবুঝির উৎস।

সবচেয়ে সূক্ষ্ম পয়েন্টটা: "likelihood" টেকনিক্যালি hypothesis-এর একটা ফাংশন, fixed, observed ডেটার ওপর মূল্যায়িত — hypothesis-এর ওপর কোনো probability distribution না। দুইটা ভিন্ন hypothesis $A$ আর $A'$-এর জন্য $P(B\mid A)$ আর $P(B\mid A')$-কে একটা সত্যিকার probability distribution-এর মতো ১-এ যোগ হতেই হবে এমন কোনো বাধ্যবাধকতা নেই। শুধু posterior, $P(A\mid B)$, hypothesis-এর ওপর একটা প্রকৃত probability distribution (evidence দিয়ে সঠিকভাবে normalize করার পর, hypothesis-গুলোর ওপর এটা ১-এ যোগ হয়)।

Common Misconceptions

Advantages of Bayes' Theorem

• Conditional probability সঠিকভাবে উল্টায় — ঠিক এই সমস্যা সমাধানের জন্যই এটা বানানো হয়েছিল, আর ইনটুইশন এখানে বারবার ব্যর্থ হয়।
• স্বাভাবিকভাবেই prior জ্ঞান অন্তর্ভুক্ত করে — ঐতিহাসিক ডেটা, এক্সপার্ট বিচার, বা আগের ফলাফল — সবকিছু একটা শুরুর prior হিসেবে মিলিয়ে নেওয়া যায়, বাদ দেওয়ার বদলে।
• ক্রমান্বয়ে আপডেট হয় — এক রাউন্ড প্রমাণের posterior পরের রাউন্ডের prior হয়ে যায়, যেটা স্ট্রিমিং ডেটা বা ধারাবাহিক সিদ্ধান্ত নেওয়ার জন্য স্বাভাবিকভাবেই উপযুক্ত।
• শুধু একটা সেরা অনুমান না, unceratinty পরিমাপ করে — আউটপুটটা একটা probability, যেটা তুলনা করা যায়, থ্রেশহোল্ড করা যায়, বা কস্ট/বেনিফিট অ্যানালাইসিসের সাথে মেলানো যায় (যেমন, "এই posterior যথেষ্ট বেশি, তাই আরও মেডিকেল টেস্ট করানো যুক্তিসঙ্গত")।
• কার্যকর, প্রোডাকশন-গ্রেড সিস্টেমের ভিত্তি — স্প্যাম ফিল্টার, ফ্রড ডিটেকশন, মেডিকেল স্ক্রিনিং প্রোটোকল, আর Naive Bayes classifier — সবগুলোই আজ, বড় স্কেলে, সরাসরি এর ওপর চলে।

Limitations of Bayes' Theorem

• prior বাছাইয়ের প্রতি sensitive — একটা খারাপভাবে বেছে নেওয়া বা biased prior posterior-কে বিকৃত করতে পারে, বিশেষ করে যখন পাওয়া প্রমাণ দুর্বল বা কম।
• likelihood আর prior জানা (বা অনুমান করা) দরকার — বাস্তব প্রয়োগে এই সংখ্যাগুলো তোমাকে হাতে ধরিয়ে দেওয়া হয় না; ডেটা থেকে অনুমান করতে হয়, আর অনুমানের ভুল সরাসরি posterior-এ ছড়িয়ে পড়ে।
• evidence টার্ম $P(B)$ হিসাব করা খুবই ব্যয়বহুল হতে পারে — জটিল, high-dimensional সমস্যার জন্য (অনেক মেশিন লার্নিং মডেল), প্রতিটা সম্ভাব্য hypothesis-এর ওপর যোগ বা ইন্টিগ্রেট করা প্রায়ই কম্পিউটেশনালি অসাধ্য, ঠিক এই কারণেই বাস্তবে অনেক পদ্ধতি এটা সঠিকভাবে হিসাব করার বদলে আনুমানিক হিসাব করে।
• Naive Bayes-এর independence assumption প্রায়ই অবাস্তব — ওপরে উল্লেখিত, ক্লাস জানা থাকলে প্রতিটা ফিচারকে independent ধরাটা একটা সরলীকরণ, জগতের একটা সত্য না, আর ফিচার শক্তিশালীভাবে correlated হলে এটা নির্ভুলতা কমিয়ে দিতে পারে।
• ভুলভাবে প্রয়োগ করা সহজ — Misconceptions সেকশনে দেখানো হয়েছে, এটা একটা ছোট ফর্মুলা, কিন্তু এর চারটা উপাদানের যেকোনো একটা ভুল বুঝলেই এটা বিস্ময়করভাবে ভুল ব্যবহার হয়ে যেতে পারে।

Real-World Applications

Worked Examples

উদাহরণ ১ — দুইটা কলস (urn)। কলস A-তে ৩টা লাল আর ৭টা নীল বল। কলস B-তে ৬টা লাল আর ৪টা নীল বল। তুমি র‍্যান্ডমলি একটা কলস বেছে নাও (৫০/৫০) আর একটা বল তুলো, সেটা লাল হয়ে গেলো। তুমি কলস A বেছে নিয়েছিলে তার সম্ভাবনা কত?

$$P(\text{red}) = (0.3)(0.5) + (0.6)(0.5) = 0.15 + 0.30 = 0.45$$ $$P(A \mid \text{red}) = \frac{(0.3)(0.5)}{0.45} = \frac{0.15}{0.45} = \frac{1}{3} \approx 0.333$$

লাল বল তোলাটা কলস A-কে ৫০% prior-এর চেয়ে কম সম্ভাব্য করে দিলো, কারণ কলস B থেকে লাল বল আসার সম্ভাবনা অনেক বেশি।

উদাহরণ ২ — ক্রমান্বয়ে আপডেট (sequential updating)। disease উদাহরণের সংখ্যা ব্যবহার করে, ধরো একই রোগী একই ধরনের একটা দ্বিতীয়, স্বাধীন টেস্ট করায়, আর সেটাও positive আসে। প্রথম টেস্ট থেকে পাওয়া posterior, $P(D\mid +) \approx 0.154$, এখন দ্বিতীয় টেস্টের নতুন prior হয়ে যায়।

$$P(+) = (0.90)(0.154) + (0.05)(0.846) = 0.1386 + 0.0423 = 0.1809$$ $$P(D \mid ++) = \frac{(0.90)(0.154)}{0.1809} = \frac{0.1386}{0.1809} \approx 0.766$$

দুইটা স্বাধীন positive টেস্ট রোগ থাকার সম্ভাবনাকে ১% থেকে সরাসরি প্রায় ৭৬.৬%-এ ঠেলে দেয় — এটা সরাসরি দেখায় কেন ডাক্তাররা এক টেস্টের ওপর ভরসা না করে একটা কনফার্মেটরি দ্বিতীয় টেস্ট চান।

Practice Problems

ওপরের worked example-এ ব্যবহৃত পদ্ধতি দেখার আগে এগুলো নিজে চেষ্টা করো।

1. একটা ব্যাগে ২টা ফেয়ার কয়েন আর ১টা দুই-হেড ওয়ালা (ট্রিক) কয়েন আছে। তুমি র‍্যান্ডমলি একটা কয়েন তুলে দুইবার টস করো, দুইবারই হেড আসে। তুমি ট্রিক কয়েনটা তুলেছিলে তার সম্ভাবনা কত?
2. একটা কারখানার কোয়ালিটি কন্ট্রোল ভালো পার্টের ৮%-কে ডিফেক্টিভ হিসেবে ফ্ল্যাগ করে (false positive) আর আসল ডিফেক্টিভ পার্টের ৯৭%-কে সঠিকভাবে ফ্ল্যাগ করে। মাত্র ৩% পার্ট আসলে ডিফেক্টিভ। একটা পার্ট ফ্ল্যাগ হলে, এটা আসলে ডিফেক্টিভ হওয়ার সম্ভাবনা কত?
3. একটা শহরে, ৪০% দিন আর্দ্র থাকে। আর্দ্র দিনের ২৫%-এ বজ্রঝড় হয়, আর অ-আর্দ্র দিনের ৫%-এ। আজ বজ্রঝড় হয়েছে জানলে, আজ আর্দ্র ছিল তার সম্ভাবনা কত?
4. স্প্যাম উদাহরণটা আবার দেখো, কিন্তু ধরো একই ইমেইলে দুইটা স্বাধীন "স্প্যামি" শব্দ আছে, আগের উদাহরণের "free"-এর মতো একই likelihood নিয়ে। শব্দগুলোকে conditionally independent ধরে (Naive Bayes-এর মতো) নতুন posterior হিসাব করো।

Interview Questions

Viva Questions

এগুলো এমন দ্রুত, মৌখিক প্রশ্ন যেগুলো viva বা মৌখিক পরীক্ষায় জিজ্ঞেস করা হতে পারে — চ্যাপ্টারের সংশ্লিষ্ট সেকশন দেখার আগে জোরে বলে উত্তর দেওয়ার চেষ্টা করো।

1. Bayes' Theorem লিখো আর এর চারটা টার্ম চিহ্নিত করো। (দেখো "Understanding the Bayes' Theorem Formula"।)
2. শুধু conditional probability-র সংজ্ঞা থেকে শুরু করে Bayes' Theorem ডেরাইভ করো। (দেখো "Deriving Bayes' Theorem"।)
3. একটা Naive Bayes classifier-এ "naive" অনুমানটা কী, আর এটা অবাস্তব হওয়া সত্ত্বেও কেন করা হয়? (দেখো "Naive Bayes Classifier: A Preview"।)
4. এক লাইনে ব্যাখ্যা করো কেন সাধারণভাবে $P(A\mid B) \neq P(B\mid A)$। (দেখো "Why P(A|B) Is Not the Same as P(B|A)"।)
5. Law of total probability কী, আর Bayes' Theorem-এর ভেতরে এটা কোথায় দেখা যায়? (দেখো "Breaking Down the Components"।)
6. এমন একটা বাস্তব-জগতের উদাহরণ দাও যেখানে খুব নির্ভুল একটা টেস্টও বেশিরভাগ false positive তৈরি করে, আর ব্যাখ্যা করো কেন। (দেখো "Medical Diagnosis Example" বা "Fraud Detection in Banking"।)
7. Likelihood কি hypothesis-গুলোর ওপর একটা probability distribution? তোমার উত্তরের যুক্তি দাও। (দেখো "Likelihood vs Probability vs Posterior"।)

Exam Questions

1. (সংক্ষিপ্ত উত্তর) Bayes' Theorem-এর নোটেশন ব্যবহার করে prior, likelihood, evidence, আর posterior probability সংজ্ঞায়িত করো।
2. (ডেরিভেশন) Conditional probability-র সংজ্ঞা থেকে শুরু করে Bayes' Theorem ডেরাইভ করো। প্রতিটা ধাপ দেখাও।
3. (সংখ্যাগত) একটা জনগোষ্ঠীর ২%-এ উপস্থিত একটা অবস্থার জন্য একটা স্ক্রিনিং টেস্টের true positive rate ৯২% আর false positive rate ৮%। যার টেস্ট positive এসেছে তার আসলে অবস্থাটা থাকার সম্ভাবনা হিসাব করো।
4. (ধারণাগত) একটা নির্দিষ্ট উদাহরণ দিয়ে base rate fallacy ব্যাখ্যা করো, আর বর্ণনা করো Bayes' Theorem কীভাবে এটা এড়ায়।
5. (প্রয়োগমূলক) বর্ণনা করো একটা Naive Bayes স্প্যাম classifier-এর ভেতরে Bayes' Theorem কীভাবে ব্যবহৃত হয়, independence assumption-এর ভূমিকা সহ।
6. (বিস্তৃত) একটা বিরল রোগের জন্য দুইটা স্বাধীন, একই ধরনের টেস্টে একজন রোগীর ফলাফল positive আসে। Bayesian updating ব্যবহার করে ব্যাখ্যা করো, কেন দুইটা টেস্টের মিলিত প্রমাণ যেকোনো একটা টেস্টের চেয়ে অনেক বেশি posterior দেয়।

Common Mistakes

Summary & Key Takeaways