Optimization Theory

ভূমিকা (Motivation)

ধরুন, আপনি রাতের বেলা কুয়াশায় ঢাকা কোনো এক পাহাড়ি রেঞ্জের ওপর দাঁড়িয়ে আছেন, আর আপনার একমাত্র লক্ষ্য হলো সবচেয়ে নিচু উপত্যকায় পৌঁছানো। কিন্তু আপনি চারপাশে কয়েক ফুটের বেশি কিছুই দেখতে পাচ্ছেন না। আপনি কেবল নিজের পায়ের নিচের ঢাল বা স্লোপটুকু অনুভব করতে পারেন, নিচের দিকে এক পা ফেলতে পারেন, আবার ঢাল অনুভব করতে পারেন, এবং এই কাজটির পুনরাবৃত্তি করতে পারেন। ব্যস, এটুকুই। এটাই হলো আপনার পুরো স্ট্র্যাটেজি।

এই অন্ধের মতো, ধাপে ধাপে নিচে নামার বিষয়টা শুধু যে একটা আলগা মেটাফোর বা রূপক, তা নয় — প্রতিবার যখন একটি নিউরাল নেটওয়ার্ক ট্রেন বা প্রশিক্ষিত হয়, তখন প্রায় হুবহু এটাই ঘটে। "একটি মডেলকে ট্রেন করা" কথাটি শুনতে খুব রহস্যময় বা প্রায় জাদুকরী কোনো প্রক্রিয়া বলে মনে হলেও, এর বাইরের কঠিন শব্দগুলোর আড়ালে এটি খুব স্পষ্ট একটি কাজ: সেই নম্বরগুলোর (ওয়েটস এবং বায়াস বা weights and biases) সেট খুঁজে বের করা যা একটি লস ফাংশনকে (loss function) যতটা সম্ভব ছোট করে তোলে। আপনি এ পর্যন্ত যত নিউরন, যত লেয়ার, যত অ্যাক্টিভেশন ফাংশন সম্পর্কে পড়েছেন, সেগুলোর আসল উদ্দেশ্যই হলো শেষ পর্যন্ত কোনো এক প্রক্রিয়ার মাধ্যমে সবকিছুর জন্য ভালো মান বা ভ্যালু খুঁজে বের করা। এই চ্যাপ্টারটি হলো সেই "কোনো এক প্রক্রিয়াটি" নিয়েই।

একটি বাস্তব জীবনের উদাহরণ (A Real-Life Scenario)

ভাবুন তো, একটি ডেলিভারি কোম্পানি প্রতিদিন তাদের ট্রাকগুলোর মোট চলার দূরত্ব কমানোর চেষ্টা করছে। এমন কোনো ফর্মুলা নেই যা একবার সমাধান করলেই কাজ শেষ — এখানকার "খরচ" বা "cost" (অর্থাৎ মোট দূরত্ব) শত শত পরস্পর নির্ভরশীল সিদ্ধান্তের ওপর নির্ভর করে (কোন ট্রাক কোথায় যাবে, কোন ক্রমে বা অর্ডারে যাবে), আর সম্ভাব্য খরচের ল্যান্ডস্কেপটি বা ভূদৃশ্যটি বেশ এবড়োখেবড়ো, যা ভালো-খারাপ বিভিন্ন অঞ্চলে ভরা, এবং সবচেয়ে ভালোটিতে পৌঁছানোর কোনো সহজ বা শর্টকাট পথ নেই। কোম্পানির প্ল্যানাররা রুটগুলোকে একটু একটু করে পরিবর্তন করেন বা নাড়াচাড়া করেন, তারপর দেখেন যে মোট দূরত্ব কমল কি না, আবার একটু পরিবর্তন করেন, এবং এই কাজটির পুনরাবৃত্তি করতে থাকেন।

একটি নিউরাল নেটওয়ার্কের ট্রেনিং লুপ বা training loop ঠিক একই গল্প, শুধু পার্থক্য হলো এখানকার "রুট" বা পথগুলো হলো মিলিয়ন মিলিয়ন ওয়েটস, আর "মোট দূরত্ব" হলো লস ফাংশন। একজন মানুষ নিজে হাতে নাড়াচাড়া করার বদলে, এখানে গ্রেডিয়েন্ট ডিসেন্ট (gradient descent) স্বয়ংক্রিয়ভাবে সেই নাড়াচাড়ার কাজটা করে, যেখানে অনুমানের বদলে ক্যালকুলাসের বা calculus-এর সাহায্য নেওয়া হয়।

মূল ধারণা তৈরি করা (Building the Intuition)

কোনো ইকুয়েশন বা সমীকরণ ধরার আগেই, এই তিনটি ধারণা মনে গেঁথে নিন:

• ট্রেনিং হলো একটি অনুসন্ধান বা search, কোনো সাধারণ হিসাব-নিকাশ বা calculation নয়। এমন কোনো ম্যাজিক ফর্মুলা নেই যা আপনাকে সরাসরি সেরা ওয়েটসগুলো বের করে দেবে — নেটওয়ার্ককে ধাপে ধাপে চেষ্টা করতে হয়, মাপতে হয় এবং নিজেকে মানিয়ে নিতে হয়।
• লস ফাংশন (loss function)-টিই হলো সেই ল্যান্ডস্কেপ বা ভূদৃশ্য। ওয়েটসের সম্ভাব্য প্রতিটি সেটিং হলো এই ল্যান্ডস্কেপের ওপর একটি নির্দিষ্ট পয়েন্ট বা বিন্দু, আর ওই পয়েন্টের উচ্চতাটি নির্দেশ করে যে নেটওয়ার্কের প্রেডিকশনগুলো কতটা খারাপ। ট্রেনিং করার অর্থ হলো এই ল্যান্ডস্কেপ ধরে নিচের দিকে হাঁটা বা নামা।
• ল্যান্ডস্কেপের আকার বা shape প্রচণ্ড গুরুত্বপূর্ণ। একটি মসৃণ বাটির মতো ল্যান্ডস্কেপ ধরে নিচে নামা খুব সহজ — যেকোনো জায়গা থেকে ঢাল বেয়ে নিচে নামতে থাকুন, আর আপনি শেষমেশ ওই একমাত্র তলানিতে গিয়ে পৌঁছবেনই। কিন্তু গর্ত, খাঁজ এবং সমতল মালভূমিতে ভরা একটি ল্যান্ডস্কেপে হাঁটা অনেক বেশি কঠিন, আর একটি আসল নিউরাল নেটওয়ার্ক ঠিক এই দ্বিতীয় ধরনের ল্যান্ডস্কেপই তৈরি করে।

এর পেছনের গণিত (The Math Behind It)

একটি অপ্টিমাইজেশন প্রবলেম হিসেবে ট্রেনিং (Training as an Optimization Problem)

কনভেক্স বনাম নন-কনভেক্স ল্যান্ডস্কেপ (Convex vs. Non-Convex Landscapes)

ক্রিটিকাল পয়েন্ট: মিনিমা, ম্যাক্সিমা এবং স্যাডল পয়েন্ট (Critical Points: Minima, Maxima, and Saddle Points)

একটি ক্রিটিকাল পয়েন্ট (critical point) হলো এমন যেকোনো পয়েন্ট $\theta$ যেখানে $\nabla L(\theta) = \mathbf{0}$ — অর্থাৎ ল্যান্ডস্কেপটি ওই মুহূর্তে সব দিকেই সমতল। কিন্তু সব সমতল জায়গাই এক রকম নয়:

ব্যাচ, স্টোকাস্টিক এবং মিনি-ব্যাচ গ্রেডিয়েন্ট ডিসেন্ট (Batch, Stochastic, and Mini-Batch Gradient Descent)

আপডেটের মূল নিয়মটি বা রুলটি হলো $\theta \leftarrow \theta - \eta\nabla_\theta L(\theta)$, কিন্তু এর ভেতরেই একটি পছন্দ লুকিয়ে আছে: একটি ধাপ ফেলার আগে গ্রেডিয়েন্ট ক্যালকুলেট করার জন্য আপনি ঠিক কতটুকু ডেটা ব্যবহার করবেন?

এদের পূর্ণাঙ্গ তুলনা — কোডসহ এবং অ্যাডামের (Adam) মতো আধুনিক অপ্টিমাইজারের সাথে এগুলো কীভাবে কাজ করে তা নিয়ে — পরের চ্যাপ্টারে বিস্তারিত আলোচনা করা হয়েছে। আপাতত, মূল ধারণাটি হলো "গ্রেডিয়েন্ট ডিসেন্ট" কোনো একটি একক অ্যালগরিদম নয়, বরং এটি একটি ফ্যামিলি বা পরিবার।

লার্নিং রেট-এর ভূমিকা (The Role of the Learning Rate)

মোমেন্টাম এবং লার্নিং রেট শিডিউলিং: একটি ঝলক (A Glimpse of Momentum and Learning Rate Scheduling)

সাধারণ গ্রেডিয়েন্ট ডিসেন্টের একটি সীমাবদ্ধতা হলো এটির কোনো "স্মৃতি" নেই — প্রতিটি ধাপ শুধু বর্তমান গ্রেডিয়েন্টের ওপর নির্ভর করে, আগের ধাপগুলোর ওপর নয়। এর ফলে এটি সরু, প্রসারিত উপত্যকায় (যেমন উপরের দ্বিতীয় উদাহরণে) ধীরে ধীরে দুলতে দুলতে এগোয়।

লার্নিং রেট $\eta$ ট্রেনিং জুড়ে স্থির রাখারও দরকার নেই। একটি জনপ্রিয় কৌশল হলো লার্নিং রেট শিডিউলিং (learning rate scheduling), যেখানে ট্রেনিংয়ের শুরুতে বড় $\eta$ দিয়ে দ্রুত অগ্রসর হওয়া হয়, তারপর ধীরে ধীরে $\eta$ ছোট করা হয় যাতে শেষের দিকে মিনিমামের কাছাকাছি সূক্ষ্মভাবে (fine-tune) স্থির হওয়া যায়।

হাতে-কলমে গাণিতিক উদাহরণ: গ্রেডিয়েন্ট ডিসেন্ট (Worked Example: Gradient Descent by Hand)

ধরা যাক, $L(\theta) = \theta^2 - 4\theta + 5$ কে মিনিমাইজ করতে হবে, শুরু করা হচ্ছে $\theta_0 = 0$ থেকে এবং লার্নিং রেট $\eta = 0.3$ দিয়ে।

প্রথম ধাপ — গ্রেডিয়েন্ট: $L'(\theta) = 2\theta - 4$।

ইটারেশন ১: $\theta_0 = 0 \implies L'(0) = -4 \implies \theta_1 = 0 - 0.3(-4) = 1.2$

ইটারেশন ২: $\theta_1 = 1.2 \implies L'(1.2) = -1.6 \implies \theta_2 = 1.2 - 0.3(-1.6) = 1.68$

ইটারেশন ৩: $\theta_2 = 1.68 \implies L'(1.68) = -0.64 \implies \theta_3 = 1.68 - 0.3(-0.64) = 1.872$

প্রতিটি ধাপের পর সংশোধনের বা কারেকশনের পরিমাণ ছোট হতে থাকে কারণ $\theta$ মিনিমামের দিকে এগোতে থাকে — অর্থাৎ গ্রেডিয়েন্ট নিজেই ছোট হতে থাকে, যেহেতু $L'(\theta) = 2\theta - 4$, $\theta \to 2$ হওয়ার সাথে সাথে শূন্যের দিকে এগোয়। এভাবেই চলতে থাকলে, $\theta$ একসময় $\theta^{*}=2$-এর দিকে কনভার্জ করে বা স্থির হয়, যা বীজগণিত বা অ্যালজেবরা দিয়েও মিলে যায়: $L'(\theta) = 0 \implies \theta = 2$, এবং $L''(\theta) = 2 > 0$ নিশ্চিত করে যে এটি আসলেই একটি মিনিমাম, ম্যাক্সিমাম নয়।

দ্বিতীয় উদাহরণ — দুটি প্যারামিটার একসাথে (Gradient Descent in Two Dimensions): এবার ধরা যাক একটি এমন লস আছে যা দুটি প্যারামিটারের ওপর নির্ভর করে: L(w1,w2) = w1^2 + 4w2^2। এটি আসলে ক্যালকুলাস চ্যাপ্টারে দেখা ImagePlaceholder-এর উপবৃত্তাকার (elliptical) বাটি-আকৃতির লসেরই একটি সংস্করণ। শুরু করা হচ্ছে (w1,w2) = (2, 1) থেকে, লার্নিং রেট η = 0.1 দিয়ে।

গ্রেডিয়েন্ট: ∂L/∂w1 = 2w1, ∂L/∂w2 = 8w2।

ইটারেশন ১: গ্রেডিয়েন্ট (4, 8)-এ, তাই (w1,w2) = (2 - 0.1(4), 1 - 0.1(8)) = (1.6, 0.2)

ইটারেশন ২: গ্রেডিয়েন্ট (3.2, 1.6)-এ, তাই (w1,w2) = (1.6 - 0.1(3.2), 0.2 - 0.1(1.6)) = (1.28, 0.04)

খেয়াল করুন একটি গুরুত্বপূর্ণ ব্যাপার: w2 (যার গ্রেডিয়েন্টের সহগ 8, অনেক বড়) w1-এর (সহগ 2) চেয়ে অনেক দ্রুত মিনিমামের কাছে পৌঁছে যাচ্ছে। এটিই হলো একটি "প্রসারিত" বা elongated বাটি-আকৃতির লস ল্যান্ডস্কেপের বৈশিষ্ট্য, যেখানে বিভিন্ন দিকে বক্রতা (curvature) ভিন্ন ভিন্ন হয়। এই ধরনের ভিন্ন ভিন্ন বক্রতার সমস্যাটিই মোমেন্টাম এবং অ্যাডাম-এর মতো আধুনিক অপ্টিমাইজারের মূল অনুপ্রেরণা, যা পরের চ্যাপ্টারে বিস্তারিত আলোচনা করা হয়েছে।

Implementation

import numpy as np
 
def L(theta):
    return theta**2 - 4*theta + 5
 
def grad_L(theta):
    return 2*theta - 4
 
theta = 0.0
lr = 0.3
history = [theta]
 
for step in range(15):
    g = grad_L(theta)
    theta = theta - lr * g
    history.append(theta)
 
print("Trajectory of theta:", [round(t, 4) for t in history])
print("Final theta (should approach 2.0):", round(theta, 4))
print("Final loss (should approach 1.0):", round(L(theta), 4))

এটি ঠিক হাতে-কলমে করা উদাহরণের মতোই কাজ করে: প্রতিটি ইটারেশন বর্তমান পয়েন্টে গ্রেডিয়েন্ট নতুন করে ক্যালকুলেট করে এবং তার উল্টোদিকে একটি আনুপাতিক ধাপ ফেলে। কোডটি রান করলে দেখা যায় যে theta প্রায় 2.0-এর দিকে কনভার্জ করে, যা গাণিতিক সমাধানের সাথে পুরোপুরি মিলে যায়।

মূল বিষয়গুলো (Key Takeaways)

সাধারণ ভুল ধারণা (Common Mistakes)

ইন্টারভিউ কর্নার (Interview Corner)

বাস্তবে এটি কোথায় দেখা যায় (Where This Shows Up in Practice)

আপনি জীবনে যত ট্রেনিং রান (training run) চালু করবেন — তা সে দুই-লেয়ারের MLP হোক বা এক-বিলিয়ন-প্যারামিটারের ল্যাঙ্গুয়েজ মডেলই হোক — তার প্রতিটিই ঠিক এই অনুসন্ধান সমস্যাটিরই বা search problem-এর এক একটি উদাহরণ। এই অনুসন্ধান চালানোর জন্য ব্যবহৃত সুনির্দিষ্ট অ্যালগরিদমটি (যেমন সাধারণ গ্রেডিয়েন্ট ডিসেন্ট, মোমেন্টাম, অ্যাডাম এবং আরও অনেক কিছু) পরের দুটি চ্যাপ্টারের মূল বিষয়, কিন্তু এর ভেতরের মূল লক্ষ্যটি কখনোই বদলায় না: গ্রেডিয়েন্টের সাহায্যে এমন একটি $\theta$ খুঁজে বের করা যা ধাপে ধাপে $L(\theta)$-কে যতটা সম্ভব ছোট করে তোলে।