Biological vs. Artificial Neurons

ভূমিকা (Motivation)

"Neural network" নামটাই মার্কেটিংয়ের একটা বড় কাজ করে দেয়। এটি শুনলেই মনে হয় যেন সিলিকন দিয়ে তৈরি কোনো মস্তিষ্কের কথা বলা হচ্ছে, আর এমনটা ভাবা পুরোপুরি ভুলও নয় — কারণ আর্টিফিশিয়াল নিউরন সত্যিই বায়োলজিক্যাল বা জৈবিক নিউরন দ্বারা অনুপ্রাণিত হয়ে তৈরি হয়েছিল। কিন্তু এই সাদৃশ্য বা অ্যানালজি (analogy)-কে প্রায়শই এত বেশি ফুলিয়ে-ফাঁপিয়ে প্রচার করা হয় যে, কোর্সের শুরুতেই আপনার মনে একটি মারাত্মক ভুল মেন্টাল মডেল (mental model) তৈরি হয়ে যেতে পারে। একটি মাত্র আর্টিফিশিয়াল নিউরন তৈরি করার আগে, এই একটি চ্যাপ্টারে সময় দেওয়াটা খুব জরুরি, যাতে আপনি পরিষ্কারভাবে বুঝতে পারেন মস্তিষ্কের সাথে এই তুলনার ঠিক কোন অংশগুলো আসলে টেকে, আর কোন অংশগুলো চুপিসারে খসে পড়ে।

এই তুলনাটি নিছক কৌতূহল মেটানোর জন্য নয় — এটি একটি ব্যবহারিক প্রয়োজনীয়তা। যখন আপনি পরের চ্যাপ্টারগুলোতে "weight", "bias", "activation"-এর মতো শব্দগুলোর মুখোমুখি হবেন, তখন যদি আপনার মাথায় একটি পরিষ্কার বায়োলজিক্যাল ছবি গাঁথা থাকে, তবে ওই টার্মগুলো আর নিছক বিমূর্ত গণিত মনে হবে না — সেগুলো একেকটা গল্পের অংশ মনে হবে, যার প্রতিটির পেছনে একটা কারণ আছে। কিন্তু ঠিক এই একই কারণে ভুল ধারণাগুলোও এখানেই সবচেয়ে বেশি গেঁথে বসে যায়, কারণ এই পর্যায়ে শিক্ষার্থীরা প্রায়ই ধরে নেয় যে যেহেতু নামটা "নিউরাল" (neural), তাই বোধহয় প্রতিটি ডিজাইন সিদ্ধান্তের পেছনেই একটি নিউরোসায়েন্টিফিক ব্যাখ্যা আছে। বাস্তবতা তার চেয়ে অনেক বেশি ব্যবহারিক এবং অনেক কম রোমান্টিক — আর এই চ্যাপ্টারের লক্ষ্যই হলো ঠিক এই ব্যবধানটি স্পষ্ট করে তোলা।

একটি বাস্তব জীবনের উদাহরণ (A Real-Life Scenario)

একটু কল্পনা করুন তো, আপনি আপনার এক কৌতূহলী বন্ধুকে বোঝাচ্ছেন যে কীভাবে আপনি দেয়ালের ওপার থেকেও আপনার নিজের কুকুরের ডাক আর প্রতিবেশীর কুকুরের ডাকের পার্থক্য বুঝতে পারেন। আপনার শোনার সিস্টেমের বা অডিটরি সিস্টেমের (auditory system) কোথাও না কোথাও, আপনার কান থেকে সিগন্যাল নিউরনের বিভিন্ন লেয়ার বা স্তরের মধ্য দিয়ে যায়। প্রতিটি নিউরন হাজার হাজার অন্য নিউরনের ইনপুটের ওপর ভিত্তি করে সিদ্ধান্ত নেয় যে সে সিগন্যালটিকে সামনের দিকে পাস করবে কি না, আর এই পুরো প্রক্রিয়াটি তৈরি হয়েছে সারাজীবন ধরে ওই দুটি কুকুরের ডাক শোনার অভিজ্ঞতার মধ্য দিয়ে। কেউ এই সার্কিটটি ডিজাইন করে দেয়নি। এটি অভিজ্ঞতা থেকে নিজে নিজেই তৈরি হয়েছে, প্রতিটি কানেকশন একটু একটু করে অ্যাডজাস্ট হওয়ার মাধ্যমে।

এবার কল্পনা করুন একটি ভয়েস-অ্যাসিস্ট্যান্ট অ্যাপও ঠিক এরকমই কাছাকাছি একটা কিছু করছে: চারপাশের নানা শব্দের ভিড় থেকে "Hey Siri"-কে আলাদা করে চিনতে পারছে। এর ভেতরে আসলে কাজ করছে আর্টিফিশিয়াল নিউরনের একটি নেটওয়ার্ক, যা ট্রেনিংয়ের সময় এর কানেকশনের শক্তিকে (connection strengths) এমনভাবে অ্যাডজাস্ট করে যাতে সঠিক শব্দের প্যাটার্ন আসলে সঠিক রেসপন্স তৈরি হয়। এই দুটি সিস্টেমের একটি সাধারণ পূর্বপুরুষ বা আইডিয়া আছে — সিগন্যালগুলোকে এক করা এবং সামনের দিকে পাস করা, এবং কানেকশনের শক্তি যা অভিজ্ঞতার সাথে সাথে পরিবর্তিত হয় — কিন্তু তারা সম্পূর্ণ আলাদা উপাদান দিয়ে তৈরি, আর তাদের কাজ করার নিয়মও সম্পূর্ণ আলাদা। এই বাক্যের দুটি অংশকেই খুব ভালোভাবে বোঝাই হলো এই চ্যাপ্টারের মূল লক্ষ্য।

মূল ধারণা তৈরি করা (Building the Intuition)

বায়োলজিক্যাল নিউরন (The biological neuron)

একটি বায়োলজিক্যাল নিউরনের মূলত চারটি অংশ রয়েছে যাদের নাম জানাটা জরুরি, কারণ কোর্সের বাকি অংশে আপনি এদের আর্টিফিশিয়াল রূপগুলোর মুখোমুখি হবেন।

একটি বায়োলজিক্যাল নিউরন তখনই "ফায়ার" করে — অর্থাৎ তার অ্যাক্সন দিয়ে সিগন্যাল পাঠায় — যখন তার ডেনড্রাইটসে আসা মোট ইনপুট একটি নির্দিষ্ট থ্রেশহোল্ড (threshold) বা মাত্রা অতিক্রম করে। এই 'হয় সব, নয় কিছুই না' (all-or-nothing) ফায়ারিং আচরণটিই একেবারে শুরুর দিকের আর্টিফিশিয়াল নিউরন মডেলগুলোর (যেমন আগের চ্যাপ্টারে পড়া ম্যাককালচ-পিটস নিউরন) থ্রেশহোল্ড-ভিত্তিক অ্যাক্টিভেশনকে অনুপ্রাণিত করেছিল।

সিন্যাপটিক প্লাস্টিসিটি: মস্তিষ্ক কীভাবে শেখে (Synaptic Plasticity: How the Brain Learns)

শুধু নিউরন কীভাবে ফায়ার করে তা জানাই যথেষ্ট নয় — আসল প্রশ্নটি হলো, নিউরনগুলো শেখে কীভাবে? উত্তরটি হলো সিন্যাপটিক প্লাস্টিসিটি (synaptic plasticity): সিন্যাপসের শক্তি স্থির নয়, বরং অভিজ্ঞতার সাথে সাথে বদলাতে থাকে। ১৯৪৯ সালে মনোবিজ্ঞানী Donald Hebb একটি সহজ কিন্তু অত্যন্ত প্রভাবশালী নিয়ম প্রস্তাব করেছিলেন, যাকে আজ Hebbian learning বলা হয়, এবং যা প্রায়ই এভাবে সংক্ষেপ করা হয়: "যে নিউরনগুলো একসাথে ফায়ার করে, তারা একসাথে যুক্তও থাকে (cells that fire together, wire together)।" অর্থাৎ, যদি নিউরন A বারবার নিউরন B-কে ফায়ার করাতে সাহায্য করে, তবে তাদের মধ্যকার সিন্যাপসের শক্তি ধীরে ধীরে বাড়তে থাকে — এই প্রক্রিয়াটিকে বলা হয় long-term potentiation (LTP)।

এই আইডিয়াটি শুনতে পরের চ্যাপ্টারের perceptron লার্নিং রুলের সাথে আশ্চর্যরকম মিলে যায় — এবং সেটা কোনো কাকতালীয় ব্যাপার নয়। উভয় ক্ষেত্রেই মূল নীতিটি একই: সংযোগের শক্তি (weight) সমন্বয় করা হয় সিগন্যালগুলোর একসাথে ঘটার ধরন দেখে। কিন্তু একটি গুরুত্বপূর্ণ পার্থক্য মনে রাখা দরকার, যা পরে "Common Mistakes" অংশে আরও বিস্তারিত আলোচনা করা হয়েছে: Hebbian learning সম্পূর্ণ লোকাল (local) এবং আনসুপারভাইজড (unsupervised) — একটি নিউরন শুধু তার নিজের প্রতিবেশী নিউরনগুলোর আচরণ দেখে সিদ্ধান্ত নেয়, কোনো গ্লোবাল "সঠিক উত্তর" বা এরর সিগন্যাল তার কাছে থাকে না। অন্যদিকে, পরের চ্যাপ্টারে যে perceptron লার্নিং রুল আপনি দেখবেন তা সরাসরি একটি জানা ট্রু লেবেল এর সাথে তুলনা করে ওয়েট আপডেট করে — এটি সুপারভাইজড (supervised) এবং গ্লোবালি নির্দেশিত।

আর্টিফিশিয়াল নিউরন (The artificial neuron)

আর্টিফিশিয়াল নিউরন ঠিক এই আকারটিকেই গ্রহণ করে এবং একে সাধারণ পাটিগণিতে নামিয়ে আনে: গুণ করা, যোগ করা এবং একটি নন-লিনিয়ারিটি (nonlinearity) প্রয়োগ করা।

$$z = \sum_{i=1}^{n} w_i x_i + b, \qquad y = \varphi(z)$$

যেখানে: $x_i$ হলো ইনপুট ভ্যালু, $w_i$ হলো লার্নেবল ওয়েটস বা যে ওজনগুলো শেখা যায় (যা সিন্যাপটিক শক্তির সমতুল্য), $b$ হলো একটি লার্নেবল বায়াস বা bias (মোটা দাগে এটি ফায়ারিং থ্রেশহোল্ডের সমতুল্য, তবে এর সাইন বা চিহ্ন উল্টো থাকে), $z$ হলো প্রি-অ্যাক্টিভেশন (pre-activation) ওয়েটেড সাম, $\varphi$ হলো একটি নন-লিনিয়ার অ্যাক্টিভেশন ফাংশন (nonlinear activation function) — পরের একটি চ্যাপ্টারে আপনি $\varphi$-এর বেশ কয়েকটি নির্দিষ্ট রূপ দেখতে পাবেন — এবং $y$ হলো নিউরনের আউটপুট।

সহজ কথায়: ওয়েটেড সাম (weighted sum) নিউরনকে শিখতে সাহায্য করে কোন ইনপুটগুলো বেশি গুরুত্বপূর্ণ (বড় $|w_i|$) আর কোনগুলো কম গুরুত্বপূর্ণ (ছোট $|w_i|$), আর নন-লিনিয়ারিটি ঠিক করে দেয় যে ওই মিলিত সিগন্যালের জবাবে নিউরনটি ঠিক কতটা শক্তিতে "ফায়ার" করবে।

একটি সিঙ্গেল আর্টিফিশিয়াল নিউরনের গঠনIllustration coming soon

অ্যানালজি মেলানো (Mapping the Analogy)

দুটিকে পাশাপাশি রাখলে অনুপ্রেরণার জায়গাটি একদম পরিষ্কার হয়ে ওঠে:

প্রাথমিক মেন্টাল মডেল হিসেবে এই টেবিলটি সত্যিই খুব কাজের, আর একারণেই "neural network" নামটা আজও টিকে আছে। কিন্তু একে একটি প্রাথমিক স্কেচ বা খসড়া হিসেবেই ধরবেন, কোনো ব্লু-প্রিন্ট বা নীল-নকশা হিসেবে নয় — পরের অংশে আলোচনা করা হয়েছে ঠিক কোথায় এই স্কেচটি বাস্তবতার সাথে আর মেলে না।

যেখানে অ্যানালজিটি ভেঙে পড়ে (Where the Analogy Breaks Down)

এই পার্থক্যগুলোর প্রতিটিতে একটু সময় দেওয়া উচিত, কারণ কোর্সের পরের দিকে আপনি যতগুলো ডিজাইন চয়েস বা সিদ্ধান্ত দেখবেন, তার পেছনের কারণটা এই পার্থক্যগুলোই নীরবে ব্যাখ্যা করে। আর্টিফিশিয়াল লার্নিং যে একটি সুনির্দিষ্ট গাণিতিক প্রক্রিয়া (২য় সারি), ঠিক একারণেই backpropagation (যা আমরা শিগগিরই পড়ব)-কে ডেরাইভ (derive) করে গাণিতিকভাবে সঠিক প্রমাণ করা যায় — বায়োলজিক্যাল লার্নিংয়ের ক্ষেত্রে এত সুনির্দিষ্ট কোনো কিছু এখনো পর্যন্ত আবিষ্কৃত হয়নি। একটি সাধারণ MLP যে ফিডফরোয়ার্ড এবং ফুলি কানেক্টেড হয় (৪র্থ সারি), তা আসলে ইচ্ছাকৃত একটি ইঞ্জিনিয়ারিং সরলীকরণ, মস্তিষ্ক ঠিক কীভাবে যুক্ত থাকে তার কোনো দাবি এটি নয়।

মূল বিষয়গুলো (Key Takeaways)

সাধারণ ভুল ধারণা (Common Mistakes)

ইন্টারভিউ কর্নার (Interview Corner)

বাস্তবে এটি কোথায় দেখা যায় (Where This Shows Up in Practice)

যখনই কোনো নিউজ আর্টিকেল বা প্রোডাক্ট পিচে (pitch) Neural Network-কে "মস্তিষ্কের নকল" হিসেবে বর্ণনা করতে শুনবেন, তখন সেই দাবিটি কতটা সত্যি তা সঠিকভাবে বিচার করার টুলস এখন আপনার কাছে আছে: উত্তরটা হবে হ্যাঁ, যদি ওয়েটেড কানেকশন বা থ্রেশহোল্ডের মতো ফায়ারিং ধারণার মতো ঢিলেঢালা গঠনগত দিক থেকে ভাবা হয়; আর উত্তরটা হবে না, যদি শেখার মেকানিজম, কানেকটিভিটি, স্কেল বা শক্তির কার্যকারিতার মতো গভীর দিক থেকে ভাবা হয়। এই নিখুঁত ধারণাটা ব্যবহারিক ক্ষেত্রেও খুব কাজে লাগে — আর ঠিক এই কারণেই এই কোর্সের বাকি অংশে Multi-Layer Perceptron-কে নিউরোসায়েন্সের বদলে ক্যালকুলাস এবং লিনিয়ার অ্যালজেব্রার মাধ্যমে গড়ে তোলা হবে, এবং ওয়েট, অ্যাক্টিভেশন, আর backpropagation নিয়ে সামনের চ্যাপ্টারগুলো পড়লে আপনার কাছে এটাকে জীববিদ্যা বা বায়োলজির চেয়ে ইঞ্জিনিয়ারিং আর গণিত বলেই বেশি মনে হবে।