هوش مصنوعی چگونه فکر می‌کند و پاسخ می‌دهد؟ ویدئویی آموزشی با تشریح پنج مرحله عملکرد مدل‌های زبانی، از فرایند یادگیری تا تولید پاسخ، نشان می‌دهد پشت این فناوری شگفت‌انگیز چه می‌گذرد و چرا هوش مصنوعی گاهی با اطمینان کامل اشتباه می‌کند.

به گزارش تازه‌نیوز، هوش مصنوعی در چند ثانیه به پرسش‌های پیچیده پاسخ می‌دهد، مقاله می‌نویسد، برنامه‌نویسی می‌کند و حتی می‌تواند درباره موضوعاتی که انسان‌ها هنوز بر سر آن‌ها اختلاف‌نظر دارند استدلال کند. اما پشت این توانایی شگفت‌انگیز چه می‌گذرد؟ آیا با نوعی تفکر ماشینی روبه‌رو هستیم یا صرفاً یک سیستم ریاضی که یاد گرفته است کلمه بعدی را حدس بزند؟

ویدئویی از کانال یوتیوب Techronics با عنوان «آیا هوش مصنوعی فکر می‌کند؟» تلاش می‌کند با توضیح پنج مرحله اصلی عملکرد مدل‌های زبانی، به این پرسش پاسخ دهد: داده، آموزش، مدل، پرامپت و پاسخ.
 
هوش مصنوعی چگونه یاد می‌گیرد؟

نخستین مرحله، داده‌هایی است که مدل از آن‌ها آموزش می‌بیند. کتاب‌ها، مقالات، وب‌سایت‌ها، کدهای برنامه‌نویسی و مکالمات، بخشی از منابع آموزشی این سیستم‌ها هستند. این اطلاعات پیش از ورود به فرایند آموزش پاک‌سازی و فیلتر می‌شوند؛ زیرا داده‌های نادرست یا سوگیرانه می‌توانند به خروجی مدل نیز راه پیدا کنند.
اما کامپیوترها کلمات را مانند انسان نمی‌خوانند. متن ابتدا به قطعات کوچک‌تری به نام «توکن» تقسیم می‌شود و هر توکن به یک عدد تبدیل می‌شود تا مدل بتواند آن را پردازش کند.

مرحله دوم، آموزش است؛ فرایندی که بر یک وظیفه ظاهراً ساده استوار است: پیش‌بینی توکن بعدی. مدل جمله‌ای ناقص دریافت می‌کند، کلمه بعدی را حدس می‌زند، خطای خود را محاسبه می‌کند و پارامترهای داخلی‌اش را برای پیش‌بینی بهتر تغییر می‌دهد. این چرخه میلیاردها بار تکرار می‌شود و ممکن است هفته‌ها یا ماه‌ها به هزاران تراشه پردازشی نیاز داشته باشد.

نکته جالب این است که قواعد زبان، دستور نوشتن و بسیاری از الگوهای پیچیده به‌صورت دستی به مدل آموزش داده نمی‌شوند؛ بلکه به‌تدریج از دل همین تمرین‌های گسترده پدیدار می‌شوند.
 
میلیاردها عدد؛ مغز یک مدل زبانی

پس از آموزش، مجموعه‌ای عظیم از اعداد به نام پارامترها یا وزن‌ها باقی می‌ماند. این اعداد ساختار اصلی مدل را تشکیل می‌دهند. برخلاف تصور رایج، مدل زبانی صرفاً کتابخانه‌ای از صفحات اینترنت نیست؛ بلکه الگوهایی را در پارامترهای خود بازنمایی می‌کند، هرچند ممکن است بخش‌هایی از داده‌های آموزشی را نیز به خاطر سپرده باشد.

بسیاری از مدل‌های امروزی از معماری ترنسفورمر استفاده می‌کنند. یکی از قابلیت‌های مهم این معماری، سازوکار «توجه» یا Attention است که به مدل کمک می‌کند ارتباط میان کلمات و اهمیت آن‌ها را در یک جمله تشخیص دهد.
 
از سؤال کاربر تا تولید پاسخ

وقتی کاربر سؤالی مطرح می‌کند، مدل علاوه بر آن سؤال، ممکن است پیام‌های قبلی مکالمه و دستورالعمل‌های داخلی برنامه را نیز دریافت کند. این مجموعه اطلاعات در محدوده‌ای به نام «پنجره زمینه» یا Context Window پردازش می‌شود؛ فضایی با ظرفیت مشخص که میزان اطلاعات قابل بررسی در هر لحظه را محدود می‌کند.

سپس نوبت تولید پاسخ می‌رسد. مدل پاسخ را یک‌باره نمی‌نویسد، بلکه هر بار توکنی را بر اساس محاسبه احتمال انتخاب می‌کند و به متن قبلی می‌افزاید. پارامتری به نام Temperature نیز بر میزان تنوع این انتخاب‌ها تأثیر می‌گذارد. به همین دلیل ممکن است یک سؤال یکسان در دو نوبت، پاسخ‌های متفاوتی تولید کند.
 
چرا هوش مصنوعی گاهی با اطمینان اشتباه می‌کند؟

یکی از محدودیت‌های مهم مدل‌های زبانی، پدیده‌ای به نام «توهم هوش مصنوعی» یا Hallucination است. این اتفاق زمانی رخ می‌دهد که مدل در نبود اطلاعات کافی، پاسخی ظاهراً منطقی اما نادرست تولید می‌کند. زیرا هدف اصلی آن تولید متن متناسب با الگوهای آموخته‌شده است، نه تضمین صحت تمام واقعیت‌ها.

از سوی دیگر، دانش مدل ممکن است به تاریخ مشخصی محدود باشد. اتصال به اینترنت، اسناد، پایگاه‌های داده برداری و ابزارهایی مانند MCP به مدل اجازه می‌دهد اطلاعات تازه‌تر و منابع خارجی را نیز به کار بگیرد.
 
آیا این همان تفکر است؟

پاسخ ویدئو این است: نه، دست‌کم نه به شیوه انسان. در پشت عملکرد مدل، محاسبات ریاضی و الگوهای استخراج‌شده از داده‌های عظیم قرار دارند. بااین‌حال، همین سازوکار توانسته قابلیت‌هایی مانند نوشتن، ترجمه، برنامه‌نویسی و تحلیل مسائل پیچیده را ایجاد کند.