چگونه یک llm یاد میگیرد؟

حتماً. در واقع یک LLM (Large Language Model) مثل یک دانش‌آموز نیست که کتاب بخواند و مطالب را حفظ کند؛ بلکه مانند یک ماشین تشخیص الگوهای بسیار پیچیده است که از میلیاردها جمله، الگوهای آماری زبان را یاد می‌گیرد.

بیایید این فرآیند را به صورت تصویری ببینیم.


مرحله ۱: جمع‌آوری داده‌ها

          اینترنت
             │
     کتاب‌ها، مقالات
             │
      ویکی‌پدیا، کدها
             │
      میلیون‌ها سند
             ▼
    ┌─────────────────┐
    │   Dataset بزرگ   │
    │  (تریلیون کلمه)  │
    └─────────────────┘

در این مرحله فقط متن جمع‌آوری می‌شود.


مرحله ۲: تبدیل متن به توکن

مدل متن را مستقیماً نمی‌فهمد.

مثلاً جمله:

I love programming.

به توکن تبدیل می‌شود:

"I"      → 521
" love"  → 1832
" program" → 7821
"ming"   → 441
"."      → 13

پس مدل در واقع این را می‌بیند:

521
1832
7821
441
13

مرحله ۳: تبدیل توکن‌ها به بردار (Embedding)

هر عدد تبدیل به یک بردار چند هزار بعدی می‌شود.

Token: "cat"

            Embedding

          ┌──────────────┐
          │0.12          │
          │-0.53         │
          │0.94          │
          │...           │
          │0.003         │
          └──────────────┘

این بردار معنی کلمه را در فضای ریاضی نشان می‌دهد.

کلمات مشابه نزدیک هم قرار می‌گیرند:

           dog
            ●

      cat ●

               lion ●


car ●


banana ●

مرحله ۴: پیش‌بینی کلمه بعدی

فرض کنید جمله این باشد:

The sky is

مدل باید حدس بزند کلمه بعدی چیست.

ورودی

The
sky
is

      │
      ▼

      LLM

      │
      ▼

blue   85%
dark    8%
clear   4%
red     1%
...

اگر جواب واقعی blue باشد همه چیز خوب است.

اگر مدل گفته باشد:

green

اشتباه کرده است.


مرحله ۵: محاسبه خطا

واقعیت

blue

پیش‌بینی

green

        ▼

خطا = زیاد

مدل مقدار خطا را محاسبه می‌کند.


مرحله ۶: Backpropagation

اینجا مهم‌ترین قسمت یادگیری اتفاق می‌افتد.

            ورودی

               │

         ┌───────────┐
         │ Layer 1   │
         └───────────┘
               │
         ┌───────────┐
         │ Layer 2   │
         └───────────┘
               │
         ┌───────────┐
         │ Layer 3   │
         └───────────┘
               │
            خروجی

            "green"

               ▲
               │
          محاسبه خطا
               ▲
               │
Backpropagation

خطا از آخر شبکه به اول برمی‌گردد و مشخص می‌کند کدام وزن‌ها باید کمی تغییر کنند.


مرحله ۷: تغییر وزن‌ها

فرض کنید یکی از وزن‌ها این باشد:

قبل

0.845123

بعد از یادگیری:

0.846012

تغییر بسیار کوچک است.

اما این کار برای میلیاردها وزن انجام می‌شود.


مرحله ۸: تکرار میلیاردها بار

جمله 1
      │
      ▼
   یادگیری

جمله 2
      │
      ▼
   یادگیری

جمله 3
      │
      ▼
   یادگیری

...

تریلیون‌ها توکن

در هر مرحله وزن‌ها کمی بهتر می‌شوند.


در نهایت چه چیزی یاد گرفته می‌شود؟

           داده‌ها

               │

     پیش‌بینی اشتباه

               │

        محاسبه خطا

               │

     اصلاح وزن‌ها

               │

      دوباره پیش‌بینی

               │

      اصلاح وزن‌ها

               │

          میلیون‌ها بار

               ▼

      وزن‌های آموزش‌دیده

تمام دانشی که مدل دارد داخل همین وزن‌ها (Weights) ذخیره می‌شود.


یک تصویر ذهنی ساده

فرض کنید مغز مدل یک شبکه عظیم از پیچ‌ها باشد.

ابتدا:

🔩 🔩 🔩 🔩 🔩
همه پیچ‌ها تصادفی هستند.

بعد از هر مثال آموزشی:

🔧
یک پیچ کمی سفت‌تر

🔧
یک پیچ کمی شل‌تر

🔧
یک پیچ کمی تغییر

پس از میلیاردها مثال:

🔩🔩🔩🔩🔩🔩🔩🔩🔩
تمام پیچ‌ها در بهترین وضعیت ممکن قرار گرفته‌اند.

این «پیچ‌ها» همان وزن‌های شبکه عصبی هستند.


جمع‌بندی

به طور خلاصه، یادگیری یک LLM به این صورت است:

متن خام
   │
   ▼
توکن‌ها
   │
   ▼
Embedding
   │
   ▼
Transformer
   │
   ▼
پیش‌بینی کلمه بعدی
   │
   ▼
محاسبه خطا
   │
   ▼
Backpropagation
   │
   ▼
اصلاح میلیاردها وزن
   │
   └──────────────┐
                  │
      میلیاردها بار تکرار
                  │
                  ▼
        مدل آموزش‌دیده (LLM)

اگر بخواهی، در مرحله بعد می‌توانم به‌صورت انیمیشن‌گونه و رنگی نشان دهم که داخل یک Transformer چه اتفاقی می‌افتد؛ یعنی دقیقاً چگونه مکانیزم Attention باعث می‌شود مدل بفهمد در جملهٔ «گربه روی صندلی خوابید» کلمهٔ «خوابید» به «گربه» مربوط است، نه به «صندلی». این همان بخشی است که LLMها را از مدل‌های قدیمی متمایز می‌کند.

عالی، حالا وارد مهم‌ترین بخش LLM می‌شویم: Transformer و Attention. این همان نوآوری‌ای است که باعث شد مدل‌هایی مثل GPT به وجود بیایند.


مشکل قبل از Transformer

فرض کنید جمله زیر را داریم:

The animal didn’t cross the road because it was too tired.

سؤال:

it به چه چیزی اشاره می‌کند؟

  • road؟
  • animal؟

یک انسان به راحتی می‌فهمد که منظور animal است.

اما کامپیوتر باید این ارتباط را پیدا کند.


مرحله ۱: هر کلمه وارد مدل می‌شود

The
animal
didn't
cross
the
road
because
it
was
too
tired

هر کلمه تبدیل به Embedding می‌شود.

The      ──► ███████

animal   ──► ███████

cross    ──► ███████

road     ──► ███████

it        ──► ███████

مرحله ۲: Attention

حالا کلمه it از خودش می‌پرسد:

«برای فهمیدن معنی خودم باید به کدام کلمات نگاه کنم؟»

               animal
                  ▲
                  │ 0.82
                  │
The ──────────────┤

cross─────────────┤

road──────────────┤0.10

because───────────┤0.40

it ●──────────────┘

عددها همان Attention Score هستند.

مثلاً:

کلمهاهمیت
animal0.82
road0.10
because0.40
The0.01

پس مدل متوجه می‌شود:

منظور از it احتمالاً animal است.


تصور کنید همه با هم حرف می‌زنند

به جای اینکه فقط “it” نگاه کند،

تمام کلمات همزمان به هم نگاه می‌کنند.

            cat
          ↗ ↑ ↖

The  → sat ← on

          ↓

         mat

هر فلش یعنی:

“من از این کلمه اطلاعات می‌گیرم.”

به همین دلیل اسم آن شده:

Self Attention


Multi-Head Attention

یک نکته جالب‌تر این است که مدل فقط یک بار نگاه نمی‌کند.

بلکه چندین “مغز کوچک” دارد.

مثلاً:

              جمله

        The cat sat on the mat

Head شماره ۱:

cat ─────────► sat

دنبال فاعل می‌گردد.


Head شماره ۲:

sat ─────► mat

دنبال مکان می‌گردد.


Head شماره ۳:

The ─────► cat

دنبال ساختار گرامری است.


Head شماره ۴:

cat ─────► animal

روابط معنایی را بررسی می‌کند.


همه این Headها همزمان کار می‌کنند.

           Head1

        ↗↘↗↘↗↘

Sentence

        ↖↙↖↙↖↙

           Head2

        ↗↘↗↘↗↘

           Head3

در GPT-4 یا GPT-5 تعداد Headها ده‌ها یا حتی صدها عدد است.


بعد از Attention چه اتفاقی می‌افتد؟

اطلاعات وارد یک شبکه عصبی کوچک می‌شود.

Attention

      │

      ▼

┌─────────────┐
│ FeedForward │
└─────────────┘

      │

      ▼

بردار جدید

این بردار کمی بهتر از قبلی است.


سپس این فرآیند تکرار می‌شود

Layer 1

Attention

↓

FeedForward

↓

Layer 2

Attention

↓

FeedForward

↓

Layer 3

...

↓

Layer 48

↓

Layer 96

↓

Layer 128

مدل‌های بزرگ صدها لایه دارند.

هر لایه جمله را بهتر درک می‌کند.


مثال واقعی

فرض کنید جمله این باشد:

Apple released a new phone.

ابتدا مدل مطمئن نیست.

Apple

↓

🍎 ؟

بعد کلمه “released” را می‌بیند.

released

↓

شرکت؟

بعد “phone”

phone

↓

تقریباً قطعی

در نهایت:

Apple

↓

🏢 Apple Inc.

مدل از کل جمله کمک می‌گیرد.


همه این‌ها در یک لحظه

برای جمله

The cat sat on the mat.

اتفاق زیر می‌افتد.

The
 │╲╱│
 │╱╲│
cat
 │╲╱│
 │╱╲│
sat
 │╲╱│
 │╱╲│
on
 │╲╱│
 │╱╲│
the
 │╲╱│
 │╱╲│
mat

هر کلمه تقریباً به همه کلمات نگاه می‌کند.


اما مدل چگونه واقعاً “یاد می‌گیرد”؟

فرض کنید در ابتدای آموزش، مدل این را می‌بیند:

The cat drinks ...

پیش‌بینی:

water ✅
milk  ❌
coffee ❌

اگر در داده واقعی نوشته شده باشد:

milk

مدل اشتباه کرده است.

حالا چه اتفاقی می‌افتد؟

تمام مسیرهایی که باعث شدند مدل به “water” برسد، کمی ضعیف‌تر می‌شوند و مسیرهایی که “cat” را به “milk” مرتبط می‌کنند، کمی قوی‌تر می‌شوند.

می‌توان آن را این‌گونه تصور کرد:

قبل

cat ─────────► water   (0.80)

cat ─────► milk        (0.20)

بعد از آموزش:

cat ───────► water   (0.55)

cat ─────────► milk  (0.45)

و پس از دیدن هزاران یا میلیون‌ها مثال مشابه:

cat ─────► water   (0.05)

cat ─────────────► milk  (0.95)

البته در واقعیت مدل چیزی به نام «قانون گربه‌ها شیر می‌خورند» ذخیره نمی‌کند؛ فقط میلیون‌ها وزن را طوری تنظیم می‌کند که این الگو در فضای برداری شکل بگیرد.


تصویر کلی یک LLM

در نهایت می‌توان کل فرایند را به این شکل خلاصه کرد:

                متن

                  │

                  ▼

            Tokenizer

                  │

                  ▼

            Embedding

                  │

                  ▼

      ┌───────────────────┐
      │ Transformer Layer1 │
      └───────────────────┘
                  │

      ┌───────────────────┐
      │ Transformer Layer2 │
      └───────────────────┘
                  │

      ┌───────────────────┐
      │ Transformer Layer3 │
      └───────────────────┘
                  │

                ...

                  │

      ┌───────────────────┐
      │ Transformer LayerN │
      └───────────────────┘
                  │

                  ▼

      احتمال همه کلمات بعدی

                  │

                  ▼

        انتخاب بهترین کلمه

این چرخه هنگام آموزش، برای تریلیون‌ها توکن تکرار می‌شود و در هر بار، وزن‌ها اندکی اصلاح می‌شوند.


در ادامه می‌توانیم یک سطح عمیق‌تر برویم و دقیقاً ببینیم Query (Q)، Key (K) و Value (V) چگونه کار می‌کنند. این سه بردار، هسته‌ی ریاضی مکانیزم Attention هستند و اگر آن‌ها را بفهمید، تقریباً قلب یک Transformer را درک کرده‌اید.

دیدگاه‌ها

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *