دسته: همه

  • آیا representation یک embeding کد جدید و موقت است؟

    تقریباً درست فهمیدی، ولی یک تفاوت مهم دارد. Representation یک «کد جدید و موقت» نیست؛ یک نمایش عددی از اطلاعاتی است که مدل در آن لحظه درباره‌ی آن Token دارد. بیاییم سه مفهوم را از هم جدا کنیم: 1. Embedding اولیه وقتی cat وارد مدل می‌شود: این Embedding یک نمایش اولیه است که از جدول Embedding… ادامه…

  • Q/K/V در transform در AI

    حتماً. حالا که Tokenizer → Token ID → Embedding را فهمیدی، Q/K/V خیلی منطقی‌تر می‌شود. بیاییم دقیقاً از همان‌جایی که بودیم ادامه بدهیم. فرض کن جمله: بعد از Embedding داریم: این بردارها وارد Self-Attention می‌شوند. Q/K/V برای چه هستند؟ هدف Self-Attention این است: هر Token بفهمد برای فهم خودش، به کدام Tokenهای دیگر چقدر باید توجه… ادامه…

  • هر توکن 3 تا بردار داره؟

    بله، در یک لایه‌ی Attention، از نمایش هر Token سه بردار Q، K و V ساخته می‌شود. اما یک نکته ظریف وجود دارد: هر Token در ابتدا یک Embedding/representation دارد؛ سپس با سه تبدیل متفاوت، از آن Q، K و V ساخته می‌شود. مثلاً: بعد: مثلاً: پس می‌توانی فعلاً این مدل ذهنی را داشته باشی: اما… ادامه…

  • [0.71, -0.12, 0.55, …] در embeding آیا هر عدد نماینده یک کلمه است؟

    نه، هر عدد نماینده‌ی یک کلمه نیست. این نکته خیلی مهم است. مثلاً: اینجا کل آرایه‌ی: نمایش عددی یک Token یعنی cat است. هر عدد فقط یک بُعد (dimension) از این نمایش است. مثلاً اگر Embedding چهار بُعدی باشد: پس: بلکه ترکیب همه‌ی این اعداد یک نمایش عددی برای cat است. با یک مثال خیلی ساده… ادامه…

  • تبدیل IDها به Embedding چیست؟

    نکته‌ی اصلی این است: ID خودش تبدیل محاسباتی به بردار نمی‌شود؛ ID در واقع شماره‌ی یک ردیف از یک جدول بزرگ به نام Embedding Matrix است. فرض کنیم Vocabulary فقط 5 کلمه دارد مثلاً: ID Token 0 I 1 you 2 love 3 cat 4 programming حالا مدل یک Embedding Matrix دارد. فرض کنیم برای ساده‌سازی… ادامه…

  • مرحله بعد از embeding در llm چیست؟

    AI معمولاً با Tokenize کردن یک جمله، بلافاصله «یاد نمی‌گیرد». Tokenization فقط آماده‌سازی داده است. یادگیری اصلی در مرحله‌ی Training اتفاق می‌افتد. مثلاً فرض کنیم جمله این باشد: 1. Tokenization اول متن به Token تقسیم می‌شود: 2. تبدیل Token به ID هر Token از Vocabulary یک ID می‌گیرد: این اعداد فقط شماره‌ی Tokenها هستند؛ خودشان معنی… ادامه…

  • tokizer چیست

    Tokenizer (توکنایزر) چیزی است که متن خام را به واحدهایی به نام Token تبدیل می‌کند تا مدل AI بتواند آن را به عدد تبدیل و پردازش کند. مسیر کلی را این‌طور ببین: یک مثال فرض کن ورودی این باشد: Tokenizer ممکن است آن را به این شکل تقسیم کند: سپس هر Token یک ID می‌گیرد: بعد… ادامه…

  • RabbitMQ

    RabbitMQ یک Message Broker است؛ یعنی واسطه‌ای که پیام‌ها را بین بخش‌های مختلف یک سیستم جابه‌جا می‌کند. اگر خیلی ساده بخوام بگم: RabbitMQ کمک می‌کند دو برنامه بدون اینکه مستقیماً به هم وابسته باشند، با هم ارتباط برقرار کنند. یک مثال ساده فرض کن در یک فروشگاه اینترنتی، کاربر سفارشی ثبت می‌کند: به‌جای اینکه Web Server… ادامه…

  • @media (prefers-reduced-motion: no-preference)

    @media (prefers-reduced-motion: no-preference) یکی از Media Queryهای مربوط به دسترس‌پذیری (Accessibility) در CSS است که بررسی می‌کند آیا کاربر در تنظیمات سیستم‌عامل خود درخواست کاهش انیمیشن‌ها را داده است یا خیر. دو حالت وجود دارد: یعنی: کاربر هیچ ترجیحی برای کاهش انیمیشن‌ها ندارد و نمایش انیمیشن‌ها مجاز است. و یعنی: کاربر در تنظیمات سیستم‌عامل گزینه “کاهش… ادامه…

  • @media (hover: hover) and (pointer: fine)

    این Media Query یکی از قابلیت‌های مدرن CSS برای تشخیص نوع دستگاه ورودی (Input Device) است: معنی هر قسمت: hover: hover بررسی می‌کند که آیا دستگاه امکان Hover واقعی دارد یا نه. pointer: fine بررسی می‌کند که دقت اشاره‌گر چقدر است. وقتی هر دو با هم استفاده شوند یعنی: فقط اگر دستگاه هم Hover واقعی داشته… ادامه…

  • چیست bouncer pattern programming

    در برنامه‌نویسی، Bouncer Pattern (الگوی دربان یا نگهبان) یک Design Pattern رسمی مانند Strategy یا Observer نیست، بلکه یک الگوی طراحی غیررسمی (Idiomatic Pattern) است که برای اعتبارسنجی، کنترل دسترسی و جلوگیری از ورود درخواست‌های نامعتبر به بخش اصلی برنامه استفاده می‌شود. همان‌طور که یک دربان (Bouncer) جلوی ورود افراد نامجاز به یک باشگاه را می‌گیرد،… ادامه…

  • Ansible vs n8n vs CI/CD

    این سه مورد معمولاً کنار هم در دنیای DevOps و اتوماسیون دیده می‌شوند، اما در واقع مسائل متفاوتی را حل می‌کنند. ابزار / مفهوم کاربرد اصلی مخاطب کار اصلی Ansible مدیریت و پیکربندی سرورها DevOps و مدیر سیستم تنظیم زیرساخت n8n اتوماسیون بین سرویس‌ها همه (برنامه‌نویس، مارکتینگ، پشتیبانی و …) اتصال برنامه‌ها CI/CD ساخت، تست و… ادامه…

  • Container Queries در CSS چیست؟

    Container Queries یکی از قابلیت‌های مدرن CSS است که اجازه می‌دهد یک کامپوننت بر اساس اندازه‌ی والد خودش تغییر کند، نه بر اساس اندازه‌ی کل صفحه (viewport). قبل از Container Query معمولاً از Media Query استفاده می‌کردیم: اینجا CSS می‌گوید: اگر صفحه کوچک شد، کارت را عمودی کن. اما مشکل این است که ممکن است همان… ادامه…

  • full-bleed چیست؟

    فرض کنید محتوای سایت داخل یک کانتینر با عرض محدود قرار دارد: اما گاهی می‌خواهید یک بخش (مثلاً بنر یا تصویر) تمام عرض صفحه را بگیرد. کلاس معروف full-bleed معمولاً این شکلی است: یا نتیجه: مشکل 100vw چیست؟ در اکثر مرورگرهای ویندوز، 100vw عرض اسکرول‌بار را هم حساب می‌کند. فرض کنید: آن‌وقت: در نتیجه: عنصر شما… ادامه…

  • Idempotency چیست؟

    🧩 چرا «Idempotency» یکی از مهم‌ترین مفاهیم برنامه‌نویسی است؟ این مفهوم تقریباً در تمام سیستم‌های حرفه‌ای وجود دارد، اما بسیاری از برنامه‌نویسان تا زمانی که با باگ‌های واقعی روبه‌رو نشوند، به آن توجه نمی‌کنند. مثال ساده فرض کنید کاربر روی دکمه پرداخت دوبار کلیک کند. اگر سیستم شما Idempotent نباشد: اما اگر Idempotent باشد: در نتیجه… ادامه…

  • چگونه یک llm یاد میگیرد؟

    حتماً. در واقع یک LLM (Large Language Model) مثل یک دانش‌آموز نیست که کتاب بخواند و مطالب را حفظ کند؛ بلکه مانند یک ماشین تشخیص الگوهای بسیار پیچیده است که از میلیاردها جمله، الگوهای آماری زبان را یاد می‌گیرد. بیایید این فرآیند را به صورت تصویری ببینیم. مرحله ۱: جمع‌آوری داده‌ها در این مرحله فقط متن… ادامه…

  • Fine-tuning در Ai

    Fine-tuning یا تنظیم دقیق فرایندی است که در آن یک مدل زبانی از پیش آموزش‌دیده (مثل GPT یا Llama) را با داده‌های اختصاصی خودتان دوباره آموزش می‌دهید تا رفتار، سبک یا توانایی آن در یک حوزه خاص بهبود پیدا کند. به بیان ساده: مثال فرض کنید می‌خواهید یک دستیار برای توسعه Odoo بسازید. اگر فقط از… ادامه…

  • تفاوت OAuth و JWT

    OAuth و JWT دو مفهوم متفاوت هستند که خیلی وقت‌ها با هم استفاده می‌شوند، اما جای هم را نمی‌گیرند. به طور خلاصه: یعنی OAuth مشخص می‌کند چگونه مجوز گرفته شود، اما JWT مشخص می‌کند اطلاعات داخل توکن چگونه ذخیره شوند. JWT چیست؟ JWT یک رشته متنی است که اطلاعات را به صورت امضاشده (Signed) حمل می‌کند.… ادامه…

  • “where” in css

    در CSS، where() یک pseudo-class مدرن است که برای گروه‌بندی selectorها استفاده می‌شود، اما یک تفاوت مهم دارد: specificity آن همیشه 0 است. یعنی می‌توانی selectorهای پیچیده بنویسی بدون اینکه specificity بالا برود. Syntax مثال ساده معادل: اما بدون افزایش specificity. تفاوت :where() و :is() :is() specificity را از قوی‌ترین selector داخلش می‌گیرد. specificity بالا می‌رود… ادامه…

  • this.addListener(img, “load”, relayout)

    این خط در معماری Interaction اودوو یعنی: روی المنت img یک event listener برای رویداد load ثبت می‌کند، به‌طوری که وقتی تصویر کامل لود شد، تابع relayout اجرا شود. در Interaction، متد addListener نسخه‌ی memory-safe برای addEventListener است و هنگام destroy شدن interaction، listenerها را خودکار پاک می‌کند. معادل vanilla JS: اما در اودوو جدید بهتر… ادامه…