وبلاگ

هر بار که پیامی برای یک مدل زبانی مثل GPT یا Claude می‌فرستید، پیش از هر پردازشی متن شما به واحدهای کوچک‌تری به نام «توکن» شکسته می‌شود. مدل نه حروف را می‌بیند و نه کلمات را به شکلی که ما می‌بینیم؛ او فقط دنباله‌ای از توکن‌ها را پردازش می‌کند. همین واحد ساده، هم پایهٔ محاسبهٔ […]

وقتی می‌گوییم یک مدل «معنای» یک جمله را می‌فهمد، منظور این نیست که مدل مثل انسان فکر می‌کند؛ منظور این است که آن جمله را به یک آرایه از اعداد تبدیل کرده که موقعیتش را در یک فضای ریاضی مشخص می‌کند. به این آرایه، Embedding یا بردار معنایی می‌گویند. این مفهوم قلب هر سیستمی است […]

بعد از این‌که هر تکه از دادهٔ شما به یک بردار عددی (embedding) تبدیل شد، سیستم باید راهی داشته باشد تا بگوید کدام بردارها به بردار سؤال کاربر «نزدیک‌تر»اند. یکی از رایج‌ترین و پرکاربردترین معیارها برای این مقایسه، شباهت کسینوسی یا Cosine Similarity است. فهم این‌که این معیار دقیقاً چه چیزی را اندازه می‌گیرد — […]