نحوه محاسبه هزینه استفاده از مدل‌های زبانی بزرگ (LLM)

هزینه استفاده از مدل‌های زبانی بزرگ (LLM)، مانند مدل‌های GPT، Gemini، Llama و سایرین، بر اساس تعداد “توکن‌ها” (Tokens) در هر درخواست محاسبه می‌شود. توکن‌ها نمایانگر کلمات، بخش‌هایی از کلمات یا کاراکترها هستند. نکته مهم این است که هم متن ورودی (Input) که شما به مدل ارسال می‌کنید و هم متن خروجی (Output) که مدل به عنوان پاسخ تولید می‌کند، بر اساس توکن‌ها اندازه‌گیری و محاسبه می‌شوند.

توکن چیست؟

توکن‌ها می‌توانند به کوتاهی یک کاراکتر یا به بلندی یک کلمه باشند. برای مثال:

• کلمه “هوشمند” ممکن است یک توکن باشد.
• جمله “این یک مدل زبانی است!” می‌تواند شامل 5 توکن باشد: (“این”، “یک”، “مدل”، “زبانی”، “است!”).

به طور کلی، در زبان انگلیسی، هر توکن تقریباً معادل 4 کاراکتر یا 0.75 کلمه در نظر گرفته می‌شود.

توکن‌های ورودی (Input Tokens)

این توکن‌ها مربوط به متنی هستند که شما هنگام ارسال درخواست به مدل می‌فرستید. برای مثال، اگر از مدل بخواهید “یک شعر درباره هوش مصنوعی بنویس”، تمام کلمات و کاراکترهای این جمله به عنوان توکن ورودی محاسبه می‌شوند.

توکن‌های خروجی (Output Tokens)

این توکن‌ها مربوط به پاسخی است که مدل در جواب به درخواست شما تولید می‌کند. اگر مدل یک پاراگراف طولانی به عنوان پاسخ ایجاد کند، تمام کلمات و کاراکترهای آن به عنوان توکن خروجی محاسبه خواهند شد.

چرا قیمت توکن‌های ورودی و خروجی متفاوت است؟

در اکثر مدل‌های زبانی، هزینه توکن‌های ورودی و خروجی یکسان نیست. دلیل این تفاوت به میزان منابع محاسباتی مورد نیاز برای پردازش هر بخش برمی‌گردد. تولید پاسخ (خروجی) فرآیندی پیچیده‌تر و سنگین‌تر برای مدل است و به قدرت پردازشی بیشتری نیاز دارد. به همین دلیل، هزینه توکن‌های خروجی معمولاً بالاتر از توکن‌های ورودی است.

مثال عملی محاسبه هزینه

فرض کنید هزینه هر 1 میلیون توکن ورودی 20 دلار و هر 1 میلیون توکن خروجی 40 دلار باشد. اگر شما یک درخواست با 200 توکن ورودی ارسال کنید و مدل با 500 توکن خروجی به شما پاسخ دهد، هزینه نهایی به صورت زیر محاسبه می‌شود:

• هزینه توکن‌های ورودی: (200 / 1,000,000) * $20 = $0.004
• هزینه توکن‌های خروجی: (500 / 1,000,000) * $40 = $0.02
• هزینه کل (به دلار): $0.004 + $0.02 = $0.024
• هزینه کل (به ریال): (هزینه کل به دلار) * (نرخ روز دلار)

جدول قیمت‌ مدل‌های زبانی بزرگ

در جدول زیر، لیست قیمت برخی از محبوب‌ترین مدل‌های زبانی بزرگ آورده شده است. برای مشاهده جزئیات بیشتر و قیمت‌های به‌روز، می‌توانید به لینک‌های مربوط به هر مدل مراجعه کنید.

نکته: قیمت‌های ذکر شده در این جدول ممکن است به مرور زمان تغییر کنند. همیشه به وب‌سایت رسمی ارائه‌دهنده مدل مراجعه کنید.

جمع‌بندی

در این مقاله، با نحوه محاسبه هزینه استفاده از مدل‌های زبانی بزرگ (LLM) آشنا شدیم. هزینه‌ها بر اساس تعداد توکن‌های ورودی و خروجی محاسبه می‌شوند و هر مدل بسته به پیچیدگی و قدرت خود، قیمت‌گذاری متفاوتی دارد. امیدواریم این راهنما به شما در مدیریت هزینه‌های پروژه‌های هوش مصنوعی کمک کند.

به دلیل پیچیدگی‌های مرتبط با محاسبه هزینه ساخت دستیارهای هوشمند، این موضوع را به‌طور مفصل در مقاله جداگانه‌ای بررسی کرده‌ایم. برای جزئیات بیشتر به لینک زیر مراجعه کنید:

برسی هزینه‌های ساخت دستیارهای هوشمند