مدل GPT-4o Long Output با ظرفیت 64 هزار توکن خروجی معارفه شد_غروب شهر

OpenAI به‌تازگی یک صفحه در وب‌سایت خود انتشار کرده که در آن نام یک مدل زبانی بزرگ تازه را می‌بینیم: GPT-4o Long Output. این مدل تازه نسبت به مدل GPT-4o که در اردیبهشت‌ماه رونمایی شد، تفاوت عمده‌ای دارد و آن نیز در تعداد توکن‌های خروجی آن است. این مدل در هر خواست تا 64 هزار توکن خروجی به شما اراعه می‌دهد. برای قیاس، خروجی GPT-4o حداکثر 4 هزار توکن است.

بر پایه اظهار OpenAI، نسخه آزمایشی GPT-4o Long Output حداکثر 64 هزار توکن خروجی در هر خواست اراعه می‌دهد. این افزایش 16 برابری نسبت به مدل مهم GPT-4o، به کاربران و به طور خاص‌تر به گسترش‌دهندگان شخص ثالث که از API این چت‌بات منفعت می‌برند این زمان را می‌دهد تا جواب‌های طویل‌تر، معادل یک رمان 200 صفحه‌ای داشته باشند.

توکن‌ها در مدل‌‌های زبانی بزرگ به نمایش عددی مفاهیم، ​​ساختارهای دستوری و این چنین معنی آن‌ها اشاره دارند. برای مثال کلمه «Hello» یک توکن است، «Hi» نیز هرچند همان معنی را دارد، اما توکن فرد دیگر محسوب می‌شود.

مدل آزمایشی GPT-4o Long Output

مدل مهم GPT-4o حداکثر 128 هزار توکن در پنجره عرصه (Context Window) اراعه می‌کند؛ پنجره عرصه مقدار حاوی توکن‌هایی است که مدل می‌تواند در هر تعامل، ازجمله در توکن‌های ورودی و خروجی، مدیریت کند. اکنون GPT-4o Long Output نیز همان 128 هزار توکن پنجره عرصه را اراعه می‌دهد. به این علت چطور OpenAI می‌تواند تعداد توکن‌های خروجی را 16 برابر افزایش دهد و از 4000 به 64000 توکن رساند، درحالی‌که پنجره عرصه کلی را روی 128000 نگه دارد؟

جواب ساده است، GPT-4o مهم اگرچه پنجره 128 هزار توکنی داشت، اما مطلب خروجی آن به 4000 توکن محدود می بود. یعنی در ازای 124 هزار مطلب ورودی، شما حداکثر 4000 توکن دریافت می‌کردید. یا برای مثال، GPT-4o mini حداکثر 16 هزار توکن خروجی داشت. اکنون OpenAI با نگه داری همان پنجره عرصه، سقف خروجی را تا 64 هزار توکن بالا برده است.

یکی از سخنگویان OpenAI به VentureBeat حرف های است: «ما بازخوردهایی را از مشتریان خود شنیدیم که می‌خواهند عرصه خروجی طویل‌تری داشته باشند. ما همیشه درحال آزمایش راه‌های جدیدی هستیم تا می‌توانیم به بهترین شکل به نیازهای مشتریان خود جواب دهیم.»

انتظار می‌رود مرحله آزمایش آلفا GPT-4o Long Output چند هفته به طول بینجامد و به OpenAI اجازه می‌دهد تا داده‌هایی را درمورد این که چه مقدار خروجی زیاد تر نیازهای کاربر را برآورده می‌کند، جمع‌آوری کند. با اراعه خروجی‌های طویل‌تر، مدل GPT-4o می‌تواند جواب‌های جامع‌تر و دقیق‌تری اراعه دهد.