مدل GPT-4o Long Output با ظرفیت ۶۴ هزار توکن خروجی معارفه شد_غروب شهر

OpenAI به‌تازگی یک صفحه در وب‌سایت خود انتشار کرده که در آن نام یک مدل زبانی بزرگ تازه را می‌بینیم: GPT-4o Long Output. این مدل تازه نسبت به مدل GPT-4o که در اردیبهشت‌ماه رونمایی شد، تفاوت عمده‌ای دارد و آن نیز در تعداد توکن‌های خروجی آن است. این مدل در هر خواست تا ۶۴ هزار توکن خروجی به شما اراعه می‌دهد. برای قیاس، خروجی GPT-4o حداکثر ۴ هزار توکن است.

بر پایه اظهار OpenAI، نسخه آزمایشی GPT-4o Long Output حداکثر ۶۴ هزار توکن خروجی در هر خواست اراعه می‌دهد. این افزایش ۱۶ برابری نسبت به مدل مهم GPT-4o، به کاربران و به طور خاص‌تر به گسترش‌دهندگان شخص ثالث که از API این چت‌بات منفعت می‌برند این زمان را می‌دهد تا جواب‌های طویل‌تر، معادل یک رمان ۲۰۰ صفحه‌ای داشته باشند.

توکن‌ها در مدل‌‌های زبانی بزرگ به نمایش عددی مفاهیم، ​​ساختارهای دستوری و این چنین معنی آن‌ها اشاره دارند. برای مثال کلمه «Hello» یک توکن است، «Hi» نیز هرچند همان معنی را دارد، اما توکن فرد دیگر محسوب می‌شود.

مدل آزمایشی GPT-4o Long Output

مدل مهم GPT-4o حداکثر ۱۲۸ هزار توکن در پنجره عرصه (Context Window) اراعه می‌کند؛ پنجره عرصه مقدار حاوی توکن‌هایی است که مدل می‌تواند در هر تعامل، ازجمله در توکن‌های ورودی و خروجی، مدیریت کند. اکنون GPT-4o Long Output نیز همان ۱۲۸ هزار توکن پنجره عرصه را اراعه می‌دهد. به این علت چطور OpenAI می‌تواند تعداد توکن‌های خروجی را ۱۶ برابر افزایش دهد و از ۴۰۰۰ به ۶۴۰۰۰ توکن رساند، درحالی‌که پنجره عرصه کلی را روی ۱۲۸۰۰۰ نگه دارد؟

جواب ساده است، GPT-4o مهم اگرچه پنجره ۱۲۸ هزار توکنی داشت، اما مطلب خروجی آن به ۴۰۰۰ توکن محدود می بود. یعنی در ازای ۱۲۴ هزار مطلب ورودی، شما حداکثر ۴۰۰۰ توکن دریافت می‌کردید. یا برای مثال، GPT-4o mini حداکثر ۱۶ هزار توکن خروجی داشت. اکنون OpenAI با نگه داری همان پنجره عرصه، سقف خروجی را تا ۶۴ هزار توکن بالا برده است.

یکی از سخنگویان OpenAI به VentureBeat حرف های است: «ما بازخوردهایی را از مشتریان خود شنیدیم که می‌خواهند عرصه خروجی طویل‌تری داشته باشند. ما همیشه درحال آزمایش راه‌های جدیدی هستیم تا می‌توانیم به بهترین شکل به نیازهای مشتریان خود جواب دهیم.»

انتظار می‌رود مرحله آزمایش آلفا GPT-4o Long Output چند هفته به طول بینجامد و به OpenAI اجازه می‌دهد تا داده‌هایی را درمورد این که چه مقدار خروجی زیاد تر نیازهای کاربر را برآورده می‌کند، جمع‌آوری کند. با اراعه خروجی‌های طویل‌تر، مدل GPT-4o می‌تواند جواب‌های جامع‌تر و دقیق‌تری اراعه دهد.