OpenAI از هراس نارضایتی کاربران متون ChatGPT را واترمارک نمی‌کند_غروب شهر

شرکت OpenAI تا این مدت در رابطه واترمارک‌کردن متون تولیدشده توسط ChatGPT تصمیم‌گیری نکرده است. با این وجود برخی کاربران دلواپس این مسأله می باشند و اظهار کرده‌اند درصورت اعمال واترمارک از ChatGPT کمتر منفعت گیری خواهند کرد.

بر پایه گزارش وال استریت ژورنال، OpenAI سیستمی برای نشانه‌گذاری روی متون تولیدشده توسط ChatGPT و ابزاری برای شناسایی این نشانه‌ها آماده کرده است. اما اختلافاتی در داخل این شرکت درمورد انتشار کردن این ویژگی وجود دارد. از یک سو این کار به نظر مسئولانه می‌آید؛ اما از نظر دیگر می‌تواند به زیان درآمدهای شرکت باشد.

OpenAI متون ChatGPT را واترمارک نمی‌کند تا کاربران رضایت بیشتری داشته باشند

واترمارک‌کردن متن‌ها به این صورت است که مدل هوش مصنوعی سازوکار پیش‌بینی کلمات و عبارات را به نحوی تنظیم می‌کند که یک الگوی قابل تشخیص تشکیل کند. این رویکرد می‌تواند به معلمان پشتیبانی کند تا از منفعت گیری دانش‌آموزان از هوش مصنوعی برای نوشتن تکالیف جلوگیری کنند. تحقیقات نشان داده که واترمارک‌کردن کیفیت خروجی متون ChatGPT را تحت تأثیر قرار نمی‌دهد و نظرسنجی‌ها نیز نشان خواهند داد که مردم از این ابزار تشخیص هوش مصنوعی حمایتمی‌کنند.

OpenAI قبول کرده که روی واترمارک‌کردن متن‌ها کار کرده و این روش زیاد دقیق و مقاوم در برابر تغییرات است. اما بازنویسی متن‌ها با مدل‌های دیگر می‌تواند این واترمارک را دور بزند. این چنین، این شرکت دلواپس است که این عمل علتایجاد بدبینی نسبت به ابزارهای هوش مصنوعی در بین کاربران شود.

نتایج نظرسنجی‌ها مشخص می کند که نزدیک به ۳۰ درصد از کاربران اظهار کرده‌اند که در صورت اعمال واترمارک، کمتر از ChatGPT منفعت گیری خواهند کرد. بااین‌حال، برخی از کارمندان OpenAI هم چنان به کارآمدی واترمارک‌کردن باور دارند و نظر می‌کنند راه حلهای فرد دیگر که کمتر مورد او گفت و گو کاربران می باشند، آزمایش شوند.