چاپلوسی GPT-۴o دردسرساز شد

در روز‌های اخیر، به‌ روزرسانی جدید مدل GPT-۴o از سوی OpenAI با واکنش‌های گسترده‌ای مواجه شد؛ چراکه کاربران متوجه شدند ChatGPT رفتاری بیش از حد چاپلوسانه و تاییدکننده پیدا کرده است. این موضوع شرکت را وادار کرد ضمن پذیرش اشتباه، به‌روزرسانی را به‌ سرعت پس بگیرد و اعلام کند که اصلاحات اساسی برای بازگرداندن تعادل شخصیتی و صداقت مدل در دست اجرا است.

کد خبر : ۲۱۶۲۲

شنبه - 13 ارديبهشت 1404

به گزارش خبرنگار اقتصاد معاصر؛ اوپن‌ای‌آی گزارشی درباره مشکل چاپلوسی بیش از حد مدل پیش‌فرض ChatGPT یعنی GPT-۴o منتشر کرده است؛ مشکلی که باعث شد این شرکت آپدیت هفته گذشته این مدل را پس بگیرد.

پس از به‌ روزرسانی GPT-۴o، کاربران شبکه‌های اجتماعی متوجه شدند که ChatGPT رفتاری بیش از حد تاییدکننده و موافق دارد. این موضوع به‌ سرعت در فضای مجازی فراگیر شد و تبدیل به یک شوخی اینترنتی (میم) گردید؛ کاربران اسکرین‌شات‌هایی منتشر کردند که در آن ChatGPT تصمیمات مشکل‌دار و حتی خطرناک را تحسین می‌کرد.

سم آلتمن، مدیرعامل اوپن‌ای‌آی با انتشار پستی در شبکه اجتماعی ایکس، این مشکل را تایید کرده و اعلام کرد که شرکت در اسرع وقت روی رفع آن کار خواهد کرد. این موضوع پس از این اعلام شد که به‌ روزرسانی مدل GPT-۴o پس گرفته شده و اصلاحات بیشتری در شخصیت مدل در دست اجرا است.

به گفته اوپن‌ای‌آی، هدف این به‌ روزرسانی ایجاد شخصیتی موثرتر و شهودی‌تر برای مدل بود اما این کار بیش از حد بر بازخورد‌های کوتاه‌مدت تکیه داشت و به درستی در نظر نگرفت که تعامل کاربران با ChatGPT در طول زمان چگونه تغییر می‌کند.

در بلاگ رسمی اوپن‌ای‌آی آمده است: «در نتیجه، GPT‑۴o تمایل پیدا کرد که پاسخ‌هایی بیش از حد حمایت‌گر اما غیرصادقانه بدهد. تعاملات چاپلوسانه می‌توانند ناراحت‌کننده، نگران‌کننده و حتی موجب رنج شوند. ما کوتاهی کردیم و در حال تلاش برای اصلاح آن هستیم.»

اوپن‌ای‌آی برای رفع این مشکل چند اقدام اساسی از جمله بهبود تکنیک‌های آموزش مدل اصلی، بازنویسی دستورات سیستم (System Prompts) برای جلوگیری از رفتار چاپلوسانه، ساخت محافظ‌های ایمنی بیشتر برای افزایش صداقت و شفافیت مدل، گسترش ارزیابی‌ها برای شناسایی مشکلات فراتر از چاپلوسی، آزمایش روش‌هایی برای دریافت بازخورد بلادرنگ از کاربران جهت هدایت تعاملات و ایجاد امکان انتخاب میان چند شخصیت مختلف برای ChatGPT را آغاز کرده است.

همچنین اوپن‌ای‌آی اعلام کرد که در حال بررسی راه‌هایی برای گنجاندن بازخورد‌های دموکراتیک و متنوع از کاربران در شکل‌دهی به رفتار پیش‌فرض ChatGPT است.