به گزارش خبرنگار اقتصاد معاصر؛ شرکت OpenAI در تازهترین اقدام خود برای افزایش ایمنی کاربران نوجوان، نسخهای از ChatGPT با محافظتهای متناسب با سن را معرفی کرده است؛ اقدامی که پس از افزایش نگرانیها درباره تاثیر چتباتهای هوش مصنوعی بر سلامت روان نوجوانان و طرح چندین دعوا علیه شرکت انجام میشود.
نسخه جدید ChatGPT علاوه بر سازوکارهای ایمنی بیشتر، امکانات آموزشی تازهای را نیز در اختیار نوجوانان قرار میدهد. یکی از مهمترین این قابلیتها حالت مطالعه است که به جای ارائه مستقیم پاسخ، با طرح پرسشهای راهنما و ارائه توضیحات مرحلهبهمرحله، کاربر را به درک بهتر مطالب و حل مساله هدایت میکند.
OpenAI همچنین قابلیتی برای یادآوری تکالیف در نظر گرفته است که در صورت تشخیص تلاش کاربر برای دریافت پاسخ آماده و تقلب، وی را به استفاده از حالت مطالعه هدایت میکند. پشتیبانی از آزمونها و تصاویر آموزشی و همچنین امکان تعیین شرایط فعال شدن پیشفرض حالت مطالعه از سوی والدین یا سرپرستان، از دیگر امکانات این نسخه است.
با وجود این، میزان موفقیت این تدابیر در عمل همچنان مشخص نیست. یکی از چالشهای اصلی، امکان دور زدن محدودیتهای اعمالشده از سوی نوجوانان است؛ موضوعی که بهویژه در زمینه کنترلهای دیجیتال و محدودیتهای والدین، همواره یکی از دغدغههای اصلی بوده است.
OpenAI اعلام کرده محافظتهای متناسب با سن در نسخه نوجوانان بهصورت پیشفرض فعال خواهند بود و هدف آنها کاهش مواجهه کاربران با محتوای آسیبزا یا نامتناسب با سن است. این سیاستها بر پایه اصول ویژه کاربران زیر ۱۸ سال در چارچوب Model Spec این شرکت و با اتکا به دیدگاه متخصصان و یافتههای مرتبط با رشد نوجوانان طراحی شدهاند.
در کنار این اقدامات، والدین میتوانند از ابزارهای خانوادگی و کنترلهای والدین OpenAI برای مدیریت برخی تنظیمات، دریافت هش
این تغییرات در شرایطی انجام میشود که ChatGPT از زمان عرضه در سال ۲۰۲۲ با سرعت زیادی در میان کاربران گسترش یافته و پیش از اضافه شدن مجموعهای از تدابیر ویژه نوجوانان، به صدها میلیون کاربر هفتگی رسیده بود. همین موضوع باعث شده است پرسشهایی درباره زمانبندی اجرای این محافظتها و اینکه چرا بخش قابل توجهی از این سازوکارها از ابتدا در ChatGPT وجود نداشتهاند، مطرح شود.
در همین حال، OpenAI همزمان از مجموعه دیگری از اقدامات امنیتی برای توسعه و آزمایش مدلهای هوش مصنوعی خبر داده است. این اقدامات پس از حادثه امنیتی و با هدف تقویت نظارت، جداسازی شبکه و کنترل رفتار مدلها در مراحل توسعه و پساآموزش طراحی شدهاند.
این شرکت اعلام کرده است با افزایش توانایی مدلهای هوش مصنوعی، سطح نظارت و الزامات امنیتی نیز افزایش خواهد یافت. بر اساس سیاست جدید، به خطر افتادن یک ابزار یا سرویس پشتیبان نباید بهتنهایی امکان دسترسی غیرمجاز به اینترنت یا سایر شبکههای داخلی را فراهم کند.
یکی دیگر از تدابیر اعلامشده، ایجاد سامانه نظارتی برای بررسی فعالیت ابزارها، شواهد موجود از فرایند استدلال و گزارشهای فعالیت مدلهاست. OpenAI میگوید این سامانه میتواند در صورت شناسایی رفتارهای غیرمجاز، هشدارهایی را در مدت کوتاهی صادر کند. این شرکت همچنین برآورد کرده است که اجرای چنین نظارتی حدود ۲۰ درصد از توان محاسباتی فرایندهای تحت نظارت را مصرف خواهد کرد.
OpenAI تاکید کرده است که بخش قابل توجهی از فعالیتهای بزرگتر یادگیری تقویتی همچنان متوقف است و این شرکت پیش از ادامه آنها، در حال انجام آموزشها و ارزیابیهای کوچکتر برای بررسی رفتار مدلها، اعتبارسنجی سازوکارهای حفاظتی و اطمینان بیشتر از همراستایی مدلهاست.
در مجموع، اقدامات جدید OpenAI نشاندهنده تلاش این شرکت برای افزایش کنترل بر دو حوزه مهم در توسعه هوش مصنوعی است. ایمنی کاربران نوجوان و امنیت فرایند توسعه مدلهای پیشرفته؛ با این حال، میزان اثربخشی واقعی این تدابیر و توانایی آنها در برابر دور زدن محدودیتها و تهدیدهای امنیتی، تنها پس از استفاده گسترده و ارزیابیهای مستقل مشخص خواهد شد.