چت‌جی‌پی‌تی با نسخه محدود ویژه نوجوانان عرضه می‌شود

شرکت اوپن‌ای‌آی در واکنش به نگرانی‌ها و شکایت‌های اخیر، سیاست‌های سخت‌گیرانه‌تری برای کاربران زیر ۱۸ سال چت‌جی‌پی‌تی اعمال می‌کند؛ تغییراتی که از محدودیت محتوای جنسی و خودکشی تا احتمال الزام بزرگسالان به تایید هویت با کارت شناسایی را در بر می‌گیرد.

کد خبر : ۳۳۸۴۳

جمعه - 28 شهريور 1404

به گزارش خبرنگار اقتصاد معاصر؛ شرکت اوپن‌ای‌آی مجموعه‌ای از سیاست‌های جدید را برای نحوه استفاده نوجوانان از چت‌جی‌پی‌تی اعلام کرد. سم آلتمن، مدیرعامل این شرکت روز سه‌شنبه در بیانیه‌ای تاکید کرد که ایمنی نوجوانان بالاتر از حریم خصوصی و آزادی آنها قرار می‌گیرد و افراد کم‌سن در تعامل با فناوری‌های نوین نیازمند حفاظت بیشتری هستند.

بر اساس این سیاست‌ها گفت‌و‌گو درباره موضوعات جنسی و همچنین محتوای مرتبط با خودکشی برای کاربران زیر ۱۸ سال محدود می‌شود. چت‌جی‌پی‌تی دیگر اجازه نخواهد داشت با این گروه وارد گفت‌و‌گو‌های عاشقانه یا فریبنده شود و در صورتی که نشانه‌هایی از بحران روحی یا تمایل به خودآزاری در کاربر نوجوان مشاهده شود، سیستم تلاش خواهد کرد والدین را مطلع سازد و در موارد جدی حتی با پلیس تماس بگیرد.

اعمال این محدودیت‌ها در حالی است که اوپن‌ای‌آی با یک پرونده قضایی مواجه شده است. والدین آدام رین، نوجوانی که پس از ماه‌ها تعامل با چت‌جی‌پی‌تی خودکشی کرد، علیه این شرکت شکایت کرده‌اند. شرکت Character.AI نیز با پرونده مشابهی روبه‌رو است که این موضوع باعث افزایش فشار‌های اجتماعی و سیاسی بر شرکت‌های هوش مصنوعی شده و کمیته قضایی سنای آمریکا نیز جلسه‌ای با عنوان «بررسی آسیب‌های چت‌بات‌های هوش مصنوعی» برگزار خواهد کرد که پدر آدام رین از سخنرانان اصلی آن است.

یکی دیگر از تغییرات مهم اعلام‌شده، احتمال اجبار بزرگسالان به تایید هویت با کارت شناسایی برای دسترسی به نسخه کامل چت‌جی‌پی‌تی است. آلتمن اذعان کرده که این اقدام می‌تواند عقب‌نشینی از حریم خصوصی تلقی شود اما ارزشش را دارد؛ چرا که در صورت تردید درباره سن کاربر، سیستم به‌ طور پیش‌فرض نسخه مخصوص نوجوانان را فعال خواهد کرد. همچنین این شرکت هوش مصنوعی در حال توسعه سیستمی برای پیش‌بینی خودکار سن کاربران است که در صورت تشخیص زیر ۱۸ سال بودن، دسترسی به نسخه محدود را اعمال می‌کند.

هم‌زمان، قابلیت‌های تازه‌ای برای والدین در نظر گرفته شده است. آنها می‌توانند حساب کاربری نوجوان را به حساب خود متصل کنند، تاریخچه گفت‌و‌گو‌ها را غیرفعال سازند، ساعات ممنوعه تعیین کنند و در صورتی که فرزندشان دچار بحران روحی باشد، هشدار دریافت کنند. اوپن‌ای‌آی حتی اعلام کرده در شرایط اضطراری که والدین در دسترس نباشند، ممکن است به‌ عنوان آخرین راهکار با پلیس تماس گرفته شود.

این تحولات در حالی صورت می‌گیرد که تحقیقات علمی نگرانی‌های بیشتری درباره استفاده نوجوانان از چت‌بات‌ها مطرح کرده‌اند. پژوهش دانشگاه استنفورد در ژوئیه ۲۰۲۵ نشان داد که بات‌های درمانی هوش مصنوعی می‌توانند توصیه‌های خطرناک پزشکی و روانی ارائه دهند. همچنین گزارش‌هایی از کاربران آسیب‌پذیر منتشر شده که پس از ساعت‌ها تعامل بی‌وقفه با چت‌بات‌ها دچار حالتی موسوم به «جنون هوش مصنوعی» شده‌اند.

با وجود اعلام این سیاست‌ها، هنوز پرسش‌های زیادی بی‌پاسخ مانده است؛ از جمله اینکه این محدودیت‌ها چگونه برای کاربران فعلی بدون تایید هویت اعمال خواهد شد. آیا شامل دسترسی از طریق API نیز می‌شود و در کشور‌هایی که تعریف متفاوتی از «بزرگسالی» دارند، چه سازوکاری در پیش گرفته خواهد شد. در عین حال، اوپن‌ای‌آی همچنان بر تعهد خود به حفظ حریم خصوصی کاربران بزرگسال تاکید می‌کند و یادآوری می‌کند که حساب‌های کاربری چت‌جی‌پی‌تی از خصوصی‌ترین سرویس‌های دیجیتال هستند.