مرداد
اخبار
چت‌جی‌پی‌تی نوجوانان: OpenAI با پیش‌بینی سن و کنترل والدین از کاربران زیر ۱۸ سال محافظت می‌کند
شرکت OpenAI با معرفی چت‌جی‌پی‌تی نوجوانان، ترکیبی از پیش‌بینی سن، کنترل والدین و حالت مطالعه را برای امن‌سازی تجربه‌ی کاربران زیر ۱۸ سال به میدان آورده است.
لیست مطالب
۱. چرا OpenAI حالا به فکر نوجوانان افتاده است؟
پژوهش‌های تازه نشان می‌دهند نزدیک به سه‌چهارم نوجوانان آمریکایی از دستیارهای هوش مصنوعی برای مصاحبت، تکالیف درسی یا حتی مشورت‌های شخصی استفاده می‌کنند. چت‌جی‌پی‌تی در همین حال به بیش از ۹۰۰ میلیون کاربر فعال هفتگی رسیده و بخش قابل‌توجهی از آن‌ها را نوجوانانی تشکیل می‌دهند که هرگز محدودیت سنی واقعی روی حساب‌شان اعمال نشده بود. همین شکاف باعث شد OpenAI بعد از سال‌ها، سرانجام یک تجربه‌ی مستقل و از پیش ایمن‌شده برای این گروه سنی طراحی کند.
نکته‌ی مهم این‌جاست که این اقدام دیرهنگام بوده؛ چرا که چت‌جی‌پی‌تی از سال ۲۰۲۲ در دسترس عموم قرار داشته و تا امروز هیچ لایه‌ی حفاظتی اختصاصی برای نوجوانان نداشت. برای دنبال‌کردن روند این‌گونه تصمیم‌گیری‌ها، سری اخبار هوش مصنوعی در سایت به‌روزرسانی می‌شود.
خانواده‌ها، معلمان و حتی خود نوجوانان مدت‌هاست خواستار شفافیت بیشتری از شرکت‌های هوش مصنوعی بودند و همین خواسته، فشار عمومی بر OpenAI را در ماه‌های اخیر تشدید کرده بود. حالا با معرفی این مجموعه‌ابزار، شرکت تلاش می‌کند نشان دهد رشد سریع کاربران نوجوان را نادیده نگرفته و به‌جای واکنش بحرانی، یک چارچوب بلندمدت طراحی کرده است.
۲. چت‌جی‌پی‌تی نوجوانان دقیقاً چیست؟
چت‌جی‌پی‌تی نوجوانان یک نسخه‌ی جداگانه از اپلیکیشن نیست، بلکه لایه‌ای از تنظیمات پیش‌فرض ایمن است که روی حساب‌های شناسایی‌شده به‌عنوان زیر ۱۸ سال فعال می‌شود. کاربرانی که هنگام ثبت‌نام سن ۱۳ تا ۱۷ سالگی را اعلام کنند، مستقیماً وارد این محیط می‌شوند. اما نکته‌ی تازه این است که حتی کاربرانی که سن خود را پنهان کنند نیز ممکن است از طریق سامانه‌ی پیش‌بینی سن شناسایی و به همین حالت منتقل شوند.
هدف OpenAI از این طراحی، حذف مسئولیت از دوش کاربر جوان و انتقال آن به سیستم است؛ رویکردی که برای کاربران فارسی‌زبان هم اهمیت دارد و در بخش آموزش‌های چت‌جی‌پی‌تی سایت با جزئیات بیشتری بررسی می‌شود.
۳. سامانه‌ی پیش‌بینی سن چگونه تصمیم می‌گیرد؟
سامانه‌ی پیش‌بینی سن بر پایه‌ی الگوهای رفتاری و نوع تعاملات کاربر با مدل کار می‌کند، نه صرفاً یک فرم ورودی. اگر سیستم در تشخیص سن کاربر مردد بماند، به‌طور خودکار محافظانه‌ترین حالت یعنی تنظیمات نوجوانان را اعمال می‌کند تا خطای احتمالی همیشه به‌سمت ایمنی بیشتر متمایل باشد. لورن جوناس، مسئول بخش جوانان و خانواده‌ی OpenAI، این فلسفه را با جمله‌ی «ایمنی باید به‌صورت پیش‌فرض باشد» توضیح داده است.
این پروژه با همکاری نهادهایی مانند Common Sense Media و دادستانی‌های کالیفرنیا و دلاور توسعه یافته تا معیارهای علمی رشد نوجوانان در طراحی آن لحاظ شود. برای آشنایی دقیق‌تر با ماهیت این شرکت و مسیر توسعه‌ی محصولاتش، مقاله‌ی OpenAI دقیقاً چیست در سایت راهنمای خوبی است.
۴. چه محتوایی برای نوجوانان فیلتر می‌شود؟
در حساب‌های شناسایی‌شده به‌عنوان نوجوان، چت‌جی‌پی‌تی به‌طور خودکار میزان محتوای گرافیکی، چالش‌های خطرناک، نقش‌آفرینی عاشقانه یا جنسی و استانداردهای افراطی زیبایی را کاهش می‌دهد. همچنین گفت‌وگوهای مرتبط با اختلالات خوردن و آسیب به خود با حساسیت بیشتری مدیریت می‌شوند و در صورت مشاهده‌ی نشانه‌های هشداردهنده، مسیر گفت‌وگو به سمت منابع کمکی هدایت می‌شود.
تغییر دیگر، کاهش «انسان‌نمایی» ربات است؛ یعنی چت‌جی‌پی‌تی دیگر ادعای داشتن احساسات، آگاهی یا رابطه‌ی عاطفی واقعی با کاربر نوجوان نمی‌کند. یادآوری‌های استراحت هم مکرر شده‌اند و پیش از بارگذاری تصاویر حساس، هشدار نمایش داده می‌شود. با این حال، محدودیت‌های فعلی هوش مصنوعی هنوز کامل نیستند و در مقاله‌ی توانایی‌ها و محدودیت‌های واقعی هوش مصنوعی این موضوع باز شده است.
۵. کنترل والدین؛ ابزارهایی که تازه به میدان آمده‌اند
والدین از طریق حساب مرتبط‌شده می‌توانند «ساعات سکوت» تعیین کنند، حالت صوتی و حافظه‌ی مکالمه را غیرفعال کنند و تولید تصویر را محدود سازند. مهم‌تر از همه، در صورت مشاهده‌ی نشانه‌های آسیب به خود یا اختلال خوردن در گفت‌وگوهای فرزندشان، هشدار فوری از طریق ایمیل، پیامک یا نوتیفیکیشن دریافت می‌کنند.
به‌روزرسانی اخیر همچنین امکان اطلاع‌رسانی درباره‌ی مسدودشدن حساب به‌دلیل فعالیت‌های پرخطر را اضافه کرده است. این سطح از شفافیت برای خانواده‌ها، گامی رو به جلو نسبت به وضعیت قبلی محسوب می‌شود که تقریباً هیچ کنترلی روی نحوه‌ی استفاده‌ی نوجوانان از هوش مصنوعی وجود نداشت.
شرکت OpenAI در توضیحات خود تأکید کرده که این ابزارها برای جایگزینی نظارت والدین طراحی نشده‌اند، بلکه قرار است مکمل گفت‌وگوی خانوادگی درباره‌ی استفاده‌ی سالم از هوش مصنوعی باشند. به همین دلیل، راهنمای جداگانه‌ای هم برای خانواده‌ها منتشر شده تا نحوه‌ی فعال‌سازی و تنظیم دقیق هر یک از این گزینه‌ها را گام‌به‌گام توضیح دهد.
۶. حالت مطالعه؛ پایان دوران پاسخ آماده برای تکالیف؟
حالت مطالعه در چت‌جی‌پی‌تی نوجوانان دیگر جواب نهایی مسئله را مستقیم نمی‌دهد. به‌جای آن، با طرح پرسش‌های مرحله‌به‌مرحله، دانش‌آموز را به سمت فهم واقعی موضوع هدایت می‌کند و اگر تشخیص دهد کاربر صرفاً به‌دنبال کپی‌کردن جواب است، یادآوری آموزشی نمایش می‌دهد. والدین می‌توانند «ساعات مطالعه» را تعیین کنند تا این حالت در بازه‌های مشخصی از روز به‌صورت پیش‌فرض فعال شود.
این بخش با ابزارهای کمکی مانند آزمون‌سازی و بصری‌سازی مفاهیم درسی همراه شده تا یادگیری فعال جایگزین کپی‌برداری شود. کسانی که می‌خواهند از همین منطق برای نوشتن پرسش‌های بهتر و مؤثرتر استفاده کنند، می‌توانند راهنمای نوشتن پرامپت برای مبتدیان را در سایت مطالعه کنند.
۷. زمینه‌ی حقوقی: فشار دادخواست‌ها و قانون‌گذاران
این به‌روزرسانی درست پس از چند پرونده‌ی حقوقی جنجالی علیه OpenAI منتشر شده، از جمله پرونده‌ای مرتبط با مرگ یک نوجوان ۱۶ ساله که خانواده‌اش چت‌جی‌پی‌تی را در تشدید بحران روانی او مؤثر می‌دانند. این پرونده‌ها همراه با فشار فزاینده‌ی قانون‌گذاران آمریکایی برای وضع استانداردهای ایمنی هوش مصنوعی برای کودکان و نوجوانان، مسیر این تصمیم را هموار کرده‌اند.
منتقدان می‌گویند این اقدامات باید سال‌ها زودتر انجام می‌شد، اما OpenAI تأکید دارد که همکاری با روان‌شناسان و نهادهای مستقل، طراحی این سیستم را دقیق‌تر از یک واکنش شتاب‌زده کرده است.
۸. مقایسه با رقبا: جمینای، کوپایلوت و بقیه‌ی بازار
گوگل و مایکروسافت هم تحت فشار مشابهی برای ایمن‌سازی دستیارهای هوش مصنوعی‌شان برای کاربران جوان قرار دارند، اما تا امروز هیچ‌کدام مجموعه‌ای به این وسعت از پیش‌بینی سن، کنترل والدین و حالت مطالعه را همزمان عرضه نکرده‌اند. این تفاوت می‌تواند در کوتاه‌مدت به OpenAI برتری رقابتی در بازار آموزشی و خانوادگی بدهد.
برای درک بهتر جایگاه OpenAI در میان رقبا و تفاوت رویکردهای فنی مدل‌های مختلف، مقاله‌ی مقایسه‌ی چت‌جی‌پی‌تی و دیپ‌سیک در سایت نمونه‌ی خوبی از این تحلیل‌هاست.
۹. این تغییر برای کسب‌وکارها، مدارس و توسعه‌دهندگان چه معنایی دارد؟
برای مدارس و مؤسسات آموزشی، حالت مطالعه می‌تواند مسیر پذیرش رسمی هوش مصنوعی در کلاس درس را هموارتر کند، چون نگرانی اصلی معلمان یعنی تقلب مستقیم را کاهش می‌دهد. برای کسب‌وکارهایی که محصولات یا خدمات‌شان به‌نوعی مخاطب نوجوان دارد، این تغییر یادآوری روشنی است که استانداردهای ایمنی هوش مصنوعی دیگر یک گزینه‌ی اختیاری نیست.
در مقاله‌ی اهمیت هوش مصنوعی در کسب‌وکار می‌توانید ببینید چرا رعایت چنین استانداردهایی برای اعتماد مشتریان و رشد بلندمدت برندها حیاتی است. از سوی دیگر، توسعه‌دهندگانی که ابزارهای مبتنی بر هوش مصنوعی می‌سازند باید تفاوت میان یک محصول مسئولانه و یک محصول شتاب‌زده را جدی بگیرند؛ موضوعی که در یادداشت توهم توسعه‌دهنده‌ی تک‌نفره در برابر مهندس واقعی هم بررسی شده است.
۱۰. چالش‌ها و نقدهایی که هنوز پابرجاست
هیچ سامانه‌ی پیش‌بینی سنی صددرصد دقیق نیست و همین موضوع بزرگ‌ترین نقطه‌ضعف طرح تازه‌ی OpenAI محسوب می‌شود. کارشناسان حریم خصوصی هشدار داده‌اند که تحلیل رفتاری کاربران برای حدس‌زدن سن، خودش می‌تواند نگرانی‌های تازه‌ای درباره‌ی جمع‌آوری داده ایجاد کند؛ حتی اگر هدف نهایی محافظت از نوجوانان باشد. از سوی دیگر، برخی روان‌شناسان معتقدند صرف کاهش «انسان‌نمایی» ربات کافی نیست و باید آموزش سواد رسانه‌ای و هوش مصنوعی هم به‌موازات این تغییرات فنی جدی گرفته شود.
نگرانی دیگر این است که خانواده‌هایی که کمتر با فناوری آشنا هستند، ممکن است هرگز کنترل والدین را فعال نکنند و در نتیجه فرزندشان همچنان در معرض همان ریسک‌های قبلی باقی بماند. به همین دلیل بسیاری از فعالان حوزه‌ی ایمنی دیجیتال می‌گویند این ابزارها باید به‌صورت پیش‌فرض و بدون نیاز به تنظیم دستی فعال باشند، نه اختیاری. با وجود این نقدها، اغلب ناظران این گام را نقطه‌ی شروع درستی می‌دانند، نه پایان مسیر.
سوالات متداول
چت‌جی‌پی‌تی نوجوانان از چه سنی قابل استفاده است؟
این تجربه برای کاربران ۱۳ تا ۱۷ ساله طراحی شده و به‌صورت خودکار یا از طریق پیش‌بینی سن فعال می‌شود.
آیا نوجوانان می‌توانند این محدودیت‌ها را دور بزنند؟
کارشناسان هشدار داده‌اند نوجوانان معمولاً در دورزدن محدودیت‌های دیجیتال مهارت دارند، به همین دلیل OpenAI تأکید کرده این سیستم به‌صورت مستمر به‌روزرسانی می‌شود.
آیا استفاده از چت‌جی‌پی‌تی نوجوانان هزینه‌ی اضافه دارد؟
خیر، این تنظیمات بخشی از تجربه‌ی رایگان و پولی چت‌جی‌پی‌تی است و هزینه‌ی جداگانه‌ای ندارد.
آیا این ویژگی‌ها برای کاربران فارسی‌زبان هم در دسترس است؟
بله، این تنظیمات جهانی هستند و برای هر کاربری که سن خود را زیر ۱۸ سال ثبت کند یا سامانه چنین تشخیصی بدهد، در هر منطقه‌ای از جمله ایران قابل فعال‌سازی‌اند.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
