مرداد
اخبار
OpenAI و APA؛ قرارداد سهساله برای امنیت روانی نوجوانان در چتجیپیتی
شرکت OpenAI و انجمن روانشناسی آمریکا (APA) وارد یک همکاری سهساله شدهاند تا مرز امن استفادهی نوجوانان از چتجیپیتی را مشخص کنند؛ طرحی که میتواند الگویی برای کل صنعت هوش مصنوعی شود.
لیست مطالب
۱. چرا این خبر برای خانوادههای ایرانی هم مهم است
میلیونها نوجوان در سراسر دنیا، از جمله در ایران، هر روز از ابزارهایی مثل چتجیپیتی برای انجام تکالیف، تمرین زبان، مشاورهی گرفتن ایده و حتی صحبت دربارهی احساساتشان استفاده میکنند. برخلاف نسلهای قبلی که اینترنت را تدریجاً و در سنین بالاتر تجربه کردند، نسل امروز از همان سالهای ابتدایی نوجوانی با چتباتهایی روبهروست که میتوانند شبانهروز، بدون خستگی و بدون قضاوت، به هر سؤالی پاسخ دهند. همین ویژگی که یکی از بزرگترین نقاط قوت هوش مصنوعی است، میتواند برای یک ذهن هنوز در حال شکلگیری تبدیل به یک وابستگی نامتعادل هم بشود.
وقتی بزرگترین شرکت هوش مصنوعی دنیا رسماً اعلام میکند که سلامت روان این گروه سنی را در اولویت قرار داده، این تصمیم مستقیماً روی تجربهی روزمرهی خانوادههایی هم که در اخبار هوش مصنوعی این حوزه را دنبال میکنند اثر میگذارد. حتی اگر یک خانواده هرگز از چتجیپیتی استفاده نکند، تصمیمهایی از این جنس معمولاً به مرور به استانداردی برای کل صنعت تبدیل میشود؛ از شبکههای اجتماعی گرفته تا اپلیکیشنهای آموزشی که از هوش مصنوعی مولد استفاده میکنند.
۲. جزئیات قرارداد میان OpenAI و APA
بر اساس اعلام رسمی که در تاریخ ششم اوت منتشر شد، شرکت OpenAI و انجمن روانشناسی آمریکا وارد یک شراکت سهساله شدهاند. این انجمن که یکی از معتبرترین نهادهای علمی حوزهی روانشناسی در آمریکاست، پیشتر هم در تدوین اصول اولیهی زیر ۱۸ سال چتجیپیتی مشاوره داده بود؛ اما این بار همکاری به شکل رسمی و بلندمدتتر ادامه پیدا میکند. اگر میخواهید بدانید این شرکت اساساً چطور شکل گرفته و چه مسیری را طی کرده، میتوانید مقالهی OpenAI چیست را هم بخوانید.
نکتهی مهم این است که این قرارداد صرفاً یک بیانیهی نمادین نیست. بر اساس اطلاعات منتشرشده، تیم مشترکی از پژوهشگران APA و مهندسان سلامت روان OpenAI قرار است بهصورت منظم دادههای استفاده (البته با رعایت حریم خصوصی) را بررسی کنند تا مشخص شود کدام تغییرات واقعاً روی رفتار کاربران نوجوان اثر مثبت گذاشته است. این رویکرد دادهمحور، تفاوت اصلی این طرح با بسیاری از بیانیههای مشابه در صنعت فناوری است که معمولاً فاقد معیار سنجش مشخص هستند.
۳. سه محور اصلی این همکاری
طبق توضیح تیم سیاستگذاری سلامت روان OpenAI، این پروژه حول سه محور اصلی میچرخد.
حمایت از خانوادهها
ساخت منابع کاربردی و قابلفهم برای والدین تا بتوانند الگوهای سالم و ناسالم استفاده از هوش مصنوعی را در فرزندانشان تشخیص دهند و در زمان مناسب دخالت کنند.
منابع تخصصی برای درمانگران
تولید محتوای علمی برای روانشناسان بالینی و مشاوران مدرسه تا بتوانند به سؤالات مرتبط با هوش مصنوعی و الگوهای مصرف ناسالم آن پاسخ دهند.
شنیدن صدای نوجوانان
جمعآوری بازخورد مستقیم از خود نوجوانان، خانوادهها و معلمها تا شکافهای واقعی سیستم فعلی شناسایی و برطرف شود؛ رویکردی که کمتر شرکت فناوری بزرگی تا این حد جدی دنبال کرده است.
۴. نقش ۲۶۰ متخصص سلامت روان در تنظیم چتجیپیتی
یکی از نکات قابلتوجه این اعلامیه، افشای آمار همکاری OpenAI با بیش از ۲۶۰ متخصص سلامت روان است. این کارشناسان در طراحی نحوهی پاسخدهی چتجیپیتی به موضوعاتی مثل اضطراب، افسردگی، تصویر بدنی و افکار خودآزاری نقش داشتهاند. هدف این است که مدل بتواند نشانههای پریشانی را در میانهی یک گفتوگوی معمولی تشخیص دهد و بهجای ادامهی بیاحتیاط بحث، کاربر را به سمت منابع معتبر یا کمک انسانی هدایت کند.
این همکاری تنها به مرحلهی طراحی محدود نمیشود. بخشی از این متخصصان بهصورت مستمر مکالمات نمونه (بدون اطلاعات هویتی) را بازبینی میکنند تا ببینند مدل در موقعیتهای حساس چطور واکنش نشان داده و آیا نیاز به اصلاح دارد یا نه. به گفتهی OpenAI، همین فرآیند بازخورد مداوم است که باعث میشود قابلیتهای ایمنی مدل، برخلاف بسیاری از فیلترهای ساده و ایستا، بهمرور هوشمندتر و دقیقتر شوند.
۵. اصول زیر ۱۸ سال در Model Spec چه میگوید
شرکت OpenAI از چند ماه پیش اصولی موسوم به «اصول زیر ۱۸ سال» را وارد سند راهنمای رفتاری مدل خود، معروف به Model Spec، کرده است. این اصول چهار محور دارد: اولویت دادن به ایمنی نوجوان حتی در برابر اهداف رقابتی دیگر، تشویق به حفظ روابط واقعی و مراجعه به منابع قابلاعتماد بهجای وابستگی کامل به چتبات، رفتار متناسب با سن بدون تحقیرآمیز بودن یا برعکس بزرگسالانگاری زودهنگام، و شفافیت کامل دربارهی انتظارات از کاربر نوجوان. طبق این اصول، چتجیپیتی در گفتوگوهای مربوط به خودآزاری، روابط عاشقانه یا جنسی، محتوای صریح، فعالیتهای پرخطر و اختلالات خوردن، محافظتهای سختگیرانهتری برای کاربران ۱۳ تا ۱۷ ساله اعمال میکند.
۶. سامانهی تشخیص خودکار سن و کنترل والدین
بخش دیگری از این طرح، گسترش سامانهی تشخیص خودکار سن است. این سامانه تلاش میکند بر اساس الگوی استفاده، بهطور خودکار حدس بزند که آیا یک حساب کاربری متعلق به فردی زیر ۱۸ سال است یا خیر، و در صورت لزوم محافظتهای ویژه را بدون نیاز به تنظیم دستی توسط کاربر فعال کند. کاربران بزرگسال هم گزینهی تأیید سن دارند. در کنار این، کنترلهای والدین به بخشهای بیشتری از محصولات OpenAI از جمله چتهای گروهی، مرورگر Atlas و اپلیکیشن Sora گسترش پیدا کرده و راهنمای خانواده هم منتشر شده است.
۷. واکنش رقبا؛ آیا Gemini و Claude هم دنبال میکنند
این گام از سوی بزرگترین بازیگر بازار چتباتها میتواند فشار تازهای بر رقبا وارد کند. شرکتهایی مثل Google با Gemini، Anthropic با Claude و xAI با Grok در ماههای اخیر بارها زیر ذرهبین رسانهها و نهادهای قانونگذاری دربارهی نحوهی برخورد چتباتهایشان با کاربران جوان قرار گرفتهاند. اگر علاقه دارید بدانید مدلهای مختلف هوش مصنوعی در عمل چطور با هم مقایسه میشوند، مقالهی مقایسهی چتجیپیتی و دیپسیک نگاه خوبی به این موضوع دارد. با توجه به حساسیت روزافزون افکار عمومی، بعید نیست در ماههای آینده شاهد اعلامیههای مشابهی از سوی سایر شرکتها هم باشیم.
در همین حال، برخی از ایالتهای آمریکا هم قوانین سختگیرانهتری دربارهی مسئولیت شرکتهای هوش مصنوعی در قبال کاربران خردسال تصویب یا پیشنهاد کردهاند. این فشار موازی از سمت نهادهای قانونگذاری و افکار عمومی باعث شده رقابت میان شرکتهای بزرگ، دیگر فقط بر سر قدرت مدل یا سرعت پاسخدهی نباشد، بلکه مسئولیتپذیری اجتماعی هم به یکی از معیارهای مهم انتخاب کاربران و حتی سرمایهگذاران تبدیل شود.
۸. چالشها و انتقادهای احتمالی
با این حال، همهی کارشناسان نسبت به این طرح خوشبین نیستند. برخی منتقدان میگویند تشخیص خودکار سن هنوز فناوری کاملی نیست و ممکن است هم کاربران بزرگسال را به اشتباه محدود کند و هم برخی نوجوانان بتوانند از آن عبور کنند. عدهای دیگر هم نگرانند که همکاری با یک نهاد علمی، بدون شفافیت کامل دربارهی دادهها و معیارهای ارزیابی، صرفاً یک اقدام روابطعمومی باقی بماند. برای درک بهتر محدودیتهای واقعی اینگونه فناوریها، مطالعهی پتانسیل و محدودیتهای واقعی هوش مصنوعی میتواند دید روشنتری بدهد.
چالش دیگری که کمتر به آن اشاره میشود، تفاوت فرهنگی و زبانی میان کشورهاست. راهنماها و معیارهایی که با همکاری یک نهاد آمریکایی و بر اساس دادههای کاربران انگلیسیزبان طراحی میشوند، لزوماً به همان اندازه برای نوجوانان فارسیزبان یا کاربران کشورهای دیگر دقیق و کاربردی نخواهند بود. به همین دلیل، بسیاری از کارشناسان معتقدند این طرح باید در آینده با مشارکت نهادهای محلی در کشورهای مختلف تکمیل شود، نه اینکه یک استاندارد یکسان برای همهی دنیا در نظر گرفته شود.
۹. این طرح چه معنایی برای کسبوکارها و آموزش دارد
ماجرا فقط به کاربران خانگی محدود نمیشود. مدرسهها، مراکز مشاوره و حتی کسبوکارهایی که محصولاتشان را برای گروه سنی نوجوان طراحی میکنند باید این تغییرات را جدی بگیرند. اگر میخواهید بدانید هوش مصنوعی چطور میتواند در کنار این ملاحظات ایمنی، برای رشد یک کسبوکار هم مفید باشد، پیشنهاد میکنیم نگاهی به اهمیت هوش مصنوعی در کسبوکار بیندازید. برای تیمهای آموزشی هم آشنایی با نحوهی نوشتن پرامپت درست، از جمله در مقالهی آموزش نوشتن پرامپت، میتواند به استفادهی هدفمندتر و ایمنتر از این ابزارها کمک کند.
۱۰. سؤالات متداول
این همکاری دقیقاً چه زمانی اجرایی میشود؟
بر اساس اعلام OpenAI، این پروژه از هماکنون آغاز شده و طی سه سال آینده بهتدریج راهنماها و ابزارهای تازه منتشر خواهند شد.
آیا این تغییرات فقط برای کاربران آمریکایی است؟
خیر، اصول زیر ۱۸ سال در Model Spec و سامانهی تشخیص سن بهصورت جهانی روی محصولات OpenAI اعمال میشود، هرچند سرعت گسترش در کشورهای مختلف ممکن است متفاوت باشد.
آیا این طرح به معنای محدود شدن کامل نوجوانان از هوش مصنوعی است؟
نه؛ هدف OpenAI محدود کردن کامل دسترسی نیست، بلکه فراهم کردن یک تجربهی ایمنتر و متناسب با سن است. برای آشنایی بیشتر با نحوهی درست استفاده از این ابزارها، دورههای آموزشی سایت مثل آموزشهای چتجیپیتی منبع خوبی هستند.
۱۱. جمعبندی؛ گامی که باید جدی گرفت
در نهایت، این شراکت نشان میدهد که بحث سلامت روان دیگر یک موضوع حاشیهای در صنعت هوش مصنوعی نیست، بلکه به یکی از محورهای اصلی رقابت و مسئولیتپذیری شرکتهای بزرگ تبدیل شده است. با این حال، تمایز میان یک انسان واقعی که در زمان بحران کنار نوجوان میایستد و یک الگوریتم، هرچقدر هم پیشرفته، هنوز موضوعی است که کارشناسان دربارهاش هشدار میدهند؛ نکتهای که در مقالهی توهم هوش مصنوعی در برابر واقعیت هم به آن پرداخته شده است.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
