مرداد
اخبار
چرا هوش مصنوعی دخترها را از داستانهای کودکان حذف میکند؟ پژوهش دانشگاه واشینگتن
پژوهشی تازه از دانشگاه واشینگتن نشان میدهد وقتی از هوش مصنوعی میخواهیم برای کودکان داستان حیوانات بنویسد، شخصیتهای «زن» تقریباً بهطور کامل از روایت حذف میشوند؛ اتفاقی که ریشه در تلاش شرکتهای فناوری برای «بیطرف» نشاندادن مدلهایشان دارد.
لیست مطالب
بخش اول: چرا این پژوهش هوش مصنوعی اینقدر مهم است؟
امروزه میلیونها والد و معلم در سراسر دنیا از ابزارهایی مانند ChatGPT، Gemini و Claude برای ساختن قصههای شب یا محتوای آموزشی کودکان استفاده میکنند. بازار اپلیکیشنهای داستانساز کودکانهی مبتنی بر هوش مصنوعی هم در دو سال گذشته رشد چشمگیری داشته و بسیاری از خانوادهها دیگر بهجای خرید کتاب، از چتباتها میخواهند در چند ثانیه یک قصهی تصویری تازه بسازند. وقتی الگوریتمی که اینهمه در زندگی روزمرهی خانوادهها نفوذ کرده، بهطور سیستماتیک یک جنسیت را نادیده میگیرد، پیامد آن فقط یک باگ فنی نیست؛ بلکه میتواند روی تصویر ذهنی نسل بعدی از نقش زنان در دنیا اثر بگذارد. کودکی که سالها فقط شخصیتهای حیوانی «مرد» یا «بیجنسیت» را در نقش قهرمان میبیند، ناخودآگاه یاد میگیرد که ماجراجویی، شجاعت و رهبری بیشتر به یک جنسیت خاص تعلق دارد. برای آشنایی بیشتر با قابلیتها و محدودیتهای واقعی هوش مصنوعی، میتوانید مقالهی اختصاصی ما را در این باره بخوانید.
بخش دوم: روش پژوهش؛ چگونه ۲۳ هزار داستان تحلیل شد؟
تیم تحقیق به رهبری ایمانی فینکلی، دانشجوی دکترای دانشکدهی اطلاعات دانشگاه واشینگتن، به همراه ملانی والش و یوانشی لی، جملههای نیمهتمامی مانند «و سپس خرس گفت: باید به رودخانه بروم. وقتی رسید…» را به شش مدل هوش مصنوعی دادند و از آنها خواستند داستان را کامل کنند. نتیجه، مجموعهای عظیم از ۲۳ هزار و ۸۰۰ داستان کاملشده بود. پژوهشگران این دادهها را با پاسخ ۱۳۰۰ نویسندهی انسانی و همچنین تحلیل قبلی روی ۳۰۰ کتاب تصویری محبوب کودکان مقایسه کردند تا مشخص شود آیا سوگیری هوش مصنوعی با سوگیری موجود در ادبیات کودک انسانی همخوانی دارد یا نه.
بخش سوم: مدلهای بررسیشده؛ از جیپیتی تا کلود
در این پژوهش، شش مدل زبانی بزرگ ارزیابی شدند: مدل GPT-5.1 از شرکت OpenAI، مدل Gemini 2.5 از گوگل، مدل Claude Sonnet 4.5 از شرکت Anthropic، مدل متنباز Olmo 3 که محصول مشترک Allen Institute for AI و دانشگاه واشینگتن است، و دو مدل دیگر که در گزارش نامشان اعلام نشده است. اگر میخواهید بدانید شرکت OpenAI دقیقاً چهکاره است و چه مدلهایی میسازد، این مقاله را از دست ندهید.
بخش چهارم: آمار شوکهکننده؛ دخترها کجا رفتند؟
نتیجهی نهایی برای بسیاری غیرمنتظره بود. از میان تمام شخصیتهای حیوانی تولیدشده توسط هوش مصنوعی، تنها ۲ درصد «زن» بودند؛ ۴۱ درصد «مرد» توصیف شدند و ۵۷ درصد اصلاً جنسیتی نداشتند و با ضمیر خنثی «آن» یا بدون ضمیر روایت شدند. وقتی به تفکیک مدلها نگاه میکنیم، تصویر جالبتر میشود: مدل Olmo 3 در ۸۵ درصد داستانها از زبان خنثی استفاده کرد، مدل Gemini 2.5 در ۶۳ درصد موارد شخصیت را «مرد» ساخت، مدل GPT-5.1 نیز در ۶۵ درصد داستانها شخصیت مذکر انتخاب کرد و مدل Claude Sonnet 4.5 با وجود بهترین عملکرد نسبی، فقط در ۴ درصد داستانها شخصیت زن ساخت.
تفاوت میان گونههای مختلف حیوانات
جالب اینکه نوع حیوان هم روی نتیجه اثر داشت. شخصیت «گربه» بیشترین احتمال دریافت ضمیر زنانه را داشت، اما باز هم فقط در ۷ درصد موارد. در مقابل، شخصیت «پرنده» در ۹۶ درصد داستانها کاملاً خنثی توصیف شد. همچنین ضمیر جمع خنثی «آنها» که در نوشتههای انسانی حدود ۳ درصد دیده میشود، در میان هزاران داستان تولیدشده توسط هوش مصنوعی تنها دو بار بهکار رفت. پژوهشگران میگویند این الگو نشان میدهد سوگیری هوش مصنوعی ثابت و یکنواخت نیست، بلکه بسته به نوع شخصیت و حتی زبان جمله تغییر میکند؛ موضوعی که تحلیل و اصلاح آن را برای مهندسان هوش مصنوعی بهمراتب پیچیدهتر میکند.
مقایسهی سریع آماری
بهطور خلاصه، از هر صد شخصیت حیوانی تولیدشده توسط هوش مصنوعی، حدود پنجاهوهفت شخصیت هیچ جنسیتی ندارند، چهلویک شخصیت «مرد» هستند و تنها دو شخصیت «زن» توصیف میشوند. این نسبت تقریباً بیستویکبرابری میان شخصیتهای مرد و زن، فاصلهای بسیار بزرگتر از آن چیزی است که حتی منتقدان ادبیات کودک سنتی هم انتظار داشتند.
بخش پنجم: مقایسه با کتابهای کودکان و نویسندگان انسانی
وقتی پژوهشگران نتایج هوش مصنوعی را با ۳۰۰ کتاب تصویری محبوب کودکان و پاسخ ۱۳۰۰ نویسندهی انسانی مقایسه کردند، دریافتند سوگیری در ادبیات انسانی هم وجود دارد، اما هرگز به این شدت نیست. نویسندگان انسانی هم تمایل دارند شخصیت حیوانی را «مرد» فرض کنند، اما درصد شخصیتهای زن در نوشتههای آنها بهمراتب بیشتر از خروجی هوش مصنوعی است. به بیان دیگر، هوش مصنوعی نهتنها سوگیری موجود در جامعه را کپی نکرده، بلکه آن را تشدید و حتی از حالت طبیعی خارج کرده است.
بخش ششم: چرا هوش مصنوعی اینقدر «خنثی» مینویسد؟
پژوهشگران فرضیهی جالبی مطرح میکنند: شرکتهای هوش مصنوعی برای جلوگیری از تولید محتوای جنسیتزده، مدلها را طوری آموزش میدهند که در موقعیتهای مبهم بهجای انتخاب جنسیت، از ضمیر خنثی «آن» استفاده کنند. این یعنی حفاظهای ایمنی که قرار بود سوگیری را کاهش دهند، در عمل به حذف کامل نمایندگی زنان منجر شدهاند. به گفتهی تیم تحقیق، «فرضیهی ما این است که این سازمانهای هوش مصنوعی از خنثیبودن، چه با ضمیر آن و چه بدون ضمیر، بهعنوان راهی برای فرار از سوگیری جنسیتی در موقعیتهای مبهم استفاده میکنند.» این ماجرا نمونهی خوبی از فاصلهی میان تصور عمومی از هوش مصنوعی و واقعیت فنی آن است؛ موضوعی که در مقالهی توهم هوش مصنوعی و تفاوت توسعهدهندهی تنها با مهندس واقعی هم به آن پرداختهایم.
بخش هفتم: واکنش شرکتها و اهمیت این یافته برای صنعت هوش مصنوعی
این پژوهش در کنفرانس معتبر ACM Conference on Fairness, Accountability, and Transparency در سال ۲۰۲۶ ارائه شد و بازتاب گستردهای در رسانههای فناوری پیدا کرد. تاکنون هیچیک از شرکتهای سازندهی این مدلها واکنش رسمی مفصلی ندادهاند، اما این یافته بار دیگر نشان داد رقابت شدید میان OpenAI، گوگل، Anthropic و دیگر آزمایشگاههای هوش مصنوعی روی معیارهای عملکردی و ایمنی متمرکز است، در حالی که مسائل ظریفتری مانند نمایندگی جنسیتی در گوشهای فراموش میشوند. برای درک اهمیت هوش مصنوعی در کسبوکار و چرایی توجه ویژهی شرکتها به این حوزه، پیشنهاد میکنیم این مطلب را هم بخوانید.
بخش هشتم: پیامدهای این سوگیری برای کودکان و آموزش
روانشناسان رشد کودک سالهاست هشدار میدهند که تصویرسازی نامتوازن از جنسیت در داستانهای دوران کودکی میتواند روی خودپنداره و انتظارات نقشی کودکان اثر بگذارد. پژوهشهای پیشین دربارهی کتابهای تصویری کاغذی هم نشان داده بودند دختربچههایی که کمتر خودشان را در نقش قهرمان داستان میبینند، تمایل کمتری برای پذیرفتن نقشهای رهبری در بزرگسالی نشان میدهند. وقتی ابزاری مانند هوش مصنوعی که هرروز بیشتر جای کتاب و حتی والدین را در قصهگویی میگیرد، عملاً دختران را از روایت حذف میکند، این نگرانی جدیتر میشود. معلمان و طراحان محتوای آموزشی باید در استفاده از هوش مصنوعی برای تولید داستان کودکان، هوشیارتر عمل کنند و خروجی را پیش از استفاده بازبینی کنند؛ بهویژه در مدرسهها و مهدکودکهایی که این محتوا را بدون بازبینی مستقیم در اختیار گروهی از کودکان قرار میدهند.
بخش نهم: چند راهکار عملی برای والدین و معلمها
خوشبختانه راهحل سادهای هم وجود دارد: مشخصکردن جنسیت شخصیت در همان دستور اولیه. برای مثال، بهجای درخواست کلی «یک داستان دربارهی یک روباه بنویس»، میتوان نوشت «داستانی دربارهی یک روباه مادهی شجاع بنویس». روش دیگر این است که در همان یک درخواست، از هوش مصنوعی بخواهید چند نسخهی مختلف با جنسیتهای متفاوت برای شخصیت اصلی بسازد و سپس بهترین نسخه را انتخاب کنید؛ این کار هم تنوع داستان را بیشتر میکند و هم از تکرار الگوی همیشگی جلوگیری میکند. والدین همچنین میتوانند پس از دریافت داستان، خودشان چند جمله برای معرفی شخصیتهای زن اضافه کنند تا کودک هر دو نقش را بهطور متعادل ببیند. اگر با نحوهی نوشتن دستورهای دقیقتر برای هوش مصنوعی آشنا نیستید، آموزش نوشتن پرامپت برای مبتدیان نقطهی شروع خوبی است. همچنین میتوانید در بخش آموزشهای ChatGPT ما، ترفندهای بیشتری برای شخصیسازی خروجی هوش مصنوعی پیدا کنید.
سوالات متداول
چرا هوش مصنوعی شخصیتهای زن را کمتر تولید میکند؟
بر اساس این پژوهش، شرکتهای سازندهی مدلها برای پرهیز از سوگیری جنسیتی، مدلها را به سمت استفاده از ضمایر خنثی سوق دادهاند؛ اما این رویکرد در عمل باعث حذف تقریباً کامل شخصیتهای زن شده است.
کدام مدل هوش مصنوعی کمترین سوگیری را داشت؟
مدل Claude Sonnet 4.5 نسبت به بقیهی مدلها عملکرد بهتری داشت، اما باز هم فقط در ۴ درصد داستانها شخصیت زن ساخت که رقم بسیار پایینی است.
آیا نویسندگان انسانی هم همین سوگیری را دارند؟
بله، اما بهمراتب کمتر. مقایسه با ۳۰۰ کتاب کودک محبوب و پاسخ ۱۳۰۰ نویسندهی انسانی نشان داد سوگیری هوش مصنوعی بسیار شدیدتر از سوگیری موجود در ادبیات انسانی است.
این پژوهش چه زمانی و کجا منتشر شد؟
یافتههای این پژوهش در کنفرانس ACM FAccT سال ۲۰۲۶ ارائه و در تابستان همان سال بهطور گسترده در رسانههای فناوری بازتاب داده شد.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
