آبان
اخبار
اتاق جنگ انتخاباتی OpenAI؛ صدها کارمند در تعقیب سوءاستفاده از ChatGPT در انتخابات آمریکا
شرکت OpenAI در هفته‌ی پایانی پیش از انتخابات میان‌دوره‌ای آمریکا، مرکزی عملیاتی با صدها کارمند راه انداخته تا سوءاستفاده از ChatGPT را رصد کند. این گزارش توضیح می‌دهد چه چیزی تأیید شده، سازوکارها چگونه کار می‌کنند و محدودیت‌های طرح کجاست.
لیست مطالب
۱. ماجرا چیست و چه زمانی شروع شد؟
بر پایه‌ی گزارش‌های رسانه‌ای، OpenAI در هفته‌ی ۲۸ اکتبر ۲۰۲۶ یک «مرکز عملیات انتخاباتی» (که در برخی رسانه‌ها «اتاق جنگ انتخاباتی» نامیده شده) راه‌اندازی کرد. این مرکز قرار است تا زمانی که آخرین رأی انتخابات میان‌دوره‌ای آمریکا در سوم نوامبر شمرده شود، فعال بماند. یعنی فقط روز رأی‌گیری مدنظر نیست؛ دوره‌ی شمارش آرا هم که معمولاً پر از شایعه و اطلاعات نادرست است، زیر پوشش قرار می‌گیرد.
نکته‌ی مهم این است که بخش زیادی از جزئیات از طریق گزارش‌های دست‌دوم یک خبر سیاسی و مصاحبه‌ها منتشر شده است. بنابراین در این مقاله بین «آنچه گزارش شده» و «آنچه هنوز مستقل تأیید نشده» فرق می‌گذاریم. اگر دنبال آشنایی بیشتر با خود شرکت هستید، OpenAI چیست نقطه‌ی شروع خوبی است.
۲. چه کسی مسئول است و چند نفر کار می‌کنند؟
رهبری مرکز بر عهده‌ی جاش لاوسون، مدیر ریسک مدنی و راهبردی OpenAI، است. تعداد کارکنان به‌صورت دقیق اعلام نشده و فقط عبارت «در حد صدها نفر» به کار رفته است. این افراد از تیم‌های گوناگون شرکت آمده‌اند؛ از تیم‌های ایمنی و سیاست‌گذاری گرفته تا مهندسانی که باید هنگام بروز مشکل، سریع واکنش نشان دهند.
چنین چیدمانی به این معناست که تصمیم‌گیری درباره‌ی یک الگوی مشکوک لازم نیست از چند لایه‌ی اداری بگذرد. وقتی تیم‌ها در یک ساختار هماهنگ‌اند، می‌شود حساب‌های سوءاستفاده‌گر را زودتر محدود کرد یا یک رفتار ناخواسته‌ی مدل را فوراً به تیم فنی منتقل کرد. این دقیقاً همان چیزی است که در رخدادهای حساس زمان‌دار اهمیت دارد.
۳. این مرکز دقیقاً چه کارهایی انجام می‌دهد؟
وظایف گزارش‌شده‌ی مرکز را می‌توان در سه دسته خلاصه کرد. نخست، رصد سوءاستفاده‌ی لحظه‌ای از ChatGPT، مثلاً تلاش برای تولید انبوه محتوای گمراه‌کننده یا ساخت پیام‌های هدفمند. دوم، رسیدگی به گزارش‌های «رفتار غیرمنتظره‌ی مدل»؛ یعنی مواردی که ChatGPT پاسخی می‌دهد که با سیاست‌های رأی‌گیری هم‌خوان نیست. سوم، اجرای سریع سیاست‌ها و هماهنگی میان تیم‌ها.
تفاوت این رویکرد با سال‌های قبل در تمرکز عملیاتی آن است. پیش‌تر شرکت‌ها بیشتر گزارش‌های پس از رخداد منتشر می‌کردند؛ اینجا یک اتاق کنترل زنده تعریف شده است. اگر به روند ورود هوش مصنوعی به کسب‌وکار و حکمرانی علاقه دارید، اهمیت هوش مصنوعی در کسب‌وکار را هم ببینید.
۴. «کارتونی‌سازی» تصاویر یعنی چه؟
یکی از جالب‌ترین سازوکارها «cartoonification» است. وقتی کاربری از ChatGPT تصویری کاملاً واقع‌گرایانه با موضوع انتخابات می‌خواهد، سامانه به‌جای عکس‌نما، خروجی را به سبک کارتونی تحویل می‌دهد. چرا؟ چون یک تصویر کارتونی را کمتر کسی به‌عنوان مدرک واقعی منتشر می‌کند یا باور می‌کند.
جاش لاوسون هدف را «کاهش ارزش اثباتی تصویر» توصیف کرده و گفته این کار ChatGPT را برای افراد بدخواه کم‌فایده‌تر می‌کند، چون یک لایه‌ی اصطکاک اضافه می‌شود. منطق ساده است: هدف، غیرممکن‌کردن هر سوءاستفاده نیست؛ هدف، گران‌ترشدن و دشوارترشدن آن است.
آیا این ترفند دور زده می‌شود؟
گزارشی جداگانه ادعا کرده که این قاعده پیش‌تر با یک پرامپت تکمیلی ساده دور زده شده است. این ادعا از منبعی دیگر نقل شده و در این مقاله نمی‌توانیم آن را تأییدشده بدانیم. با این حال، تجربه‌ی کلی حوزه‌ی ایمنی نشان می‌دهد هر فیلتری با نوشتن پرامپت‌های خلاقانه آزمایش می‌شود. برای درک بهتر نحوه‌ی نوشتن پرامپت و اینکه چرا مرزشکنی ممکن است، آموزش نوشتن پرامپت برای مبتدیان مفید است.
۵. اطلاعات رأی‌دهندگان از کجا می‌آید؟
OpenAI برای اینکه ChatGPT در موضوعات حساس خودش «مرجع» نشود، از شریک‌ها استفاده می‌کند. برای ثبت‌نام و پیدا کردن محل رأی‌گیری، کاربر به Democracy Works هدایت می‌شود؛ شراکتی که در ماه مه اعلام شده بود. برای نتایج زنده نیز مسیر به سمت خبرگزاری Associated Press است.
این الگو منطقی است. مدل زبانی ممکن است اطلاعاتی قدیمی یا ناقص بدهد، اما یک سازمان خبری یا غیرانتفاعی تخصصی منبع به‌روزتری دارد. نتیجه این است که در پرسش‌هایی مانند «کجا رأی بدهم؟» یا «نتیجه چه شد؟» پاسخ مستقیم کمتر و ارجاع بیشتر خواهید دید.
۶. دامنه‌ی کار کجا تمام می‌شود؟
باید دقیق بود: این مرکز فعالیت روی سامانه‌های OpenAI را زیر نظر دارد. یعنی اگر کسی با ابزار دیگری یا خارج از این پلتفرم محتوای جعلی بسازد و در شبکه‌های اجتماعی پخش کند، این مرکز مسئول مهار آن نیست. اطلاعات نادرست انتخاباتی در سراسر وب موضوعی بسیار بزرگ‌تر است.
به بیان دیگر، OpenAI می‌تواند «شیر تولید» در محصول خودش را کنترل کند، اما نمی‌تواند «رودخانه‌ی توزیع» را کنترل کند. به همین دلیل کارشناسان معمولاً تأکید دارند که ایمنی انتخابات به همکاری پلتفرم‌های اجتماعی، رسانه‌ها و مراجع قانونی هم نیاز دارد.
۷. ارزیابی بیرونی چه می‌گوید؟
در گزارش‌های منتشرشده به مطالعه‌ای از مرکز Brennan اشاره شده که طبق آن، ChatGPT از میان شش ابزار پرکاربرد هوش مصنوعی تنها مواردی بود که در مهار اطلاعات نادرست انتخاباتی پیشرفت چشمگیری نشان داد. این یافته می‌تواند اعتبار طرح را بالا ببرد، اما باید به یاد داشت که این مقایسه یک نمونه‌ی مشخص و در زمان مشخص است و تضمینی برای عملکرد در اوج فشار انتخابات نیست.
قضاوت واقعی پس از پایان شمارش و انتشار گزارش‌های شفاف ممکن خواهد بود: چند حساب مسدود شد؟ چه الگوهایی دیده شد؟ و آیا مدل در موقعیت‌های غیرمنتظره درست رفتار کرد؟ تا آن زمان، بهتر است هم با خوش‌بینی محتاط و هم با شک سازنده به ماجرا نگاه کنیم.
۸. این خبر برای کاربران ایرانی و فارسی‌زبان چه معنایی دارد؟
شاید انتخابات آمریکا مستقیماً به شما مربوط نباشد، اما رویکرد OpenAI الگوی بقیه‌ی شرکت‌هاست. هر کشوری که انتخاباتی در پیش دارد، دیر یا زود با همین پرسش روبه‌رو می‌شود: هوش مصنوعی چگونه از دست بدخواهان دور بماند؟ برای مخاطبان فارسی‌زبان درس عملی ماجرا این است که در روزهای حساس سیاسی، تصاویر و متن‌های بسیار واقع‌نما را بدون بررسی منبع باور نکنند.
پیشنهاد ساده این است: قبل از بازنشر هر عکس خبری، منبع اصلی را پیدا کنید، تاریخ را بررسی کنید و به دنبال تأیید دست‌کم یک رسانه‌ی معتبر باشید. برای بحث‌های عمیق‌تر درباره‌ی امکانات و محدودیت‌های واقعی هوش مصنوعی، پتانسیل و محدودیت‌های هوش مصنوعی در دنیای واقعی را بخوانید و برای آخرین خبرها، بخش اخبار هوش مصنوعی را دنبال کنید.
۹. پرسش‌های متداول
مرکز عملیات انتخاباتی OpenAI تا کی فعال است؟
بر اساس گزارش‌ها، از هفته‌ی ۲۸ اکتبر ۲۰۲۶ شروع شده و تا شمارش همه‌ی رأی‌های انتخابات ۳ نوامبر ادامه دارد.
چه کسی مرکز را اداره می‌کند؟
جاش لاوسون، مدیر ریسک مدنی و راهبردی OpenAI، رهبری مرکز را بر عهده دارد.
کارتونی‌سازی تصویر یعنی چه؟
یعنی درخواست تصویر واقع‌گرایانه‌ی انتخاباتی به‌جای عکس‌نما با سبک کارتونی پاسخ داده می‌شود تا ارزش اثباتی آن کم شود.
آیا این مرکز کل اینترنت را رصد می‌کند؟
خیر. تمرکز آن بر سامانه‌های OpenAI و رفتار ChatGPT است، نه اطلاعات انتخاباتی در سراسر وب.
رأی‌دهندگان برای اطلاعات رأی‌گیری به کجا ارجاع داده می‌شوند؟
برای ثبت‌نام و محل رأی‌گیری به Democracy Works و برای نتایج زنده به خبرگزاری Associated Press.
آیا این طرح جلوی همه‌ی دیپ‌فیک‌ها را می‌گیرد؟
نه؛ چنین ادعایی وجود ندارد. هدف، افزودن اصطکاک و کاهش سوءاستفاده در محصول OpenAI است و دور زدن‌های احتمالی هم گزارش شده است.
