شهریور
اخبار
هوش مصنوعی متا چگونه اطلاعات محرمانه کودکان را از دل یک ویدیو افشا کرد؟
یک ویدیوی ساده خانوادگی در فیسبوک کافی بود تا هوش مصنوعی متا نام، تاریخ تولد، عکسهای قدیمی و حتی آدرس زندگی یک خانواده آمریکایی را از دل حسابهای مختلف بیرون بکشد؛ اتفاقی که یک هفته حساسیت تازه درباره حریم خصوصی در عصر هوش مصنوعی مولد ایجاد کرده است.
لیست مطالب
۱. چه اتفاقی دقیقاً افتاد؟ ماجرای کامل ویدیوی خانوادگی
کیلی رابینز، یکی از تولیدکنندگان محتوا در آمریکا، ویدیویی از خودش در حال آواز خواندن همراه دخترش داخل ماشین را در فیسبوک منتشر کرد؛ محتوایی کاملاً معمولی و بیضرر که هزاران نفر روزانه مشابهش را به اشتراک میگذارند. کمی بعد، خود پلتفرم فیسبوک زیر همان پست یک پرسش پیشنهادی برای پرسیدن از هوش مصنوعی متا نمایش داد: «این بچه کیست؟». وقتی رابینز از سر کنجکاوی روی این پیشنهاد کلیک کرد، پاسخ سیستم او را شوکه کرد: نام کامل فرزندانش، تاریخ تولد دقیق آنها، یک عکس نوزادی که سالها پیش یکی از بستگانش در حساب کاملاً جداگانهای منتشر کرده بود، و حتی تصویری که خودِ رابینز فکر میکرد قبلاً حذف کرده است.
رابینز بعداً در گفتوگو با رسانهها گفت که تا آن لحظه اصلاً تصور نمیکرد پلتفرمی که روزانه از آن استفاده میکند، بتواند چنین حجمی از اطلاعات درباره فرزندانش را در کسری از ثانیه و صرفاً با یک کلیک ساده در اختیارش بگذارد. او تأکید کرد که هیچکدام از این اطلاعات را مستقیماً در اختیار هوش مصنوعی قرار نداده بود؛ بلکه سیستم آنها را از میان دهها پست پراکنده در حسابهای مختلف اعضای خانوادهاش پیدا کرده و در یک پاسخ واحد گردآوری کرده بود.
۲. چرا هوش مصنوعی متا توانست این اطلاعات را پیدا کند؟
ماجرا به همینجا ختم نشد. فیسبوک پرسش پیشنهادی دیگری هم مطرح کرد: «این خانم کجا زندگی میکند؟». هوش مصنوعی متا در پاسخ، آدرسهای قبلی سکونت رابینز را به آدرس فعلی او متصل کرد؛ در حالی که در خودِ ویدیوی منتشرشده هیچ اطلاعات مکانی وجود نداشت. این یعنی مدل توانسته بود دادههای پراکنده در بستری کاملاً متفاوت از منبع اصلی (یک ویدیوی ساده خانوادگی) را با یکدیگر ترکیب کرده و یک پروفایل نسبتاً کامل از هویت و محل زندگی او بسازد؛ دقیقاً همان نوع استنتاج زنجیرهای که مدلهای زبانی بزرگ در آن قدرتمند شدهاند.
۳. آیا این یک نفوذ امنیتی یا هک بود؟
نکته مهمی که کارشناسان حریم خصوصی روی آن تأکید میکنند این است که از نظر فنی، هیچ نفوذ، هک یا دسترسی غیرمجازی رخ نداده است. هوش مصنوعی متا صرفاً کاری را انجام داده که برایش طراحی شده بود: تحلیل و ترکیب اطلاعاتی که در طول یک دهه، در حسابهای عمومی یا نیمهعمومی اعضای مختلف یک خانواده منتشر شده بود. مشکل اصلی، تصمیم محصولی متا برای پیشنهاد فعالانه چنین پرسشهایی به کاربران است؛ تصمیمی که عملاً کاربران را بهسمت این نوع تجمیع داده هدایت میکند، بدون آنکه از پیش بدانند چه حجمی از اطلاعات پشت پرده دربارهشان جمع شده است. این دقیقاً همان نوع محدودیت پنهانی است که در بسیاری از ابزارهای هوش مصنوعی مولد وجود دارد و در این تحلیل جامع درباره تواناییها و محدودیتهای واقعی هوش مصنوعی هم به آن پرداخته شده است. به بیان ساده، یک ابزار میتواند دقیقاً طبق طراحی خودش کار کند و بازهم نتیجهای غیرمنتظره و آسیبزا برای کاربر عادی تولید کند؛ چون طراحان محصول همیشه همه سناریوهای ممکن استفاده را پیشبینی نمیکنند.
۴. مشکل بزرگتر: نبود تنظیم حریم خصوصی برای «حساب دیگران»
نگرانکنندهتر از خودِ اتفاق، نبود راهی برای جلوگیری از آن است. کاربران میتوانند تنظیمات حریم خصوصی حساب خودشان را محدود کنند، اما همانطور که ماجرای رابینز نشان داد، منبع اصلی داده، حسابهای دیگر اعضای خانواده بوده، نه حساب خودش. به بیان دیگر، تنظیم حریم خصوصیای که بتواند این نوع تجمیع را متوقف کند، اساساً وجود ندارد؛ چون داده از «حساب دیگران» میآید، جایی که کنترل کاربر اصلی هیچ اثری روی آن ندارد. این یک شکاف ساختاری در طراحی حریم خصوصی شبکههای اجتماعی است که با ورود هوش مصنوعی مولد بهشدت بزرگتر شده، چون حالا یک مدل میتواند در چند ثانیه کاری را انجام دهد که پیدا کردن دستی آن با جستوجوی انسانی روزها طول میکشید.
۵. همزمانی عجیب با تسویه ۱۸ میلیارد دلاری متا
این افشاگری درست در همان هفتهای منتشر شد که متا توافقنامهای ۱۸ میلیارددلاری با دهها ایالت آمریکایی برای جبران آسیبهای روانی نوجوانان ناشی از اینستاگرام و فیسبوک امضا کرده و متعهد شده سامانههای تشخیص سن مبتنی بر هوش مصنوعی خود را تقویت کند. بر اساس این توافق، متا باید فناوری تأیید سن را قویتر کند، ممیزیهای مستقل منظم انجام دهد و نرخ خطای تشخیص سن را کاهش دهد. طنز تلخ ماجرا اینجاست که همان هوش مصنوعیای که قرار است برای محافظت بیشتر از کودکان بهکار گرفته شود، در عمل توانسته اطلاعات حساس همان کودکان را هم بهراحتی افشا کند؛ موضوعی که سازمانهای مدافع حریم خصوصی دیجیتال مانند بنیاد مرزهای الکترونیک (EFF) پیش از این هم نسبت به آن هشدار داده بودند.
۶. این اتفاق درباره همه هوش مصنوعیهای مولد چه میگوید؟
ماجرای رابینز تنها به متا محدود نمیشود؛ بلکه نمونهای روشن از یک ریسک ساختاری در تمام دستیارهای هوش مصنوعی مولدی است که به حجم عظیمی از دادههای شخصی کاربران دسترسی دارند. هر شرکتی که مدل زبانی بزرگ خود را به دادههای تاریخی کاربران وصل میکند، در معرض همین خطر تجمیع ناخواسته داده قرار دارد. تفاوت شرکتها معمولاً در میزان شفافیت، وجود یا نبود کنترلهای کاربری، و سرعت واکنش به این نوع گزارشهاست. برای درک بهتر اینکه ساخت دستیاری واقعاً امن و قابلاعتماد چقدر با ساخت یک نسخه نمایشی جذاب تفاوت دارد، مطالعه این یادداشت درباره تفاوت توسعهدهنده مستقل و مهندسی واقعی هوش مصنوعی خالی از لطف نیست.
۷. کاربران فارسیزبان چه باید بکنند؟ یک راهنمای عملی
برای کاربرانی که در فیسبوک و اینستاگرام فعال هستند، این ماجرا یک هشدار عملی جدی است. محدودکردن حریم خصوصی حساب شخصی بهتنهایی کافی نیست؛ باید از تمام اعضای خانواده که عکس یا ویدیوی مشترک منتشر میکنند نیز خواست تا در تنظیمات دسترسی و اشتراکگذاریشان دقت بیشتری داشته باشند، چون هوش مصنوعی میتواند این قطعات پراکنده را در کسری از ثانیه کنار هم بچیند. توصیه میشود پیش از انتشار هر محتوای خانوادگی، از خود بپرسید این تصویر یا ویدیو در ترکیب با پستهای قدیمی دیگر اعضای خانواده چه اطلاعاتی را ممکن است افشا کند. اگر با نحوه تعامل درست و ایمن با دستیارهای هوش مصنوعی آشنا نیستید، این راهنمای ساده برای نوشتن پرامپت و مجموعه آموزشهای تخصصی ما میتوانند نقطه شروع خوبی باشند.
۸. مقایسه رویکرد حریم خصوصی گوگل، اوپنایآی و متا
هر سه غول فناوری، گوگل، اوپنایآی و متا، در حال ادغام دستیارهای هوش مصنوعی خود با حجم عظیمی از دادههای کاربران هستند، اما رویکردشان به کنترل کاربر یکسان نیست. اوپنایآی و گوگل عموماً کنترلهای صریحتری برای مدیریت حافظه و تاریخچه گفتوگو ارائه میدهند، در حالی که مدل تجمیع داده در فیسبوک به دلیل ماهیت اجتماعی و چندکاربره پلتفرم، پیچیدهتر و کمتر قابلکنترل است. برای آشنایی بیشتر با تفاوت رویکردهای مختلف شرکتهای هوش مصنوعی در طراحی محصول، این مطلب درباره اوپنایآی و مقایسهای مانند مقایسه چتجیپیتی و دیپسیک در یک آزمون عملی میتوانند دیدگاه روشنی ارائه دهند.
۹. چشمانداز آینده: آیا قانونگذاران وارد عمل میشوند؟
این ماجرا در حالی رخ داده که فشار قانونگذاری روی شرکتهای هوش مصنوعی در آمریکا و اروپا هرروز بیشتر میشود. تسویه ۱۸ میلیارددلاری متا نشان میدهد نهادهای نظارتی دیگر حاضر نیستند مسائل حریم خصوصی کودکان را نادیده بگیرند. با این حال، تا زمانی که قانونی مشخص برای تجمیع داده میان حسابهای مختلف خانواده وجود نداشته باشد، این نوع ریسک همچنان باقی خواهد ماند. برای کسبوکارهایی که از دادههای کاربران برای شخصیسازی خدمات استفاده میکنند، این پرونده یادآوری مهمی است که چرا طراحی مسئولانه هوش مصنوعی دیگر یک انتخاب نیست، بلکه یک الزام تجاری و قانونی است؛ موضوعی که در این مقاله درباره اهمیت هوش مصنوعی در کسبوکار نیز به آن اشاره شده است.
پرسشهای متداول درباره افشای اطلاعات کودکان توسط هوش مصنوعی متا
آیا حساب کاربری من هک شده بود؟
خیر. طبق گزارشها هیچ نفوذ یا هکی رخ نداده؛ هوش مصنوعی متا صرفاً اطلاعات عمومی یا نیمهعمومی موجود در حسابهای مختلف اعضای خانواده را کنار هم چیده است.
آیا میتوانم این قابلیت را در تنظیمات غیرفعال کنم؟
در حال حاضر تنظیم مشخصی برای جلوگیری از تجمیع داده میان حسابهای مختلف اعضای خانواده وجود ندارد، چون داده از حساب دیگران میآید نه حساب خود شما.
این ماجرا چه ارتباطی به تسویه ۱۸ میلیارددلاری متا دارد؟
این افشاگری همزمان با اجرای تعهدات متا درباره تقویت سامانههای تشخیص سن مبتنی بر هوش مصنوعی منتشر شده و نشان میدهد همان فناوری میتواند هم ابزار محافظت باشد و هم منبع نگرانی.
چه کاری میتوانم برای محافظت از حریم خصوصی فرزندانم انجام دهم؟
محدودکردن انتشار عکس و ویدیوی کودکان، هماهنگی با سایر اعضای خانواده درباره تنظیمات حریم خصوصی، و حذف اطلاعات هویتی مانند تاریخ تولد از پستهای عمومی میتواند ریسک را کاهش دهد.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
