مرداد
اخبار
OpenAI با Private Safety Processing وارد نبرد حریم خصوصی با Anthropic شد
شرکت OpenAI با معرفی سامانهای به نام Private Safety Processing، جبهه تازهای در رقابت با Anthropic باز کرده است؛ نبردی که اینبار نه بر سر قدرت مدلها، بلکه بر سر حریم خصوصی و اعتماد سازمانی جریان دارد.
لیست مطالب
۱. شرکت OpenAI دقیقاً چه چیزی معرفی کرده است؟
روز چهارشنبه، شرکت OpenAI از سامانهای با نام Private Safety Processing رونمایی کرد؛ فناوریای که برای گروهی محدود از مشتریان سازمانی عرضه میشود و هدفش شناسایی الگوهای سوءاستفاده در میان چندین نشست و گفتگوی مجزا است. نکته کلیدی این است که این کار بدون ذخیره یا بازبینی محتوای واقعی مکالمات انجام میشود. به بیان ساده، OpenAI میخواهد بگوید میتوان هم امنیت را تأمین کرد و هم حریم خصوصی کاربران را دستنخورده نگه داشت.
این قابلیت بخشی از سیاست بزرگتر شرکت OpenAI برای عدم نگهداری داده یا Zero Data Retention است؛ سیاستی که پیشتر هم برای برخی از مشتریان API این شرکت اعمال میشد و اکنون با یک لایه امنیتی هوشمندتر تکمیل شده است.
۲. فناوری Private Safety Processing از نظر فنی چگونه کار میکند؟
سازوکار این سامانه در دو حالت متفاوت اجرا میشود که هرکدام سطح جداگانهای از کنترل داده را برای سازمانها فراهم میکنند.
حالت اول: داده در زیرساخت خود سازمان
در این حالت، دادههای مکالمه اصلاً از مرزهای زیرساخت مشتری خارج نمیشوند و سامانههای خودکار مستقیماً روی همان محیط، الگوهای مشکوک را بررسی میکنند.
حالت دوم: نگهداری با کلید رمزنگاری اختصاصی
در این حالت، OpenAI دادهها را نگه میدارد اما با کلید رمزنگاریای که تنها در اختیار خود مشتری است، بهطوریکه حتی خود شرکت هم دسترسی مستقیمی به محتوا ندارد.
در هر دو سناریو، خروجی نهایی چیزی نیست جز یک «سیگنال محدود» درباره نوع فعالیت مشکوک؛ سیگنالی که تصمیم درباره برخورد یا مسدودسازی را ممکن میکند، بدون آنکه هیچ کارمند انسانی محتوای واقعی گفتوگو را ببیند. به گفته OpenAI، «خطرناکترین ریسکهای امنیتی هوش مصنوعی همیشه در یک تعامل تکی دیده نمیشوند»؛ گاهی تنها با کنار هم گذاشتن چند نشست جداگانه، الگوی واقعی خطر آشکار میشود. این دقیقاً همان شکافی است که ابزارهای سنتی تعامل با چتباتها تا امروز نمیتوانستند ببندند.
۳. پیشینه: چطور این دو شرکت به این نقطه رسیدند؟
برای درک کامل اهمیت این خبر، باید کمی به عقب برگردیم. طی یک سال گذشته، هم OpenAI و هم Anthropic بهطور فزایندهای وارد بازار مشتریان سازمانی بزرگ شدهاند؛ بانکها، بیمهها، شرکتهای حقوقی و مراکز درمانی که حجم زیادی داده حساس مشتری تولید میکنند. برای این دسته از سازمانها، صرفاً «دقیقبودن» پاسخهای مدل کافی نیست؛ آنها باید مطمئن شوند اطلاعات محرمانهشان هرگز بهشکلی غیرقابلکنترل جایی ذخیره یا افشا نمیشود. همین نیاز، هر دو شرکت را وادار کرده سیاستهای حریم خصوصی خود را بهعنوان یک مزیت رقابتی جدی، نه صرفاً یک بند حقوقی در قرارداد، عرضه کنند.
Anthropic از ابتدای فعالیتش برند خود را حول محور «هوش مصنوعی ایمن و مسئولانه» ساخته بود و همین موضع، انتظارات کاربرانش را از هر تغییری در سیاست داده بسیار بالا نگه داشته است. به همین دلیل بود که اعلام نگهداری سیروزه داده برای برخی مدلها، حتی با وجود توضیحات فنی و تضمینهای امنیتی این شرکت، با واکنش نسبتاً شدیدی از سوی بخشی از جامعه کاربران سازمانی روبهرو شد. OpenAI اکنون دقیقاً از همین نقطه ضعف ادراکشده استفاده کرده و محصولی را عرضه کرده که در ظاهر، هیچ دادهای را روی سرورهای خود نگه نمیدارد.
۴. تفاوت رویکرد OpenAI با سیاست سیروزه Anthropic چیست؟
این حرکت را باید پاسخی مستقیم به رقیب اصلی OpenAI یعنی Anthropic دانست. چند هفته پیش، Anthropic سیاست نگهداری سیروزه دادهها را برای برخی از «مدلهای تحت پوشش» خود اعلام کرد؛ سیاستی که در آن گروه کوچکی از بازبینان تأییدشده، با ثبت غیرقابلدستکاری، به مکالمات کاربران دسترسی محدود پیدا میکنند تا سوءاستفاده احتمالی را بررسی کنند. این تصمیم با واکنش منفی بخشی از کاربران سازمانی Claude روبهرو شد که نگهداری هرگونه داده، حتی برای مدتی کوتاه، را ریسکی غیرقابلقبول میدانستند.
OpenAI با معرفی روشی که اصلاً دادهای ذخیره نمیکند، تلاش میکند خود را بهعنوان گزینه امنتر برای صنایع حساس به داده معرفی کند. برای کسانی که دنبال مقایسه دقیقتری میان رویکردهای مختلف شرکتهای هوش مصنوعی هستند، مقاله مقایسه چتجیپیتی و رقبا در سایت ما دیدگاه تکمیلی خوبی ارائه میدهد.
۵. چرا این رقابت درست حالا اینقدر داغ شده است؟
پشت این رقابت فنی، یک واقعیت تجاری بزرگتر پنهان است. درآمد سالانه Anthropic تا پایان ژوئیه به حدود ۶۵میلیارد دلار رسیده و هزینهکرد سازمانها روی Claude و عاملهای هوش مصنوعی بهسرعت در حال رشد است. در همین حال، گزارشهای تازه نشان میدهند رشد فصلی OpenAI در بخش مشتریان سازمانی از رقیبش عقبتر بوده است؛ عقبماندگیای که این شرکت را وادار کرده با ابزارهایی مثل Private Safety Processing، برگ برنده تازهای رو کند.
به همین دلیل است که هر دو شرکت اکنون حریم خصوصی را نه یک ویژگی جانبی، بلکه یک میدان رقابتی اصلی میبینند؛ موضوعی که پیش از این بیشتر درباره اهمیت هوش مصنوعی در کسبوکار مطرح میشد، حالا به رقابتی مستقیم بر سر اعتماد مشتریان سازمانی تبدیل شده است.
۶. نگاه کارشناسان: مزایا و نگرانیها
همه کارشناسان این رویکرد تازه را بیعیب نمیدانند. سانچیتویر گوگیا، تحلیلگر مؤسسه Greyhound Research، میگوید یک سامانه نمیتواند رفتار را در طول زمان تشخیص دهد مگر آنکه چیزی را به خاطر بسپارد؛ او رویکرد OpenAI را «تشخیص سوءاستفاده حافظ حریم خصوصی» توصیف میکند، نه یک مستندسازی دقیق و قابل استناد برای بررسیهای قضایی بعدی. به گفته او، سیاست عدم نگهداری داده، بار اثبات و پیگیری سوءاستفاده را از دوش OpenAI برنمیدارد، بلکه آن را مستقیماً به دوش خود سازمانهای مشتری منتقل میکند.
در سوی دیگر ماجرا، آپکشا کوشیک، تحلیلگر مؤسسه Gartner، دیدگاه خوشبینانهتری دارد. او معتقد است مدلهای حافظ حریم خصوصی میتوانند موانع ورود هوش مصنوعی به صنایع بسیار حساس مانند بانکداری و سلامت را بهطور محسوسی کاهش دهند؛ صنایعی که تا امروز بهخاطر قوانین سختگیرانه حفاظت از داده، نسبت به استفاده گسترده از دستیارهای هوش مصنوعی محتاط بودهاند.
۷. کدام صنایع بیشترین سود را از این تغییر میبرند؟
بانکها، بیمارستانها و شرکتهای حقوقی از جمله نخستین گروههایی هستند که میتوانند از این نوع فناوری بهره ببرند؛ چراکه این بخشها معمولاً به دلیل قوانین سختگیرانهای مانند GDPR یا HIPAA، اجازه نگهداری یا خروج دادههای حساس مشتریان را از سیستمهای خود ندارند. اگر سامانهای بتواند بدون ذخیره واقعی محتوا، سوءاستفاده را کنترل کند، مسیر پذیرش هوش مصنوعی در این صنایع بهشکل قابلتوجهی هموارتر میشود. این روند بخشی از تصویر بزرگتری است که در مقاله توان واقعی و محدودیتهای هوش مصنوعی بهطور مفصل بررسی شده است.
شرکتهای فناوری مالی و پلتفرمهای پرداخت آنلاین نیز گروه دیگری هستند که میتوانند از این رویکرد سود ببرند؛ صنعتی که هم با حجم بالای تراکنشهای حساس روبهروست و هم زیر نظارت دقیق نهادهای مالی قرار دارد. برای چنین کسبوکارهایی، اطمینان از اینکه هیچ داده تراکنش یا مکالمه پشتیبانی مشتری روی سرورهای یک شرکت ثالث باقی نمیماند، میتواند تفاوت میان پذیرش یا رد یک قرارداد بزرگ باشد. به همین دلیل، تحلیلگران بازار انتظار دارند رقبای دیگر مانند Google و Microsoft هم بهزودی نسخههای مشابهی از این نوع سامانههای امنیتی حافظ حریم خصوصی را معرفی کنند.
۸. چالشها و انتقادهایی که هنوز پاسخ داده نشدهاند
در کنار همه مزایا، پرسشهای مهمی بیپاسخ ماندهاند. اگر هیچ دادهای ذخیره نشود، در صورت وقوع یک حادثه امنیتی جدی یا نیاز به بررسی قانونی، چه مدرکی برای پیگیری در دسترس خواهد بود؟ منتقدان میگویند مسئولیت این «خلأ مدرک» اکنون کاملاً به دوش سازمانهای مشتری افتاده و آنها باید خودشان سازوکارهای داخلی برای مستندسازی و پاسخ به حوادث بسازند. این دقیقاً همان نوع ریسکی است که در مقاله توهم هوش مصنوعی و تفاوت توسعهدهنده تنها با مهندس واقعی هم به آن اشاره شده؛ ابزارهای هوشمند بهتنهایی جایگزین برنامهریزی دقیق انسانی نمیشوند.
۹. این رقابت برای کاربران و کسبوکارهای ایرانی چه معنایی دارد؟
برای تیمهای فنی و کسبوکارهایی که در ایران از ابزارهایی مانند ChatGPT یا Claude برای پردازش دادههای حساس مشتریان استفاده میکنند، این تحولات یک پیام روشن دارد: انتخاب ابزار هوش مصنوعی دیگر فقط بر اساس قدرت مدل یا قیمت نیست، بلکه سیاست نگهداری داده هم باید در تصمیمگیری لحاظ شود. اگر میخواهید با اصول پایه استفاده درست و ایمن از این ابزارها بیشتر آشنا شوید، بخش آموزشهای چتجیپیتی در سایت ما نقطه شروع خوبی است.
سوالات متداول
آیا Private Safety Processing برای همه کاربران ChatGPT فعال است؟
خیر، این قابلیت در حال حاضر فقط برای گروهی محدود از مشتریان سازمانی OpenAI عرضه شده و هنوز بهصورت عمومی برای کاربران معمولی ChatGPT در دسترس نیست. انتظار میرود در ماههای آینده و پس از جمعآوری بازخورد از همین گروه اولیه، دامنه عرضه آن گسترش پیدا کند.
آیا این سامانه هیچ دادهای از مکالمات را ذخیره نمیکند؟
بله، طراحی این سامانه بر پایه عدم نگهداری داده است و تنها یک سیگنال محدود درباره نوع فعالیت مشکوک تولید میشود، بدون نمایش محتوای واقعی گفتوگو به کارکنان OpenAI. این سیگنال صرفاً برای تصمیمگیری درباره مسدودسازی یا هشدار استفاده میشود.
تفاوت اصلی این رویکرد با سیاست Anthropic چیست؟
Anthropic دادهها را تا سی روز نگه میدارد و بازبینی انسانی محدودی توسط گروهی کوچک از بازبینان تأییدشده روی آنها انجام میشود، اما رویکرد OpenAI اساساً هیچ دادهای را ذخیره نمیکند و مسئولیت مستندسازی را به عهده خود سازمان مشتری میگذارد.
این تغییر چه تأثیری روی صنایع حساس به داده دارد؟
به گفته کارشناسان، میتواند ورود صنایعی مانند بانکداری، سلامت و فناوری مالی به هوش مصنوعی سازمانی را سادهتر کند، هرچند مسئولیت مستندسازی حوادث امنیتی را به دوش خود سازمانها میاندازد و نیازمند سازوکارهای داخلی جدید برای پایش است.
آیا کاربران عادی هم میتوانند از این نوع حفاظت بهرهمند شوند؟
در حال حاضر تمرکز OpenAI روی مشتریان سازمانی است، اما با توجه به رقابت فزاینده بر سر حریم خصوصی، احتمال دارد نسخههای سادهشدهای از این فناوری در آینده برای حسابهای عادی ChatGPT هم عرضه شود.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
