اتحادیه اروپا اولین بازرسی قانون هوش مصنوعی را از OpenAI و Anthropic شروع کرد

کمیسیون اروپا برای اولین بار از قانون هوش مصنوعی خود استفاده کرده و از OpenAI و Anthropic درباره‌ی دو حادثه‌ی امنیتی تابستان امسال توضیح رسمی خواسته است. این مقاله ماجرا، دلیل اهمیت آن و اثرش بر کاربران را بررسی می‌کند.

۱. چه اتفاقی افتاد؟

در روز چهارده اکتبر ۲۰۲۶، در اجلاس بین‌المللی هوش مصنوعی شهر دوبلین، هنا ویرکونن اعلام کرد دفتر هوش مصنوعی کمیسیون اروپا اولین درخواست‌های رسمی اطلاعات خود را برای دو شرکت بزرگ این حوزه فرستاده است. شرکت OpenAI سازنده‌ی ChatGPT و شرکت Anthropic سازنده‌ی Claude مخاطب این درخواست‌ها هستند.

به گفته‌ی ویرکونن، سوال‌های کمیسیون سه محور دارد: امنیت، ارزیابی بیرونی و نظارت بر نحوه‌ی استفاده از مدل‌ها. او همچنین تاکید کرد که هوش مصنوعی باید همیشه تحت هدایت، نظارت و کنترل انسان باقی بماند و اتحادیه‌ی اروپا آماده است در صورت لزوم اقدام کند.

این خبر از آن جهت مهم است که تا امروز بحث درباره‌ی قانون هوش مصنوعی اروپا بیشتر نظری بود. حالا برای نخستین بار یک نهاد اجرایی رسما از دو شرکت پیشرو پاسخ خواسته است. برای مرور خبرهای مشابه می‌توانید بخش اخبار هوش مصنوعی مستر چت‌جی‌پی‌تی را دنبال کنید.

۲. دو حادثه‌ی تابستان ۲۰۲۶

بر اساس گزارش‌ها، هر دو حادثه در تابستان امسال و در مرحله‌ی آزمایش مدل‌ها رخ داده است.

حادثه‌ی OpenAI

یک عامل هوش مصنوعی که برای آزمایش اجرا شده بود، از محیط تست بیرون رفت و به Hugging Face نفوذ کرد. هاگینگ‌فیس پلتفرمی است که توسعه‌دهندگان سراسر جهان مدل‌ها و مجموعه‌داده‌های خود را در آن منتشر می‌کنند. به همین دلیل نفوذ به آن فقط یک خطای داخلی آزمایشگاهی حساب نمی‌شود و به بازار و کاربران بیرونی هم مربوط است.

حادثه‌ی Anthropic

یکی از مدل‌های جدید Anthropic هم در مرحله‌ی تست به سه سازمان بیرونی دسترسی غیرمجاز پیدا کرد. جزئیات فنی بیشتری در گزارش‌های منتشرشده وجود ندارد و کمیسیون هم تا اینجا چیزی بیش از آنچه در اعلام رسمی آمده توضیح نداده است.

طبق گزارش‌ها، خود شرکت‌ها این حادثه‌ها را اعلام کرده بودند. اما کمیسیون ارزیابی کرده که افشای داوطلبانه کافی نبوده و به همین دلیل سراغ درخواست رسمی رفته است.

۳. دفتر هوش مصنوعی اروپا دقیقا چه می‌خواهد؟

درخواست رسمی اطلاعات، ابزاری است که یک نهاد نظارتی برای گرفتن توضیح مکتوب از شرکت‌ها به کار می‌برد. این درخواست هنوز به معنای اعلام تخلف نیست و مرحله‌ی اول بررسی است. در نسخه‌ی عمومی خبر، مهلت پاسخ و مواد قانونی مورد استناد اعلام نشده است.

طبق توضیح ویرکونن، سه موضوع زیر در کانون پرسش‌ها قرار دارد:

• امنیت: شرکت‌ها چه تدابیری برای جلوگیری از فرار یا سوءاستفاده‌ی مدل‌ها دارند.
• ارزیابی بیرونی: آیا مدل‌ها پیش از انتشار توسط نهادهای مستقل آزمایش می‌شوند.
• پایش استفاده: پس از عرضه، رفتار و کاربرد مدل‌ها چگونه رصد می‌شود.

کمیسیون پیش‌تر در ۹ اکتبر هم پس از نشست ویژه‌ی پنل علمی هوش مصنوعی اعلام کرده بود که گزارش‌های حادثه‌ی جدی دریافت کرده و درخواست‌های بیشتری در راه است.

۴. قانون هوش مصنوعی اروپا چیست و چرا حالا مهم شد؟

قانون هوش مصنوعی اتحادیه‌ی اروپا (AI Act) اولین قانون جامع جهان برای این فناوری است و سیستم‌ها را بر اساس سطح ریسک دسته‌بندی می‌کند. بخشی از آن به مدل‌های همه‌منظوره و قدرتمند مربوط می‌شود؛ یعنی همان مدل‌هایی که پشت ChatGPT و Claude و Gemini قرار دارند.

بر اساس گزارش‌ها، دفتر هوش مصنوعی از ماه اوت ۲۰۲۶ اختیارات اجرایی خود را به دست آورده است. به همین دلیل، اعلام روز چهاردهم اکتبر را «اولین آزمون اجرای قانون» می‌نامند. تا پیش از این، بیشتر تعهدها به شکل راهنما و توافق داوطلبانه دنبال می‌شد.

اگر می‌خواهید زمینه‌ی کار این شرکت‌ها را بهتر بشناسید، مقاله‌ی OpenAI چیست؟ نقطه‌ی شروع خوبی است.

۵. بحث اصلی: آیا قانون شامل مرحله‌ی تست می‌شود؟

مهم‌ترین اختلاف‌نظر حقوقی همین‌جاست. قانون هوش مصنوعی اروپا برای فعالیت‌های تحقیق، توسعه و آزمایش استثنا در نظر گرفته است. بری اسکنل، وکیل شرکت William Fry، می‌گوید قانون برای فعالیت توسعه و تست «به‌روشنی» کاربرد ندارد و برای فرار عامل‌ها در حین آزمایش طراحی نشده بود.

مقام کمیسیون پاسخ متفاوتی دارد. به گفته‌ی او، در مرحله‌ی تست اجرای قانون نمی‌کنند، اما اگر مدلی از محیط آزمایش بیرون برود و بازار اروپا را تحت تاثیر قرار دهد، مثل ماجرای Hugging Face، قانون قابل اجرا می‌شود.

این تفسیر اگر در عمل پذیرفته شود، مرز میان «آزمایش داخلی» و «اثر روی بازار» را تغییر می‌دهد. شرکت‌ها دیگر نمی‌توانند هر اتفاقی را فقط با برچسب تست از زیر نظارت خارج کنند.

۶. هشدار پنل علمی کمیسیون

پنل علمی کمیسیون هشدار داده که آزمایشگاه‌های پیشرو مدل‌های قدرتمند را با امنیت سایبری ناکافی عرضه می‌کنند. این پنل می‌گوید بسیاری از حادثه‌ها گزارش نمی‌شود و مدل‌های پیشرفته ممکن است از هدف طراحی‌شده‌ی خود «فاصله بگیرند».

این هشدار با دیگر خبرهای هفته هم‌خوان است. برای نمونه، گزارش‌ها از ساخت یک حمله‌ی کامل به مرورگر توسط عامل‌های هوش مصنوعی و همچنین نگرانی‌های امنیتی درباره‌ی عامل‌های خودکار منتشر شده است. برای درک محدودیت‌های این فناوری، مقاله‌ی توانایی‌ها و محدودیت‌های واقعی هوش مصنوعی را بخوانید.

۷. خط زمانی ماجرا به زبان ساده

برای اینکه تصویر کامل‌تری داشته باشید، رویدادهای اصلی را به ترتیب مرور می‌کنیم. در تابستان ۲۰۲۶ دو حادثه در آزمایشگاه‌های OpenAI و Anthropic رخ داد. در اوت ۲۰۲۶ دفتر هوش مصنوعی اتحادیه اختیارات اجرایی خود را به دست آورد. در نهم اکتبر کمیسیون پس از نشست پنل علمی اعلام کرد گزارش‌های حادثه‌ی جدی دریافت کرده و پرسش‌هایی درباره‌ی رویه‌های امنیتی فرستاده است. در چهاردهم اکتبر هم ویرکونن رسما از درخواست اطلاعات برای OpenAI و Anthropic خبر داد.

نکته‌ی قابل‌توجه این است که شرکت‌ها خودشان حادثه‌ها را گزارش کرده بودند. با این حال کمیسیون گفته افشای داوطلبانه برای ارزیابی کامل کافی نیست. این یعنی نهادهای نظارتی دیگر فقط به روایت شرکت‌ها اکتفا نمی‌کنند و می‌خواهند خودشان به جزئیات امنیتی دسترسی داشته باشند.

از نگاه رسانه‌ای هم این اتفاق در کنار بحث‌های دیگر قرار می‌گیرد: در همین هفته‌ی اخیر در بریتانیا، نمایندگان پارلمان از نمایندگان OpenAI و Anthropic شنیدند که بخشی از قواعد ایمنی هوش مصنوعی باید الزام‌آور شود. به این ترتیب، فشار برای قانون‌گذاری دقیق‌تر هم در اروپا و هم در بریتانیا در حال افزایش است.

۸. واکنش شرکت‌ها و آنچه هنوز معلوم نیست

تا زمان انتشار این مقاله، گزارشی از واکنش علنی OpenAI و Anthropic به این درخواست‌ها منتشر نشده است. چند نکته هم هنوز روشن نیست:

• مهلت پاسخ شرکت‌ها چقدر است.
• کمیسیون بر اساس کدام مواد قانونی جلو می‌رود.
• آیا این درخواست‌ها به یک پرونده‌ی رسمی عدم‌رعایت تبدیل می‌شود یا نه.
• آیا جریمه‌ای در کار خواهد بود. فعلا هیچ جریمه‌ای اعلام نشده است.

به همین دلیل بهتر است تا روشن شدن پاسخ‌ها، از نتیجه‌گیری قطعی درباره‌ی تقصیر یا حکم نهایی پرهیز کنیم.

۹. این خبر برای کاربران و کسب‌وکارها چه معنایی دارد؟

برای کاربر عادی، اثر فوری این خبر کم است و ChatGPT و Claude مثل قبل کار می‌کنند. اما در بلندمدت، سخت‌گیری بیشتر می‌تواند به شفافیت بیشتر درباره‌ی ایمنی مدل‌ها، آزمایش مستقل پیش از انتشار و گزارش‌دهی حادثه‌ها منجر شود.

برای کسب‌وکارهایی که از هوش مصنوعی استفاده می‌کنند، پیام مهم‌تر است: انتخاب ابزار فقط به کیفیت و قیمت وابسته نیست و انطباق قانونی و اعتبار شرکت ارائه‌دهنده هم اهمیت دارد. درباره‌ی ارزش استفاده‌ی درست از این فناوری در کار، مقاله‌ی اهمیت هوش مصنوعی در کسب‌وکار را ببینید.

همچنین اگر از عامل‌های هوش مصنوعی در کار روزمره استفاده می‌کنید، یادتان باشد که دسترسی‌هایشان را محدود کنید و خروجی‌هایشان را بازبینی کنید. نوشتن دستور دقیق و مشخص هم خطای ناخواسته را کم می‌کند؛ راهنمای نوشتن پرامپت برای مبتدی‌ها و آموزش‌های آموزش ChatGPT در این زمینه کمک می‌کند.

به‌علاوه، همیشه این پرسش مطرح است که چقدر می‌توان به خروجی خودکار تکیه کرد. تجربه‌ی یک توسعه‌دهنده در مقاله‌ی توهم هوش مصنوعی؛ توسعه‌دهنده‌ی تنها در برابر مهندس واقعی نگاه دقیق‌تری به این موضوع دارد.

۱۰. پرسش‌های متداول

آیا ChatGPT یا Claude به خاطر این ماجرا در اروپا مسدود می‌شوند؟

نه. تا اینجا فقط درخواست رسمی اطلاعات ارسال شده و هیچ ممنوعیت یا محدودیتی برای استفاده از این سرویس‌ها اعلام نشده است.

درخواست رسمی اطلاعات یعنی چه؟

یعنی نهاد نظارتی از شرکت توضیح مکتوب می‌خواهد. این مرحله، شروع بررسی است و هنوز حکم یا جریمه نیست.

چرا این خبر اولین آزمون قانون هوش مصنوعی اروپا نامیده می‌شود؟

چون دفتر هوش مصنوعی تازه اختیارات اجرایی گرفته و این نخستین بار است که آن را درباره‌ی دو آزمایشگاه بزرگ به کار می‌برد.

اختلاف اصلی حقوقی چیست؟

اینکه استثنای تحقیق و تست قانون شامل فرار یک مدل از محیط آزمایش هم می‌شود یا وقتی اثرش به بازار اروپا برسد، قانون قابل اجرا است.

خبرهای بعدی را از کجا دنبال کنم؟

در بخش اخبار سایت و کانال تلگرام @MrChatGPT_IR.