تیر
اخبار
چتجیپیتی بازرس دولت آمریکا شد؛ ماجرای طرح AERO و بودجهی ۲ تریلیون دلاری سلامت
وزارت بهداشت آمریکا بازبینی حسابرسیهای مالی ۵۰ ایالت را به چتجیپیتی سپرده است؛ تصمیمی که میتواند سرنوشت میلیاردها دلار بودجهی سلامت را تعیین کند و پرسشهای تازهای دربارهی مرز اعتماد به هوش مصنوعی پیش بکشد.
لیست مطالب
۱. چه اتفاقی افتاد؟ ورود چتجیپیتی به قلب دولت آمریکا
وزارت بهداشت و خدمات انسانی ایالات متحده (HHS)، یکی از بزرگترین خریداران خدمات سلامت در جهان، کاری کرده که تا چند سال پیش بیشتر شبیه سناریوی فیلمهای علمیتخیلی بود: سپردن بخشی از نظارت مالی بر برنامههای عظیمی مثل مِدیکِر و مِدیکِید به چتجیپیتی. در طرحی که نام رسمیاش «ابتکار اجرای حسابرسی و نظارت بر ریسک» یا بهاختصار AERO است، این هوش مصنوعی وظیفه دارد هزاران گزارش مالی را بخواند و ردِ تقلب، اتلاف منابع و بیانضباطی مالی را بگیرد.
خبرِ راهاندازی این طرح از اواخر اردیبهشت (۲۱ مهِ ۲۰۲۶) کلید خورد، اما در روزهای اخیر و با نزدیکشدن به یک مهلت قانونی مهم، بار دیگر به صدرِ اخبار هوش مصنوعی بازگشته است. دلیلش ساده است: استفادهی دولتها از نرمافزار چیز تازهای نیست، اما این یکی از معدود مواردی است که خروجی یک مدل زبانی میتواند بهصورت زنجیرهای به توقف پرداخت به یک بیمارستان یا مرکز درمانی واقعی منجر شود.
به بیان ساده، چتجیپیتی در دولت آمریکا دیگر فقط دستیار نوشتن ایمیل نیست؛ حالا نقشی در تصمیمهایی دارد که پای پول عمومی و سلامت مردم در میان است. و همین جهش از «دستیار» به «بازرس» است که بحثها را داغ کرده است.
۲. طرح AERO دقیقاً چیست و چگونه کار میکند؟
مغزِ اجرایی این طرح، دفتر معاونت مالی وزارت بهداشت است. سازوکار کار هم بر پایهی سندی استاندارد به نام «حسابرسی یکپارچه» (Single Audit) بنا شده است. طبق قانون، هر سازمانی که سالانه بیش از یک میلیون دلار بودجهی فدرال دریافت کند، موظف است گزارشی مالی دربارهی نحوهی خرجکردن این پول و میزان پایبندیاش به مقررات تهیه و در سامانهای به نام «مرکز تسویهی حسابرسی فدرال» ثبت کند.
اینجاست که هوش مصنوعی وارد میدان میشود. چتجیپیتی این فرمهای استاندارد را برای دستِکم پنج سال گذشته و در هر ۵۰ ایالت اسکن میکند و به دنبال الگوهای مشخصی میگردد: بیانضباطی مزمن، تکرارِ ایرادهای مالی، ضعفهای جدی در کنترلهای داخلی، و تأخیر در ارسال گزارشها. خروجی این تحلیل، فهرستی از سازمانهای «پرخطر» است که باید زیر ذرهبین بروند.
جذابیت این ایده برای دولت روشن است: کاری که پیشتر ماهها وقت حسابرسهای انسانی را میگرفت، حالا در مقیاسی وسیع و با سرعتی بسیار بالاتر انجام میشود. شرکت سازندهی این ابزار، یعنی اوپنایآی، سالهاست چنین قابلیتهایی را بهعنوان نقطهی قوت مدلهای خود معرفی میکند؛ توانایی خلاصهسازی و الگویابی در حجم عظیمی از متن که برای انسان طاقتفرساست.
۳. چه سازمانهایی زیر ذرهبین هوش مصنوعی هستند؟
دامنهی این طرح بسیار گسترده است. آژانسهای مِدیکِید ایالتی، شبکههای بیمارستانی دولتی، مراکز پزشکی دانشگاهی، مراکز درمانی محلی، برنامههای حمایتی مثل «هد استارت»، مراکز درمان اعتیاد و حتی دریافتکنندگان بودجههای پژوهشی فدرال، همگی میتوانند سوژهی تحلیل AERO باشند. یعنی عملاً هر نهادی که با پول فدرال کار میکند، پروندهاش میتواند از فیلترِ این هوش مصنوعی عبور کند.
نکتهی مهم این است که تحلیل روی «دادههای تاریخی» انجام میشود. سیستم به گذشته نگاه میکند و سازمانهایی را که سالبهسال ایرادهای مالیشان تکرار شده اما اصلاح نشده، علامتگذاری میکند. منطقِ پشت این کار این است که به گفتهی مسئولان، بسیاری از گرنتگیرندگان با وجود اخطارهای مکرر، ضعفهای کنترلی خود را برطرف نکردهاند و همین موضوع، حفرهای بلندمدت در نظارت مالی ایجاد کرده است.
۴. عواقب واقعی: از توقف پرداخت تا محرومیت دائمی
اگر AERO سازمانی را پرخطر تشخیص دهد، پای پیامدهای جدی به میان میآید. این پیامدها طیف گستردهای دارند: از توقف موقت پرداختها و ردِ برخی هزینهها گرفته تا تعلیق یا لغو کامل کمکهزینه و در شدیدترین حالت، «محرومیت دائمی» از تمام برنامههای فدرال. حتی خطرِ زنجیرهای هم وجود دارد؛ یعنی ایرادی که به یک آژانس ایالتی نسبت داده میشود، میتواند بیمارستانهای زیرمجموعهی آن را هم درگیر کند.
گوستاو چیارلو، مقام ارشد مالی وزارت بهداشت که این طرح را رهبری میکند، رویکرد دولت را اینگونه توصیف کرده است: با گرنتگیرندگانی که بخواهند مشکلات را برطرف کنند بهعنوان یک شریک همکاری خواهد شد، اما آنها که نخواهند، ممکن است با عواقب روبهرو شوند. او برآورد کرده که وزارت بهداشت سالانه با چیزی حدود ۱۰۰ تا ۲۰۰ میلیارد دلار هزینهی احتمالاً هدررفته یا متقلبانه مواجه است؛ رقمی که البته یک «برآورد» است و نه تقلب اثباتشده.
برای درک بزرگیِ ماجرا کافی است بدانیم دو برنامهی مِدیکِر و مِدیکِید رویهمرفته سالانه بیش از دو تریلیون دلار بودجهی سلامت را در آمریکا جابهجا میکنند. صرفهجویی و کارایی، یکی از اصلیترین دلایلی است که سازمانها و دولتها به سمت هوش مصنوعی میروند؛ موضوعی که پیشتر در مقالهی چرا هوش مصنوعی در کسبوکار مهم است مفصل به آن پرداختهایم. اما وقتی پای سلامت مردم در میان باشد، همین کارایی میتواند به شمشیری دولبه تبدیل شود.
۵. نگرانی اصلی: نرخ خطای پنهان و پدیدهی «توهم»
حالا به جنجالیترین بخش ماجرا میرسیم. منتقدان میگویند این سیستم با چند علامتسؤالِ بزرگ راهاندازی شده است: نرخ خطای آن منتشر نشده، هیچ مطالعهی اعتبارسنجیِ پیش از استقرار در دسترس عموم قرار نگرفته، روششناسی دقیقش شفاف نیست و مسیر روشنی برای «اعتراض» سازمانهایی که ناعادلانه علامتگذاری میشوند تعریف نشده است. به بیان دیگر، معلوم نیست اگر هوش مصنوعی اشتباه کند، چه کسی و چگونه آن را جبران میکند.
این نگرانی ریشه در ماهیت فنی مدلهای زبانی دارد. مدلهایی مثل چتجیپیتی مستعد پدیدهای به نام «توهم» (Hallucination) هستند؛ یعنی گاهی با اطمینان کامل، اطلاعاتی نادرست تولید میکنند. بر اساس مطالعهای که در آوریل ۲۰۲۶ در نشریهی معتبر «نیچر» منتشر شد، بروز توهم برای دستهای از پرسشهای واقعی، از نظر آماری تقریباً «اجتنابناپذیر» است؛ و جالب اینجاست که تشخیص وضعیت انطباق مالی دقیقاً از همان جنس پرسشهایی است که مدل در آنها میتواند بلغزد.
این محدودیتها تازگی ندارند و کارشناسان بارها دربارهی آنها هشدار دادهاند؛ ما هم در مطلب پتانسیل و محدودیتهای واقعی هوش مصنوعی بهتفصیل توضیح دادهایم که چرا نباید خروجی این ابزارها را بیچونوچرا پذیرفت. حتی یک سازمان مطرح در حوزهی ایمنی بیمار، سوءاستفاده از چتجیپیتی را بهعنوان یکی از بزرگترین «خطرات فناوری سلامت» در سال ۲۰۲۶ معرفی کرده است.
۶. مهلت ۲۲ سپتامبر: قانونی که میتواند AERO را متوقف کند
یک ساعتشنیِ حقوقی هم بالای سر این طرح وجود دارد. بر اساس بخشنامهای از دفتر مدیریت و بودجهی کاخ سفید با کد M-25-21، هر نهاد فدرالی که از «هوش مصنوعیِ پرتأثیر» (High-Impact AI) استفاده میکند، باید تا ۲۲ سپتامبر ۲۰۲۶ گزارشی از تدابیر مدیریت ریسک خود ارائه دهد؛ شامل آزمایش پیش از استقرار، پایش مستمر و مهمتر از همه، تعبیهی مسیرِ «بازبینی انسانیِ در دسترس». نکتهی کلیدی اینجاست که طبق همین بخشنامه، سیستمهایی که نتوانند این شرایط را برآورده کنند، باید متوقف شوند.
همین موضوع، AERO را در یک نقطهی حساس قرار داده است. کارشناسان حقوقی، از جمله پژوهشگران دانشگاهی و نهادهای مدافع حقوق مصرفکننده، پرسشهایی جدی دربارهی شفافیت، احتمال سوگیری و انطباق این طرح با قوانین اداری آمریکا مطرح کردهاند. این ماجرا در فضایی رخ میدهد که اوپنایآی این روزها از جهات دیگری هم زیر فشار نظارتی و حقوقی قرار دارد و حساسیتها نسبت به کاربردهای حساس مدلهایش بیش از هر زمان دیگری بالا رفته است.
۷. تصویر بزرگتر: رقابت غولها بر سر پروژههای حساس دولتی
ماجرای AERO فقط داستان یک وزارتخانه و یک ابزار نیست؛ بخشی از یک روند بزرگتر است. شرکتهای پیشروی هوش مصنوعی، از اوپنایآی گرفته تا انتروپیک (سازندهی کلاد) و گوگل (سازندهی جِمینای)، همگی برای ورود به بازار پرسود قراردادهای دولتی و سازمانی رقابت میکنند. تفاوت مهم در «روایت» هر کدام است: انتروپیک برند خود را بر پایهی «ایمنی و قابلیت اطمینان» بنا کرده و نسخههای ویژهای برای نهادهای حساس و امنیتی معرفی کرده است، در حالی که رقبا بیشتر روی قدرت و سرعت خام مدلها مانور میدهند.
این تفاوت رویکرد، دقیقاً همان چیزی است که ماجرای AERO را آموزنده میکند. وقتی خروجی یک مدل قرار است پشتوانهی تصمیمهای پرمخاطره باشد، «دقت و شفافیت» به اندازهی «قدرت» اهمیت پیدا میکند. اگر میخواهید تفاوت رویکرد و توانایی مدلهای مختلف را بهتر درک کنید، مقایسهای مثل نبرد چتجیپیتی و دیپسیک نمونهی خوبی از این است که چطور دو مدل میتوانند در یک مسئلهی مشخص، رفتاری کاملاً متفاوت نشان دهند.
۸. جمعبندی تحلیلی: مرز باریک میان کارایی و خطا
واقعیت این است که ایدهی استفاده از هوش مصنوعی برای شناسایی تقلب، فینفسه بد نیست؛ حجم دادهها آنقدر زیاد است که بدون کمک ماشین، نظارت مؤثر تقریباً ناممکن میشود. مشکل، نه در «استفاده»، بلکه در «نحوهی استفاده» است. سپردنِ تصمیم نهایی به مدلی که نرخ خطایش پنهان است و بدون بازبینی انسانیِ شفاف، درست همان دامی است که کارشناسان سالهاست نسبت به آن هشدار میدهند.
این همان «توهمِ اتکای کامل به هوش مصنوعی» است که در مطلب توهم هوش مصنوعی؛ توسعهدهندهی تنها در برابر مهندس واقعی آن را نقد کردهایم: ابزار قدرتمند است، اما جایگزینِ قضاوت انسانی نیست. بهترین نتیجه زمانی به دست میآید که هوش مصنوعی «دستیارِ» تصمیمگیرنده باشد، نه «جایگزینِ» او. برای همین هم یادگیریِ استفادهی درست و حرفهای از این ابزارها اهمیت دارد؛ چیزی که در آموزشهای چتجیپیتی ما گامبهگام به آن میپردازیم. حتی نحوهی درست پرسیدن سؤال از مدل هم مهارتی است که در راهنمای پرامپتنویسی برای مبتدیها توضیح دادهایم.
در نهایت، ماجرای AERO یک آزمایش زنده در برابر چشم همهی ماست: آیا جامعه میتواند تعادلی میان کاراییِ خیرهکنندهی هوش مصنوعی و مسئولیتپذیری در تصمیمهای سرنوشتساز پیدا کند؟ پاسخ این پرسش، فراتر از مرزهای آمریکا، آیندهی نقشِ هوش مصنوعی در دولتها را رقم خواهد زد.
پرسشوپاسخ کوتاه (FAQ)
طرح AERO از کدام هوش مصنوعی استفاده میکند؟
گزارشها نشان میدهند این طرح از چتجیپیتی، محصول شرکت اوپنایآی، برای اسکن و تحلیل گزارشهای حسابرسی مالی استفاده میکند.
آیا تصمیم نهایی دربارهی قطع بودجه را هوش مصنوعی میگیرد؟
طبق اطلاعات منتشرشده، خروجی هوش مصنوعی سازمانهای پرخطر را «علامتگذاری» میکند، اما جزئیات دقیقِ نقش بازبینی انسانی در تصمیم نهایی بهطور کامل و شفاف اعلام نشده و همین یکی از انتقادهای اصلی است.
چرا نبودِ نرخ خطای منتشرشده اینقدر مهم است؟
چون بدون دانستن نرخ خطا، نمیتوان قضاوت کرد که سیستم چند سازمان را بهاشتباه متهم میکند. وقتی پیامدِ خطا میتواند قطع بودجهی یک بیمارستان باشد، شفافیتِ نرخ خطا به یک ضرورت تبدیل میشود.
این خبر چه ربطی به کاربران عادی هوش مصنوعی دارد؟
این ماجرا یک درسِ عملی بزرگ دارد: هوش مصنوعی ابزاری فوقالعاده اما جایزالخطاست. چه در کار روزمره و چه در تصمیمهای مهم، خروجی آن باید بازبینی شود و نباید کورکورانه پذیرفته شود.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
