جمینای کوه‌نوردان را به کوهستان شستا فرستاد و شب را آنجا گیر انداخت

سه کوه‌نورد جوان اهل کالیفرنیا برنامه‌ریزی صعودشان به قله‌ی برفی شستا را کاملاً به دستیار هوش مصنوعی جمینای گوگل سپردند؛ تصمیمی که به یک شب سرد و ترسناک در دل کوهستان و یک عملیات نجات واقعی ختم شد.

۱. ماجرا از کجا شروع شد؛ یک تصمیم ساده که پیچیده شد

داستان از یک تصمیم به‌ظاهر ساده شروع شد. سه کوه‌نورد جوان به‌جای مشورت با رنجرهای منطقه یا استفاده از نقشه‌های رسمی کوه‌نوردی، تصمیم گرفتند تمام برنامه‌ریزی صعودشان به قله‌ی شستا در کالیفرنیا را به دستیار هوش مصنوعی جمینای گوگل بسپارند. این نوع اعتماد به دستیارهای هوشمند برای برنامه‌ریزی سفر این روزها بین کاربران عادی بسیار رایج شده، اما ماجرای این گروه نشان داد این اعتماد می‌تواند چه هزینه‌ای داشته باشد.

قله‌ی شستا یکی از بلندترین و در عین حال خطرناک‌ترین کوه‌های آتشفشانی کالیفرنیا محسوب می‌شود؛ کوهی که هر ساله کوه‌نوردان باتجربه و بی‌تجربه‌ی زیادی را به سمت خودش می‌کشاند. برای صعود چنین کوهی، برنامه‌ریزی دقیق درباره‌ی زمان، تجهیزات، غذا و آب از اهمیت حیاتی برخوردار است؛ دقیقاً همان چیزی که در این ماجرا به‌درستی انجام نشد.

نکته‌ی جالب این است که این سه نفر، طبق گزارش‌های منتشرشده، کوه‌نوردانی کاملاً بی‌تجربه نبودند و پیش از این هم چند مسیر کوهستانی را طی کرده بودند. همین موضوع باعث شده این ماجرا حتی بیشتر توجه‌ها را جلب کند؛ چون نشان می‌دهد مشکل صرفاً بی‌تجربگی افراد نبوده، بلکه اعتماد بیش از حد به یک ابزار هوش مصنوعی به‌جای منابع تخصصی و رسمی کوه‌نوردی، عامل اصلی این اتفاق بوده است.

۲. جمینای دقیقاً چه گفت؟

بر اساس گزارش مقامات کلانتری شهرستان سیسکیو، جمینای به این گروه گفته بود که کل مسیر صعود و بازگشت حدود هشت ساعت طول می‌کشد. این دستیار هوش مصنوعی همچنین توصیه کرده بود آن‌ها کربوهیدرات‌های ساده و سبک با خودشان ببرند و از غذاهای چرب پرهیز کنند، چون به گفته‌ی هوش مصنوعی، هضم چربی‌ها زمان بیشتری می‌برد.

این توصیه‌ها در نگاه اول منطقی به نظر می‌رسند، اما مشکل اصلی جای دیگری بود؛ برآورد زمانی جمینای برای یک مسیر واقعی و پرخطر کوهستانی به‌شدت خوش‌بینانه بود و هیچ‌کدام از عوامل مهمی مثل شرایط برفی، سرعت واقعی گروه یا احتمال بروز مشکل در مسیر را به‌درستی در نظر نگرفته بود.

۳. وقتی پیش‌بینی هشت‌ساعته، شانزده ساعت شد

گروه ساعت سه بامداد حرکت کردند، در حالی که طبق برنامه‌ی جمینای انتظار داشتند حدود ظهر به قله برسند. اما واقعیت چیز دیگری بود؛ آن‌ها ساعت هفت غروب، یعنی نزدیک به دو برابر زمان پیش‌بینی‌شده، به قله رسیدند. این تأخیر بزرگ به تنهایی کافی بود تا کل برنامه‌ی سفر را به‌هم بریزد و آن‌ها را مجبور کند مسیر بازگشت را در تاریکی کامل طی کنند.

چرا برآورد هوش مصنوعی این‌قدر اشتباه از آب درآمد؟

دستیارهای هوش مصنوعی مثل جمینای معمولاً بر اساس داده‌های عمومی و میانگین‌های آماری پاسخ می‌دهند، نه شرایط واقعی و لحظه‌ای یک مسیر کوهستانی خاص. عواملی مثل وضعیت فعلی برف، آمادگی جسمانی دقیق افراد گروه یا حتی پیش‌بینی هواشناسی لحظه‌ای، چیزهایی هستند که یک مدل زبانی به‌سادگی نمی‌تواند جایگزین تجربه‌ی مستقیم انسانی یا مشورت با کارشناسان محلی شود.

از سوی دیگر، مدل‌های زبانی معمولاً طوری طراحی شده‌اند که پاسخی مطمئن و قاطع بدهند، حتی وقتی داده‌ی کافی برای آن قطعیت وجود ندارد. همین لحن مطمئن می‌تواند کاربر را به اشتباه بیندازد و او را از پرسیدن سوال‌های بیشتر یا مراجعه به منابع دیگر منصرف کند؛ دقیقاً همان اتفاقی که به نظر می‌رسد برای این گروه از کوه‌نوردان افتاده است.

۴. گم‌شدن در تاریکی؛ لحظه‌ی بحرانی ماجرا

در مسیر بازگشت و در دل تاریکی، گروه از مسیر اصلی منحرف شدند و وارد دره‌ی مادکریک شدند؛ منطقه‌ای صخره‌ای و پرخطر که خارج از مسیر استاندارد کوه‌نوردی قرار دارد. در همین بخش از مسیر، یکی از اعضای گروه دچار آسیب‌دیدگی زانو شد که سرعت حرکت گروه را بیشتر هم کاهش داد.

برای بدتر شدن اوضاع، برنامه‌ی مسیریابی روی گوشی همراهشان هم شارژش تمام شد و آن‌ها را بدون هیچ ابزار پشتیبان دیگری برای مسیریابی رها کرد. در نهایت، گروه تصمیم گرفتند به‌جای ادامه‌ی حرکت در شرایط خطرناک، همان‌جا اردو بزنند و منتظر روشن شدن هوا بمانند؛ تصمیمی که احتمالاً جان آن‌ها را نجات داد.

۵. عملیات نجات و پایان یک شب سخت

صبح روز بعد، تیم امدادی کلانتری شهرستان سیسکیو به همراه رنجرهای جنگل‌بانی و داوطلبان محلی وارد عمل شدند و موفق شدند هر سه کوه‌نورد را در دره‌ی مادکریک پیدا کنند و به‌سلامت به پایین کوه بازگردانند. خوشبختانه با وجود یک شب سرد و طاقت‌فرسا، هیچ‌کدام از اعضای گروه آسیب جدی ندیدند.

خود کوه‌نوردان بعداً در گفت‌وگو با رسانه‌های محلی اعتراف کردند که «بیش از حد به هوش مصنوعی اعتماد کردیم، نه به عقل و تجربه‌ی خودمان.» این جمله‌ی ساده شاید بهترین خلاصه از کل این ماجرا باشد.

۶. چرا هوش مصنوعی نمی‌تواند جایگزین تجربه‌ی انسانی شود؟

این ماجرا یک‌بار دیگر یادآوری کرد که ابزارهای هوش مصنوعی، هرقدر هم پیشرفته باشند، همچنان محدودیت‌های جدی دارند؛ به‌خصوص وقتی پای تصمیم‌های حیاتی و ایمنی جانی در میان باشد. اگر می‌خواهید نگاهی دقیق‌تر به همین محدودیت‌ها و پتانسیل‌های واقعی هوش مصنوعی داشته باشید، مقاله‌ی پتانسیل‌ها و محدودیت‌های واقعی هوش مصنوعی منبع خوبی برای شروع است.

موضوع دیگری که این ماجرا به‌خوبی نشان می‌دهد، تفاوت میان استفاده‌ی هوشمندانه از هوش مصنوعی و اتکای کورکورانه به آن است. همین موضوع در حوزه‌ی کدنویسی و مهندسی هم بارها دیده شده؛ جایی که برخی افراد به‌جای یادگیری واقعی، صرفاً به خروجی هوش مصنوعی تکیه می‌کنند. اگر به این موضوع علاقه‌مندید، مقاله‌ی توهم هوش مصنوعی؛ توسعه‌دهنده‌ی تنها در برابر مهندس واقعی تحلیل جالبی از همین پدیده ارائه می‌دهد.

۷. این تنها اشتباه یک دستیار هوشمند در دنیای واقعی نیست

ماجرای کوهستان شستا تنها یک نمونه از مواردی است که در آن اتکای بیش از حد به پاسخ‌های آماده‌ی هوش مصنوعی به مشکلات واقعی منجر شده است. چه در برنامه‌ریزی سفر، چه در تصمیم‌های مالی و چه حتی در کدنویسی، نتیجه‌ی نهایی همیشه به کیفیت پرسشی که از هوش مصنوعی می‌پرسیم و میزان بررسی و اعتبارسنجی پاسخ آن بستگی دارد. اگر می‌خواهید یاد بگیرید چطور سوال‌ها و درخواست‌های دقیق‌تری از این ابزارها بپرسید تا پاسخ‌های قابل‌اعتمادتری بگیرید، راهنمای نوشتن پرامپت برای مبتدی‌ها نقطه‌ی شروع خوبی است.

برای آموزش‌های عملی‌تر درباره‌ی استفاده‌ی درست از ابزارهای هوش مصنوعی در زندگی روزمره، می‌توانید سری آموزش‌های چت‌جی‌پی‌تی ما را هم دنبال کنید؛ حتی اگر معمولاً از جمینای استفاده می‌کنید، اصول درست پرسیدن سوال در همه‌ی این ابزارها مشترک است.

۸. درسی که باید از این ماجرا گرفت

مقامات محلی در بیانیه‌ای رسمی تأکید کردند که همیشه باید پیش از هر صعود جدی با ایستگاه رنجری منطقه تماس گرفت تا دقیق‌ترین اطلاعات درباره‌ی شرایط مسیر به‌دست بیاید و هرگز نباید برنامه‌ریزی سفرهای پرخطر را فقط و فقط به هوش مصنوعی سپرد. این توصیه فقط مخصوص کوه‌نوردی نیست؛ در هر حوزه‌ای که تصمیم‌ها پیامدهای جدی دارند، از جمله در کسب‌وکار، همین اصل صدق می‌کند. برای آشنایی با نقش واقعی و درست هوش مصنوعی در تصمیم‌گیری‌های کسب‌وکاری، مقاله‌ی چرا هوش مصنوعی برای کسب‌وکارها مهم است را هم مطالعه کنید.

در نهایت، این ماجرا نشان داد که هیچ‌کدام از دستیارهای هوش مصنوعی، از جمینای گرفته تا رقبایش مثل چت‌جی‌پی‌تی، هنوز جایگزین کامل تجربه‌ی انسانی و مشورت با کارشناسان واقعی نیستند. برای آشنایی بیشتر با تفاوت رویکرد شرکت‌های مختلف در ساخت این ابزارها، می‌توانید نگاهی هم به مقاله‌ی اوپن‌ای‌آی چیست بیندازید.

مقایسه‌ی عملکرد مدل‌های مختلف هوش مصنوعی در شرایط دشوار و تصمیم‌گیری‌های پیچیده، موضوعی است که این روزها بسیار مورد توجه پژوهشگران قرار گرفته. برای نمونه‌ای از این نوع مقایسه‌ها در حوزه‌ای کاملاً متفاوت، یعنی استدلال منطقی در بازی‌های استراتژیک، می‌توانید مقاله‌ی مقایسه‌ی چت‌جی‌پی‌تی و دیپ‌سیک در شطرنج را هم بخوانید؛ نمونه‌ی خوبی از اینکه چطور مدل‌های مختلف در شرایط متفاوت، عملکرد متفاوتی از خودشان نشان می‌دهند.

۹. سوالات متداول

آیا جمینای رسماً بابت این ماجرا واکنشی نشان داده است؟
تا لحظه‌ی انتشار این گزارش، گوگل واکنش رسمی خاصی درباره‌ی این ماجرای مشخص منتشر نکرده، هرچند شرکت‌های سازنده‌ی دستیارهای هوشمند معمولاً در پاسخ‌های خود هشدار می‌دهند که خروجی هوش مصنوعی باید با منابع دیگر بررسی شود.

چرا هوش مصنوعی نتوانست شرایط واقعی مسیر را پیش‌بینی کند؟
چون مدل‌های زبانی معمولاً بر اساس داده‌های عمومی و میانگین‌های آماری کار می‌کنند و به اطلاعات لحظه‌ای مثل وضعیت برف، آب‌وهوا یا آمادگی جسمانی دقیق افراد دسترسی ندارند؛ به همین دلیل نمی‌توان به‌طور کامل جای مشورت با کارشناسان محلی را بگیرند.

آیا استفاده از هوش مصنوعی برای برنامه‌ریزی سفر اشتباه است؟
نه لزوماً؛ هوش مصنوعی می‌تواند نقطه‌ی شروع خوبی برای جمع‌آوری اطلاعات اولیه باشد، اما بر اساس همین ماجرا، هرگز نباید تنها منبع تصمیم‌گیری برای سفرهای پرخطر و حیاتی باشد.