اجرای آفلاین مدل‌های بزرگ هوش مصنوعی روی گوشی موبایل با مدل‌های متن‌باز لاما

هوش مصنوعی آفلاین از راه رسید؛ اجرای مدل‌های بزرگ روی گوشی موبایل

اخبار · هوش مصنوعی

مدل‌های بزرگ هوش مصنوعی دیگر برای کار کردن به اینترنت و سرورهای ابری نیاز ندارند؛ حالا می‌توانند کامل و آفلاین، مستقیم روی گوشی شما اجرا شوند.

چکیده. در روزهای گذشته گزارش‌هایی منتشر شد که نشان می‌دهد اجرای مدل‌های بزرگ هوش مصنوعی به‌طور کامل روی گوشی موبایل ممکن شده است؛ از یک مدل ۲۷ میلیارد پارامتری روی آیفون گرفته تا روش‌هایی که خطای مدل‌های کوچک را به یک‌دهم کاهش می‌دهند. این تحول یعنی حریم خصوصی بیشتر، کارکرد آفلاین و بی‌نیازی از اشتراک‌های گران. در این مقاله ماجرا را ساده و دقیق بررسی می‌کنیم.
اجرای آفلاین مدل‌های بزرگ هوش مصنوعی روی گوشی موبایل با مدل‌های متن‌باز لاما

۱. اتفاقی که معادله هوش مصنوعی را به‌هم زد

سال‌هاست که یک قانون نانوشته بر دنیای هوش مصنوعی حاکم است: هرچه مدل باهوش‌تر، بزرگ‌تر؛ و هرچه بزرگ‌تر، وابسته‌تر به مراکز داده غول‌پیکر و اتصال دائم به اینترنت. هر بار که از دستیارهای متنی محبوب استفاده می‌کنید، پرسش شما هزاران کیلومتر سفر می‌کند تا در سروری پردازش شود و پاسخ بازگردد. اما تحولی که در روزهای اخیر توجه رسانه‌های فناوری را جلب کرد، می‌تواند این معادله را از پایه دگرگون کند.

خبر کوتاه اما سنگین است: مدل‌های بزرگ هوش مصنوعی حالا می‌توانند به‌طور کامل و آفلاین روی یک گوشی موبایل معمولی اجرا شوند. نه یک نسخه ضعیف و تراش‌خورده، بلکه مدلی که بخش بزرگی از توان مدل اصلی را حفظ کرده است. اگر تا دیروز «هوش مصنوعی روی دستگاه» بیشتر یک شعار تبلیغاتی بود، امروز به یک واقعیت فنی قابل‌لمس تبدیل شده است.

این موضوع آن‌قدر مهم است که ردپای آن را می‌توان در سرخط بسیاری از رسانه‌های تخصصی دید و پیگیری روند آن در بخش اخبار هوش مصنوعی نشان می‌دهد که رقابت بر سر «کوچک‌سازی هوش» به یکی از داغ‌ترین جبهه‌های صنعت بدل شده است.

۲. «هوش مصنوعی روی دستگاه» دقیقاً یعنی چه؟

اصطلاح «هوش مصنوعی روی دستگاه» (On-Device AI) یا «هوش مصنوعی لبه» (Edge AI) به این معناست که تمام پردازش مدل، روی سخت‌افزار خود گوشی یا لپ‌تاپ شما انجام می‌شود، نه روی سرورهای شرکت سازنده. در این حالت، داده‌ای از دستگاه شما خارج نمی‌شود و برای پاسخ‌گرفتن، حتی به یک بایت اینترنت هم نیاز ندارید.

برای درک تفاوت، کافی است دو حالت را مقایسه کنیم. در مدل ابری (Cloud) که سرویس‌هایی مانند محصولات اوپن‌ای‌آی بر پایه آن ساخته شده‌اند، قدرت پردازش تقریباً نامحدود است اما شما وابسته به اینترنت، سرعت اتصال و سیاست‌های سرویس‌دهنده هستید و داده‌هایتان روی سروری بیرون از کنترل شما پردازش می‌شود. در مدل روی دستگاه، قدرت پردازش محدود به سخت‌افزار گوشی است، اما در عوض همه‌چیز خصوصی، سریع و مستقل باقی می‌ماند.

تا همین چند وقت پیش، تصور اجرای مدل‌های چند ده میلیاردی روی گوشی تقریباً غیرممکن بود؛ چون این مدل‌ها به ده‌ها گیگابایت حافظه و پردازنده‌های صنعتی نیاز داشتند. شکستن این سد، همان چیزی است که خبر اخیر را به یک نقطه‌عطف تبدیل می‌کند.

۳. راز جادو: چطور یک مدل غول‌پیکر در گوشی جا می‌شود؟

کلید ماجرا یک کلمه است: فشرده‌سازی. مدل‌های هوش مصنوعی از میلیاردها عدد به نام «وزن» ساخته شده‌اند. به‌طور معمول هر وزن با دقت بالا و در قالب چند بایت ذخیره می‌شود که همین باعث حجم سنگین مدل‌ها می‌شود. اما پژوهشگران دریافته‌اند که می‌توان این اعداد را به شکل چشمگیری ساده‌تر کرد بدون آن‌که هوش مدل فرو بریزد.

در پیشرفته‌ترین حالت، یعنی «کوانتیزه‌سازی یک‌بیتی»، هر وزن تقریباً تا مرز یک بیت فشرده می‌شود. نتیجه شگفت‌انگیز است: طبق گزارش‌ها یک استارتاپ به نام PrismML که از حمایت سرمایه‌گذار سرشناس «خوسلا ونچرز» برخوردار است، توانسته یک مدل ۲۷ میلیارد پارامتری را که تنها حدود ۳٫۹ گیگابایت حجم دارد، روی آیفون ۱۷ پرو و با سرعتی نزدیک به ۱۱ توکن در ثانیه اجرا کند؛ آن هم با حفظ بیش از ۹۰ درصد از کیفیت مدل اصلی. بنا بر این گزارش‌ها، اپل نیز برای بهره‌گیری از این فناوری وارد گفت‌وگو شده است.

PrismML تنها بازیگر این میدان نیست. شرکت‌هایی مانند «لیکویید ای‌آی» (Liquid AI) نیز با روش‌های تازه توانسته‌اند قابلیت‌اطمینان مدل‌های کوچک را به‌شدت بالا ببرند؛ تا جایی که در یک نمونه، نرخ خطای یک مدل کوچک از حدود ۲۳ درصد به تنها ۱ درصد کاهش یافته است. این یعنی مدل‌های کوچک دیگر «اسباب‌بازی» نیستند و می‌توانند در کارهای واقعی به آن‌ها تکیه کرد.

هوش مصنوعی روی دستگاه با جمینای نانو، حفظ حریم خصوصی و کارکرد بدون اینترنت

۴. چرا این خبر واقعاً مهم است؟

ممکن است بپرسید وقتی سرویس‌های ابری این‌قدر قدرتمندند، چرا باید هوش مصنوعی را روی گوشی اجرا کنیم؟ پاسخ در سه مزیت کلیدی نهفته است که هرکدام به‌تنهایی می‌توانند بازی را عوض کنند.

حریم خصوصی واقعی

وقتی مدل روی خودِ گوشی اجرا می‌شود، عکس‌ها، پیام‌ها و اسناد شما هرگز از دستگاه خارج نمی‌شوند. این یعنی نگرانی درباره ذخیره یا نشت داده‌ها روی سرورهای دوردست تا حد زیادی از بین می‌رود؛ موضوعی که برای کاربران حساس، کسب‌وکارها و حوزه‌های حقوقی و پزشکی اهمیتی حیاتی دارد.

کارکرد آفلاین و سرعت

پردازش روی دستگاه به اینترنت وابسته نیست؛ پس دستیار هوشمند شما در پرواز، در سفر، در مناطق کم‌سیگنال یا هنگام قطعی شبکه هم کار می‌کند. افزون بر این، چون داده‌ها رفت‌وبرگشت نمی‌کنند، پاسخ‌ها اغلب با تأخیر کمتری آماده می‌شوند.

هزینه و استقلال

مدل روی دستگاه به اشتراک ماهانه و صورتحساب‌های ابری وابسته نیست. این استقلال، همان‌طور که در تحلیل اهمیت هوش مصنوعی در کسب‌وکار هم دیده می‌شود، می‌تواند هزینه‌های عملیاتی شرکت‌ها را به‌شکل معناداری کاهش دهد و هوش مصنوعی را برای طیف گسترده‌تری از کاربران در دسترس کند.

۵. بازیگران اصلی این میدان

رقابت بر سر هوش مصنوعی روی دستگاه فقط به استارتاپ‌ها محدود نمی‌شود؛ بزرگ‌ترین شرکت‌های فناوری جهان هم پای کار آمده‌اند. گوگل با مدل سبک «جمینای نانو» (Gemini Nano) هوش مصنوعی را مستقیم درون گوشی‌های اندرویدی جای داده است. متا با خانواده مدل‌های متن‌باز «لاما» (Llama)، عملاً به موتور محبوب اجرای محلی مدل‌ها روی رایانه و گوشی تبدیل شده است. اپل نیز مدل‌های پایه اختصاصی خود را برای اجرای روی آیفون توسعه داده است.

در این میان، مدل‌های متن‌باز نقشی کلیدی دارند؛ چون هر توسعه‌دهنده‌ای می‌تواند آن‌ها را دانلود، فشرده و روی سخت‌افزار دلخواه اجرا کند. همین دموکراتیک‌شدن دسترسی است که سرعت پیشرفت را چند برابر کرده است. اگر بخواهید تفاوت رویکرد مدل‌های مختلف را عمیق‌تر بشناسید، مقایسه‌هایی مانند نبرد ChatGPT و دیپ‌سیک تصویر خوبی از تنوع فلسفه‌ها در این صنعت می‌دهد.

نکته جالب این است که رقابت دیگر فقط بر سر «بزرگ‌ترین و باهوش‌ترین» مدل نیست، بلکه بر سر «کارآمدترین» مدل هم هست؛ مدلی که بتواند بیشترین هوش را با کمترین مصرف حافظه و انرژی ارائه دهد. این تغییر نگاه، برنده‌های تازه‌ای به میدان می‌آورد.

۶. محدودیت‌ها و واقعیت‌هایی که باید بدانید

با همه این هیجان، باید واقع‌بین بود. اجرای مدل روی گوشی هنوز با چالش‌هایی روبه‌روست. نخست، مصرف باتری و گرمای دستگاه: پردازش سنگین هوش مصنوعی می‌تواند باتری را سریع خالی و گوشی را داغ کند. دوم، شکاف کیفیت: هرچند مدل‌های فشرده بسیار پیشرفت کرده‌اند، پیچیده‌ترین کارها همچنان از عهده بزرگ‌ترین مدل‌های ابری بهتر برمی‌آید.

افزون بر این، باید مراقب هیاهوی تبلیغاتی بود. برخی ادعاهای عملکردی هنوز به‌طور مستقل تأیید نشده‌اند و لازم است با احتیاط به آن‌ها نگاه کرد. همان‌طور که در نوشتار ظرفیت‌ها و محدودیت‌های واقعی هوش مصنوعی توضیح داده‌ایم، فاصله میان یک دموی چشمگیر و یک محصول پایدار و روزمره می‌تواند زیاد باشد.

واقعیت این است که هوش مصنوعی روی دستگاه قرار نیست فوراً جایگزین سرویس‌های ابری شود؛ بلکه قرار است در کنار آن‌ها بایستد و بار بخش بزرگی از کارهای ساده و حساس به حریم خصوصی را بر دوش بگیرد. تمایز میان انتظار و واقعیت، همان چیزی است که در بحث توهم هوش مصنوعی هم بر آن تأکید شده است.

۷. این تحول برای کاربر فارسی‌زبان چه معنایی دارد؟

برای کاربران فارسی‌زبان، این خبر شاید مهم‌تر از آن‌چه به نظر می‌رسد باشد. بسیاری از کاربران با محدودیت در دسترسی به سرویس‌های ابری خارجی، نیاز به روش‌های پرداخت بین‌المللی و نگرانی درباره پایداری اتصال روبه‌رو هستند. هوش مصنوعی روی دستگاه، بسیاری از این موانع را دور می‌زند؛ چون وقتی مدل روی گوشی خودتان اجرا می‌شود، دیگر به هیچ سرور خارجی و هیچ اشتراکی وابسته نیستید.

البته این به معنای بی‌نیازی کامل از یادگیری کار با ابزارها نیست. مهارت در نوشتن درخواست درست همچنان تعیین‌کننده کیفیت پاسخ است؛ چه مدل روی ابر اجرا شود و چه روی گوشی. به همین دلیل پیشنهاد می‌کنیم نگاهی به راهنمای پرامپت‌نویسی ساده و مجموعه آموزش‌های ChatGPT بیندازید تا بیشترین بهره را از هر مدلی ببرید.

در عمل، احتمالاً طی ماه‌های آینده نسخه‌هایی از این دستیارهای آفلاین را روی گوشی‌های تازه خواهیم دید که کارهای روزمره مانند خلاصه‌سازی متن، ترجمه، پاسخ به ایمیل و حتی تحلیل عکس را بدون اینترنت انجام می‌دهند. این یعنی هوش مصنوعی از یک سرویس دوردست، به همراهی همیشگی در جیب شما تبدیل می‌شود.

۸. آینده: هوش مصنوعی ترکیبی

احتمالاً مقصد نهایی نه «همه‌چیز روی ابر» است و نه «همه‌چیز روی دستگاه»، بلکه یک معماری هوشمند و ترکیبی (Hybrid). در این مدل، گوشی شما کارهای سبک، شخصی و فوری را خودش انجام می‌دهد و تنها هنگام مواجهه با یک مسئله واقعاً سنگین، بخشی از کار را به مدل قدرتمندتر ابری می‌سپارد. بهترین از هر دو دنیا: سرعت و حریم خصوصی محلی، در کنار قدرت بی‌کران ابری.

اگر این مسیر همان‌طور که پیش‌بینی می‌شود پیش برود، طی یکی دو سال آینده «آفلاین کار کردن دستیار هوشمند» نه یک ویژگی خاص، بلکه یک انتظار پیش‌فرض از هر گوشی تازه خواهد بود. رقابت شرکت‌ها برای فشرده‌سازی بهتر و بهینه‌تر، تازه آغاز شده و برنده اصلی این رقابت، کاربران خواهند بود.

۹. پرسش‌وپاسخ کوتاه (FAQ)

هوش مصنوعی روی دستگاه یعنی چه؟

یعنی مدل هوش مصنوعی به‌طور کامل روی سخت‌افزار خودِ گوشی یا لپ‌تاپ شما اجرا می‌شود و برای پردازش، داده‌ای به سرور بیرونی نمی‌فرستد و به اینترنت هم نیاز ندارد.

آیا این مدل‌ها به‌اندازه ChatGPT ابری قوی هستند؟

در کارهای روزمره بسیار نزدیک شده‌اند و بخش بزرگی از کیفیت مدل‌های اصلی را حفظ می‌کنند، اما در پیچیده‌ترین وظایف، بزرگ‌ترین مدل‌های ابری همچنان دست بالا را دارند. آینده احتمالاً ترکیبی از هر دو خواهد بود.

مهم‌ترین مزیت این فناوری چیست؟

حریم خصوصی؛ چون داده‌های شما هرگز از گوشی خارج نمی‌شوند. در کنار آن، کارکرد آفلاین و بی‌نیازی از اشتراک‌های گران هم مزیت‌های بزرگی هستند.

چه زمانی می‌توانم از آن استفاده کنم؟

برخی قابلیت‌های محدودِ روی دستگاه هم‌اکنون در گوشی‌های تازه در دسترس‌اند و انتظار می‌رود مدل‌های قدرتمندتر آفلاین طی ماه‌های آینده به‌تدریج فراگیر شوند.

جمع‌بندی. هوش مصنوعی در حال کوچ از سرورهای دوردست به جیب شماست؛ تحولی که حریم خصوصی، سرعت و استقلال بیشتری به همراه دارد، هرچند هنوز محدودیت‌های خودش را هم دارد. این مسیر تازه آغاز شده و ما در Mr ChatGPT قدم‌به‌قدم دنبالش می‌کنیم. برای دریافت داغ‌ترین اخبار و آموزش‌های هوش مصنوعی، کانال ما را در تلگرام دنبال کنید: @MrChatGPT_IR.

نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید

(0 رأی)

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

ورود | ثبت نام
شماره موبایل یا پست الکترونیک خود را وارد کنید

روش دریافت کد تایید

ورود / ثبت‌نام با گوگل

ورود با تلگرام

ورود با لینک جادویی

برگشت
کد تایید را وارد کنید
کد تایید برای شماره موبایل شما ارسال گردید
کد تایید از طریق بازوی "رمز یکبار مصرف (OTP)" در پیام رسان بله برای شما ارسال شد"
برای دریافت کد تایید، شماره زیر را با موبایل خود به صورت کاملاً رایگان شماره گیری کنید"
تا لحظاتی دیگر برای اعلام کد تایید با شما تماس خواهیم گرفت
ارسال مجدد کد تا دیگر

روش دریافت کد تایید

ورود / ثبت‌نام با گوگل

ورود با تلگرام

ورود با لینک جادویی

برگشت
رمز عبور را وارد کنید
رمز عبور حساب کاربری خود را وارد کنید

ورود / ثبت‌نام با گوگل

ورود با تلگرام

ورود با لینک جادویی

برگشت
درخواست بازیابی رمز عبور
لطفاً پست الکترونیک یا موبایل خود را وارد نمایید

ورود / ثبت‌نام با گوگل

ورود با تلگرام

ورود با لینک جادویی

برگشت
کد تایید را وارد کنید
کد تایید برای شماره موبایل شما ارسال گردید
ارسال مجدد کد تا دیگر

ورود / ثبت‌نام با گوگل

ورود با تلگرام

ورود با لینک جادویی

ایمیل بازیابی ارسال شد!
لطفاً به صندوق الکترونیکی خود مراجعه کرده و بر روی لینک ارسال شده کلیک نمایید.

ورود / ثبت‌نام با گوگل

ورود با تلگرام

ورود با لینک جادویی

تغییر رمز عبور
یک رمز عبور برای اکانت خود تنظیم کنید

ورود / ثبت‌نام با گوگل

ورود با تلگرام

ورود با لینک جادویی

تغییر رمز با موفقیت انجام شد

ورود / ثبت‌نام با گوگل

ورود با تلگرام

ورود با لینک جادویی

دریافت ۵۰ پرامپت برای سوالات پیچیده

دریافت فایل