وقتی مطمئن حرف می‌زند ولی اشتباه می‌کند

گاهی هوش مصنوعی یک جواب می‌دهد که کاملاً قطعی به نظر می‌رسد. لحنش محکم است. جمله‌هایش شک ندارد. ولی جواب اشتباه است. به این پدیده «توهم» می‌گویند.

توهم چیست

هوش مصنوعی حافظه ندارد. کتابخانه ندارد. مثل آدمی که کتاب را ورق می‌زند نیست. او با حدس زدن کلمهٔ بعدی، جمله می‌سازد. این حدس بر اساس چیزهایی است که قبلاً دیده. وقتی جواب درست را نمی‌داند، به‌جای گفتن «نمی‌دانم»، گاهی یک جواب می‌سازد که فقط شبیه جواب درست است.

این ساختن، عمدی نیست. مدل دروغ نمی‌گوید. او فقط طوری طراحی شده که همیشه یک جمله بسازد، حتی وقتی چیزی برای گفتن ندارد.

چرا با اطمینان اشتباه می‌گوید

مدل، لحن مطمئن و لحن نامطمئن را از روی متن‌های میلیون‌ها نفر یاد گرفته. او یاد نگرفته «چه‌زمانی باید نامطمئن باشد». پس حتی وقتی جوابش ساختگی است، همان لحن مطمئن همیشگی را به کار می‌برد. برای شما، هیچ نشانهٔ ظاهری فرقی بین جواب درست و جواب ساختگی نمی‌گذارد.

جدول: کجا احتیاط بیشتری لازم است

سه راه برای بررسی

1. بپرسید منبعش کجاست. اگر جواب نداد یا منبع مبهم داد، به آن جواب کمتر اعتماد کنید.
2. خودتان چک کنید. برای هر چیزی که یک تصمیم مهم روی آن است، یک جستجوی ساده بزنید.
3. از دو جا بپرسید. همان سؤال را از یک هوش مصنوعی دیگر یا یک آدم مطلع بپرسید. اگر جواب‌ها فرق داشت، هنوز به نتیجه نرسیده‌اید.

لحن مطمئن، نشانهٔ درست بودن نیست. فقط نشانهٔ این است که مدل جمله‌اش را کامل کرده.

اگر تازه با هوش مصنوعی کار می‌کنید و می‌خواهید از پایه و درست شروع کنید، نقشهٔ راه شروع از صفر (mrchatgpt.org/roadmap-start-from-zero) کمکتان می‌کند.

جمع‌بندی

• هوش مصنوعی گاهی با اطمینان کامل، چیزی اشتباه می‌گوید.
• برای هر تصمیم مهم، منبع را بپرسید و خودتان چک کنید.
• وقتی مطمئن نیستید، همان سؤال را از یک جای دیگر هم بپرسید.