مقدمه
مهم‌ترین مهارت استفاده از AI: فهمیدن اینکه کِی غلطه. چون AI با همون لحن مطمئن جواب درست و غلط می‌ده.
شواهد خطای AI در آزمایش یک پژوهش دانشگاهی منتشرشده، پاسخ‌های مدل مدل هوش مصنوعی-4 (۲۰۲۳) به مسائل ریاضی دبیرستان تقریباً نیمی از مواقع درست بود و خطاهای منطقی و حسابی رایج بودن. یه گزارش خبری از همون مطالعه: خطای محاسباتی حدود ۸٪ و خطای روش گام‌به‌گام حدود ۴۲٪. (این اعداد از یه گزارش خبری؛ برای عدد دقیق به مقالهٔ اصلی رجوع کن.) تحقیقات دیگه هم نشون دادن مدل‌های زبانی هوش مصنوعی حتی با تغییرات جدید، هنوز در استدلال ریاضی چندمرحله‌ای مشکل دارن و می‌تونن توضیح منطقی بنویسن ولی به جواب غلط برسن. یه پژوهش دیگه پیشنهاد کرده خطاهای مدل‌های استدلالی از «توهم ویژگی‌های حیاتی مسئله» ناشی می‌شه؛ یعنی AI گاهی چیزی رو که در صورت مسئله نیست «فرض» می‌کنه.
هشدار: مدل‌ها در حال بهبودن. ولی هیچ مدلی امروز «بی‌خطا» نیست، پس بررسی لازمه.
۵ روش بررسی
۱. جایگذاری
جواب رو در معادلهٔ اصلی بذار. اگه برقرار نبود، غلطه.
۲. چک واحد و مرتبهٔ بزرگی
سرعت ۵۰۰ متر بر ثانیه برای ماشین؟ منطقی نیست. واحد جواب چیه؟ درسته؟
۳. مسئله رو با روش دیگه حل کن
یه راه دیگه، یا بپرس «روش دیگه‌ای برای حل نشون بده» و جواب‌ها رو مقایسه کن.
۴. با کتاب درسی تطبیق بده
اصطلاح، تعریف و روش رو با کتاب مقایسه کن. در امتحان نهایی، کتاب ملاکه.
۵. دوباره بپرس (متفاوت)
همون سؤال رو با جمله‌بندی متفاوت (یا در چت جدید) بپرس. اگه جواب‌ها فرق داشت، حداقل یکی غلطه. (این یه روش عملیه؛ در پژوهش‌های تخصصی هم «سازگاری» به‌عنوان یه نشونهٔ درستی استفاده می‌شه، ولی در سطح دانش‌آموز تضمین نیست.)
نشونه‌های هشدار جواب خیلی مطمئن ولی بدون توضیح دلیل تناقض بین مراحل عددی که «معقول» نیست اصطلاحی که در کتابت نیست تغییر جواب وقتی می‌گی «مطمئنی؟» چه کار کنم اگه مطمئن نشدم؟ از معلم بپرس. از یه دوست بخواه حل کنه. کتاب یا حل‌المسائل معتبر. نمونه: چک جواب شیمی
AI: «جرم ۲ مول H₂O = ۳۶ گرم.» چک: جرم مولی آب حدود ۱۸ گرم بر مول است (هیدروژن = ۱ و اکسیژن = ۱۶). پس ۲ × ۱۸ = ۳۶ گرم. ✅
AI: «جرم ۲ مول CO₂ = ۶۴ گرم.» چک: جرم مولی CO₂ برابر ۱۲ + ۳۲ = ۴۴ گرم بر مول است؛ پس ۲ × ۴۴ = ۸۸ گرم. ❌ عدد ۶۴ گرم اشتباه است.
جمع‌بندی
هیچ جواب AIای رو بدون بررسی نپذیر. جایگذاری، چک واحد، روش دوم، کتاب و پرسیدن مجدد ۵ ابزار ساده‌ن.
سؤالات متداول
AI کدوم درس رو بیشتر اشتباه می‌کنه؟ پژوهش قطعی برای مقایسهٔ درس‌ها ندارم. مسائل چندمرحله‌ای عددی بیشتر مستعد خطان.
آیا مدل‌های جدید بی‌خطان؟ نه. بهتر شدن ولی هنوز اشتباه می‌کنن.
اگه AI گفت «مطمئنم» ولی غلط بود؟ اطمینان لحن AI نشونهٔ درستی نیست.