توسعه شتابان مدل‌های زبانی بزرگ (LLMs) و نفوذ ابزارهای هوش مصنوعی مولد در حوزه‌های پژوهشی، تصمیم‌گیری‌های تجاری و تولید محتوا، این توهم عمومی را تقویت کرده که این سامانه‌ها منابعی بی‌نقص و صاحب دانشی مطلق‌اند. با این حال، کاربران در عمل بارها با پدیده‌ای مواجه می‌شوند که طی آن سیستم با لحنی کاملاً قاطع، علمی و معتمد‌به‌نفس، اطلاعاتی کاملاً ساختگی، ارجاعات علمی ناموجود یا خطاهای فاحش محاسباتی و منطقی ارائه می‌دهد. درک علل این لغزش‌ها مستلزم بازنگری در ساختار شناختی هوش مصنوعی است؛ این مدل‌ها در باطن نه ذهن دارند، نه معنای واژگان را به شیوه ادراک انسانی می‌فهمند و نه به یک «پایگاه داده قطعی از حقیقت» متصل‌اند، بلکه موتورهای محاسباتی مبتنی بر آمار و احتمالات کلمات بعدی بر پایه بردارهای چندبعدی هستند. وقتی این ماهیت احتمالاتی با نقص داده‌های آموزشی، تعصبات الگوریتمی، پرامپت‌های مبهم و پدیده توهم آماری ترکیب شود، تولید خطاهای فکتوال اجتناب‌ناپذیر می‌گردد. کالبدشکافی ریشه‌های فنی و مفهومی پاسخ‌های نادرست هوش مصنوعی، نخستین پیش‌نیاز برای اعتبارسنجی سیستماتیک خروجی‌ها، به‌کارگیری انتقادی ابزارهای مولد و ممانعت از اتکای نابجا به تصمیمات خودکار در مسائل حساس به شمار می‌رود.

۱. ماهیت معماری مدل‌های زبانی: پیش‌بینی آماری به جای ادراک واقعی

مدل‌های زبانی هوش مصنوعی بر خلاف ظاهر منطقی خود، سازوکاری کاملاً احتمالاتی دارند و حقیقت را محاسبه نمی‌کنند.

تطابق آماری توکن‌ها در برابر فقدان عقل سلیم (Common Sense)

مدل‌های ترنسفورمر به جای درک فیزیک، جامعه یا روابط علّی جهان، زنجیره کلمات را بر اساس احتمال هم‌آیی توکن‌ها (Next-token prediction) می‌سازند. مدل عبارتی را انتخاب می‌کند که از لحاظ ساختار ریاضی محتمل‌ترین ادامه جمله باشد، حتی اگر آن عبارت از منظر واقعیت جهان مادی کاملاً بی‌اساس و غیرممکن باشد.

پدیده توهم آماری (Hallucination) و ساخت فکت‌های خیالی

وقتی مدل برای پاسخ به پرسشی داده قطعی در پارامترهای خود ندارد یا فضای معنایی پرامپت با ابهام مواجه است، الگوریتم به جای اعلام ناتوانی، حفره‌های اطلاعاتی را با پیوند دادن کلمات شبیه به واقعیت پر می‌کند؛ پدیده‌ای که به خلق منابع جعلی، تاریخ‌های ساختگی و قوانین علمی ناموجود با لحنی فوق‌العاده قانع‌کننده می‌انجامد.

۲. چالش‌های داده‌های آموزشی: آلودگی، تناقض و انقضای داده‌ها

خروجی هوش مصنوعی دقیقاً به کیفیت، تنوع و عمق داده‌هایی وابسته است که در فرآیند آموزش بلعیده است.

آلودگی اطلاعات وب و بازتولید سوگیری‌ها (Garbage In, Garbage Out)

مجموعه داده‌های آموزش مدل‌ها بخش اعظمی از وب جهان‌گستر را در بر می‌گیرد؛ جایی که مملو از شایعات، خطاهای نگارشی، اخبار زرد و تعصبات نژادی و فرهنگی است. هوش مصنوعی بدون داشتن فیلتر حقیقت، خطاهای موجود در محتوای عمومی وب را یاد گرفته و در خروجی‌های خود تکرار می‌کند.

شکاف زمانی داده‌ها (Knowledge Cutoff) و وقایع جاری

هر مدل تا یک مقطع زمانی مشخص آموزش دیده است. اگر مدلی بدون اتصال زنده به موتورهای جستجو درباره رخدادهای پس از تاریخ آموزش خود مورد پرسش قرار گیرد، یا ناچار به تعمیم‌های گمراه‌کننده بر اساس اطلاعات قدیمی می‌شود یا داده‌های تاریخی گذشته را به وقایع حال نسبت می‌دهد.

۳. ابهام در ورودی کاربر: کاستی‌های ساختار پرامپت

بخش عمده‌ای از اشتباهات هوش مصنوعی، نتیجه ناخواسته کیفیت فرمول‌بندی درخواست از سوی کاربر است.

خطای ناشی از کمبود بافتار و پرامپت‌های تفسیرپذیر

هنگامی که پرسش با اطلاعات کافی، پیش‌فرض‌های فنی و قیود مشخص تغذیه نمی‌شود، مدل وادار به حدس زدن نیت کاربر می‌گردد. در این شرایط، هوش مصنوعی مسیر کلی‌ترین احتمال را طی می‌کند که در بسیاری از مواقع با منظور اصلی پروژه یا پاسخ تخصصی زاویه دارد.

تأثیر سوگیری تایید در مهندسی ناخودآگاه پرسش

اگر کاربر در لحن پرامپت خود پیش‌داوری خاصی بگنجاند (مانند: «چرا فلان تئوری درست است؟»)، مدل تمایل دارد در امتداد جهت کاربر پاسخ دهد و خطای موجود در پیش‌فرض پرسش را تایید کند؛ رفتاری که در علوم اعصاب هوش مصنوعی به عنوان پاسخ‌پذیری هم‌جهت با سوگیری کاربر شناخته می‌شود.

۴. تله منطق و استدلال ریاضی: محدودیت‌های پردازش سمبولیک

تفاوت بنیادینی میان مهارت پردازش متن و توانایی انجام محاسبات دقیق الگوریتمی و ریاضی وجود دارد.

ضعف بنیادین شبکه‌های عصبی در محاسبات چندمرحله‌ای

مدل‌های زبانی برای شعر گفتن، ترجمه و بسط محتوا عالی عمل می‌کنند، اما ماشین حساب‌های دقیقی نیستند. پردازش فرمول‌های پیچیده ریاضی و معماهای چندمرحله‌ای به پردازش سمبولیک دقیق نیازمند است، در حالی که مدل بدون استفاده از ابزارهای کدنویسی خارجی (Code Interpreter) عملیات را بر اساس شباهت‌های متنی تخمین می‌زند.

نقص در استنتاج علیت (Correlation vs. Causation)

هوش مصنوعی در پیدا کردن همبستگی میان حجم عظیمی از داده‌ها بی‌نظیر است، اما توانایی تشخیص ذاتی علت از معلول را ندارد. این نقص بنیادین باعث می‌شود در تحلیل‌های پیچیده اقتصادی، پزشکی یا روان‌شناختی، عوامل هم‌زمان را به غلط به عنوان رابطه علت و معلولی قطعی به کاربر ارائه دهد.

۵. پروتکل‌های اعتبارسنجی و مهار خطاهای هوش مصنوعی

برای بهره‌گیری ایمن و حرفه‌ای از سیستم‌های هوش مصنوعی، پیاده‌سازی فیلترهای کنترلی انسانی یک الزام حتمی است.

تکنیک مهندسی پرسش با الزام به ارائه استدلال زنجیره‌ای (Chain-of-Thought)

مجبور کردن هوش مصنوعی به تفکر گام‌به‌گام و توضیح مراحل منطقی قبل از ارائه پاسخ نهایی، احتمال رخداد جهش‌های اشتباه فکری و محاسباتی را به طور چشمگیری کاهش می‌دهد و یافتن محل دقیق لغزش را برای کاربر آسان می‌سازد.

وارسی متقاطع انسانی و ابزارهای جستجوی افزوده (RAG)

هیچ پاسخی از هوش مصنوعی در زمینه‌های قانونی، درمانی، مالی و داده‌های آماری نباید بدون فکت‌چک از منابع معتبر اولیه تایید شود. بهره‌گیری از سامانه‌های RAG (بازیابی داده معتبر از فایل و ارجاع مستقیم به اسناد واقعی) مؤثرترین سد دفاعی در برابر توهمات الگوریتمی به شمار می‌آید.

چگونه خودمان را بهتر بشناسیم؟