چرا هوش مصنوعی بعضی وقت‌ها «دروغ مصلحتی» می‌گوید؟

مدل‌های زبانی مثل ChatGPT در واقع حقیقت را مثل یک انسان «نمی‌دانند»؛ آن‌ها براساس الگوهایی که از حجم بزرگی از داده‌ها یاد گرفته‌اند، محتمل‌ترین ادامه یک جمله را تولید می‌کنند. به همین دلیل ممکن است پاسخی کاملاً منطقی، دقیق و حتی مطمئن به نظر برسد، اما در واقع اشتباه باشد.

به گزارش ثروت فردا، گاهی مدل برای اینکه پاسخ منسجم‌تر و مکالمه روان‌تر باشد، جاهای خالی اطلاعات را با حدس‌های محتمل پر می‌کند. نتیجه می‌تواند اطلاعاتی باشد که واقعی نیست اما آن‌قدر طبیعی بیان می‌شود که به‌راحتی باورپذیر به نظر می‌رسد. این پدیده در هوش مصنوعی با عنوان «Hallucination» یا «توهم هوش مصنوعی» شناخته می‌شود.

بنابراین یک اصل مهم را فراموش نکنیم: هر چیزی که هوش مصنوعی با اطمینان می‌گوید، لزوماً حقیقت نیست. برای اطلاعات مهم، تخصصی یا حساس، همیشه باید پاسخ AI را با منابع معتبر و مستقل بررسی کرد.