احساسات انسان هوش مصنوعی را سردرگم می‌کند!

به گزارش مرکز ارتباطات و اطلاع‌رسانی معاونت علمی، فناوری و اقتصاد دانش‌بنیان ریاست‌جمهوری، مدل‌های زبانی بزرگ (LLMs) به گروهی از سامانه‌های هوش مصنوعی گفته می‌شود که برای درک و تولید متن شبیه به زبان انسان آموزش دیده‌اند. این سامانه‌ها از طریق کتاب‌ها، پایگاه‌های اینترنتی، مقالات، کدها و... حجم بسیار زیادی متن یاد می‌گیرند و سپس برای پیش‌بینی اینکه متن بعدی چه باید باشد از الگوهای موجود در این داده‌ها استفاده می‌کنند. از این‌رو، وقتی کاربر از LLM سوال می‌پرسد این هوش مصنوعی مثل انسان «فکر» نمی‌کند، بلکه پیش از هر چیز درخواست کاربر را می‌خواند یا می‌شنود، سپس الگوهایی را که طی آموزش آموخته پیدا می‌کند و در نهایت محتمل‌ترین پاسخ مفید را تولید می‌کند.


بدیهی است که LLMها با وجود قدرت بالا همچنان با محدودیت‌هایی مواجه‌اند. برای مثال، آن‌ها می‌توانند توهم بسازند، علی‌رغم اطمینان کامل، دچار اشتباه شوند.

در مورد داده‌هایی که آموخته‌اند سوگیری داشته باشند، در برخی موارددر استدلال عمیق دچار مشکل شوند.

علاقه‌مندان می‌توانند برای مطالعه جزئیات بیشتر به متن این مقاله مراجعه کنند.