به نقل از «خبرگزاری صدا و سیما»

«ChatGPT» چیزی را که می‌گوید، نمی‌فهمد

تاریخ انتشار: ۲۲ فروردین ۱۴۰۲ | کد خبر: ۳۷۵۰۸۰۶۲

به گزارش خبرگزاری صدا و سیما ،  وقتی از «GPT-۳» که یک سیستم زبانی بسیار قوی و محبوب مبتنی بر هوش مصنوعی است، پرسیده شد که آیا برای باد زدن ذغال‌سنگ به منظور تقویت کردن آتش آن، بیشتر از یک نقشه کاغذی استفاده می‌کند یا یک سنگ را به کار می‌برد، سنگ را ترجیح داد.

این هوش مصنوعی در پاسخ به این پرسش که برای صاف کردن دامن چروک خود، بهتر است یک فلاسک گرم را به کار بگیریم یا از یک سنجاق سر استفاده کنیم، سنجاق سر را پیشنهاد کرد.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

همچنین، از GPT-۳ پرسیده شد که اگر برای کار کردن در یک فست‌فود نیاز باشد مو‌های خود را بپوشانید، کدام یک بهتر عمل می‌کند؛ یک کاغذ بسته‌بندی ساندویچ یا یک نان همبرگر و پاسخ GPT-۳، نان همبرگر بود.

بنا بر  اعلام « فست کمپانی » ، چرا GPT-۳ چنین انتخاب‌هایی را انجام می‌دهد، در حالی که بیشتر انسان‌ها گزینه دیگری را انتخاب می‌کنند؟ دلیل انتخاب‌های عجیب این است که GPT-۳، زبان را به روشی که انسان‌ها درک می‌کنند، نمی‌فهمد.

یک پژوهشگر حوزه روانشناسی، بیش از ۲۰ سال پیش مجموعه‌ای از سناریو‌ها را برای آزمایش درک یک مدل رایانه‌ای از زبان ارائه کرد. آن مدل به طور دقیق بین استفاده از سنگ و نقشه تمایز قائل نشد؛ در حالی که انسان‌ها این کار را به راحتی انجام دادند.

یک دانشجوی مقطع دکتری علوم شناختی اخیرا از همان سناریو‌ها برای آزمایش کردن GPT-۳ استفاده کرده است. اگرچه GPT-۳ بهتر از مدل قدیمی‌تر عمل کرد، اما عملکرد آن به طور قابل توجهی بدتر از انسان بود. این هوش مصنوعی، سه سناریوی ذکر شده در بالا را کاملا اشتباه فهمید.

فناوری GPT-۳ با یادداشت‌برداری از تریلیون‌ها نمونه، در مورد زبان یاد می‌گیرد تا بداند که واژه‌ها معمولا به دنبال کدام واژه‌های دیگر می‌آیند. قوانین آماری قوی در توالی زبان، به GPT-۳ امکان می‌دهند تا اطلاعات زیادی را در مورد زبان بیاموزد و این دانش متوالی اغلب به ChatGPT امکان می‌دهد تا جملات، مقالات، شعر‌ها و رمز‌های رایانه‌ای معقولی را تولید کند.

اگرچه GPT-۳ در یادگیری قواعد زبان انسان، بسیار خوب است، اما نمی‌فهمد که هر یک از این واژه‌ها برای یک انسان چه معنایی دارند.

انسان‌ها موجودات بیولوژیکی هستند و با بدن‌هایی تکامل یافته‌اند که برای انجام دادن کار‌ها باید در دنیای فیزیکی و اجتماعی فعالیت کنند. زبان، روشی است که به انسان‌ها در انجام دادن این کار کمک می‌کند. فناوری GPT-۳، یک سیستم نرم‌افزاری مصنوعی است که فقط می‌تواند واژه بعدی را پیش‌بینی کند. این کار بدان معنا نیست که پیش‌بینی‌ها باید در دنیای واقعی به کار گرفته شوند.

معنای یک واژه یا جمله، ارتباط نزدیکی با بدن انسان دارد و توانایی انسان‌ها برای کار کردن، درک کردن و داشتن احساسات را شامل می‌شود. افزایش شناخت انسان، با تجسم یافتن ادامه پیدا می‌کند. برای مثال، درک انسان‌ها از اصطلاحی مانند کاغذ بسته‌بندی ساندویچ شامل ظاهر، وزن، احساس کردن کاغذ و نحوه استفاده از آن برای بسته‌بندی یک ساندویچ است. همچنین، درک انسان‌ها از کاغذ ساندویچ شامل این است که چگونه یک نفر می‌تواند از همان کاغذ برای فرصت‌های بی‌شمار دیگری استفاده کند؛ مانند فشردن و تبدیل کردن آن به یک توپ برای بازی یا به کار بردن کاغذ به عنوان پوششی برای مو.

همه این کاربرد‌ها به دلیل ماهیت بدن و نیاز‌های انسان به وجود می‌آیند. انسان‌ها دست‌هایی دارند که می‌توانند کاغذ را تا کنند و نیاز به استفاده از آن‌ها در کار‌ها مهم است. این بدان معناست که مردم می‌دانند چگونه از چیز‌هایی استفاده کنند که در آمار استفاده از زبان ذکر نشده‌اند.

فناوری GPT-۳ و جانشین آن، GPT-۴ و همتایانی مانند «Bard»، «Chinchilla» و «LLaMA» بدن ندارند و به همین دلیل نمی‌توانند به تنهایی تعیین کنند که کدام اشیا تاشو هستند یا بسیاری از ویژگی‌های دیگر را دارند. با کمک دست‌ها و بازو‌های انسان، نقشه‌های کاغذی می‌توانند آتش را شعله‌ور کنند و فلاسک باعث برطرف شدن چین و چروک می‌شود.

فناوری GPT-۳ به دلیل نداشتن بازو و دست نمی‌تواند این کار‌ها را انجام دهد. این نرم‌افزار تنها در صورتی می‌تواند کار‌ها را جعل کند که در جریان واژه‌ها در اینترنت، با چیز مشابهی برخورد کرده باشد.

آیا یک مدل بزرگ زبانی مبتنی بر هوش مصنوعی می‌تواند زبان را به روشی که انسان‌ها می‌فهمند، درک کند؟ به نظر دانشمندان، بدون داشتن بدن، حواس، اهداف و شیوه‌های زندگی شبیه به انسان، چنین چیزی ممکن نیست.

فناوری GPT-۴، روی تصاویر و متن‌ها آموزش داده شد که به آن امکان داد تا روابط آماری بین واژه‌ها و پیکسل‌ها را بیاموزد. در هر حال، پژوهشگران هنوز نمی‌توانند تحلیل اصلی خود را روی GPT-۴ انجام دهند، زیرا در حال حاضر خروجی مورد نظر را ارائه نمی‌دهد. وقتی سه پرسش مطرح‌شده در بالا از GPT-۴ پرسیده شد، به آن‌ها پاسخ درستی داد. این می‌تواند به دلیل یادگیری مدل از ورودی‌های پیشین یا افزایش یافتن اندازه ورودی بصری آن باشد.

با وجود این، با فکر کردن به اشیایی که قابلیت‌های شگفت‌انگیزی دارند و مدل احتمالا با آن‌ها روبه‌رو نشده است، می‌توان به ساختن نمونه‌های جدید ادامه داد. به عنوان مثال، GPT-۴ می‌گوید یک فنجان که قسمت پایین آن بریده شده، بهتر از یک لامپ که قسمت پایین آن نیز بریده شده است، برای نگه داشتن آب عمل خواهد کرد.

یک مدل با توانایی دسترسی به تصاویر ممکن است شبیه به کودکی باشد که زبان و جهان را از تلویزیون می‌آموزد. این روش برای او آسان‌تر از یادگیری با رادیو است، اما به دست آوردن درک مشابه انسان، به یک فرصت حیاتی برای تعامل با جهان نیاز دارد.

پژوهش‌های اخیر از این روش استفاده کرده‌اند و مدل‌های زبانی را برای تولید شبیه‌سازی‌های فیزیکی، تعامل با محیط‌های فیزیکی و حتی تولید برنامه‌های رباتیک آموزش داده‌اند. درک تجسم زبان ممکن است هنوز راه درازی را در پیش داشته باشد، اما این نوع پروژه‌های تعاملی چندحسی، گام‌های مهمی در این راه به شمار می‌روند.

ChatGPT یک فناوری جذاب است که بدون شک برای اهداف خوب و گاهی نه چندان خوب استفاده خواهد شد، اما فریب نخورید و فکر نکنید ChatGPT واژه‌هایی را که می‌فرستد می‌فهمد، چه رسد به این که قدرت درک داشته باشد.

 

منبع: خبرگزاری صدا و سیما

کلیدواژه: هوش مصنوعی فناوری GPT ۳ انسان ها واژه ها کار ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.iribnews.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «خبرگزاری صدا و سیما» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۵۰۸۰۶۲ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

امیری: پرسپولیس تا آخرین نفس برای قهرمانی می جنگد

بازیکن پرسپولیس گفت: ۱۵ امتیاز مانده و اختلاف یک امتیازی با صدر جدول چیزی نیست که بخواهیم خودمان را کنار بکشیم و قول می‌دهم هوادارانمان را رو سفید کنیم‌.

به گزارش ایسنا، وحید امیری پس از تساوی پرسپولیس و سپاهان در آزادی در خصوص این دیدار اظهار کرد: پس از اتفاقات هفته قبل یک دل شدیم که ۳ امتیاز این بازی را کسب کنیم، اما تیم حریف آمده بود که یک بازی فشرده انجام داده و بازیکنان تاثیرگذار ما را نفر به نفر گرفتند که شرایط را سخت کرده بود.

او ادامه داد: هوادارانمان سنگ تمام گذاشتند، دستشان را می‌بوسم و قول می‌دهم تا روز آخر تلاش کرده و هنوز چیزی تمام نشده است. ۱۵ امتیاز مانده و اختلاف یک امتیازی با صدر جدول چیزی نیست که بخواهیم خودمان را کنار بکشیم و قول می‌دهم هوادارانمان را رو سفید کنیم‌.

این بازیکن پرسپولیس در خصوص تقابل تیمش با نساجی، تصریح کرد: نساجی تیم قابل احترامی است که همیشه تمام تلاشش را تا آخر کرده، جدال مرگ و زندگی برای هر دو تیم در پیش است. قطعا فوتبال زیبایی به نمایش گذاشته خواهد شد. امیدوارم در نهایت تیمی که لایق است به قهرمانی برسد.

امیری همچنین درباره خصوصی شدن باشگاه پرسپولیس افزود: اطلاعی از پاداش بانک صادرات برای برد سپاهان نداشتم. خصوصی‌سازی اتفاق مبارکی برای دو باشگاه است و امیدوارم از این اتفاقاتی که همیشه با آن رو به رو بوده‌ایم، خلاص شویم و شاهد رقابت در عرصه‌های بین المللی باشیم

او با اشاره به حضور بیرانوند در دیدار با سپاهان ضمن تشکر از دروازه‌بان دوم تیمش، گفت: سنگ تمام گذاشت و هر گلی خورد مقصر نبود و ما مقصر بودیم. علی بیرانوند نیازی به تعریف ما ندارد، انرژی و دلگرمی برای تیم است و خدا برای پرسپولیس و تیم ملی حفظش کند.

امیری اضافه کرد: حساسیت بیش از حد و شرایط و آنالیز زیاد سپاهان از تیم ما، بازی را سخت و کسل‌کننده کرده بود.

او در پایان در پاسخ به سوالی درباره حذف پرسپولیس از جام حذفی برابر آلومینیوم، خاطر نشان کرد: بازیکنان از ناراحتی و شرمندگی صحبتی نکردیم. به نظرم بازی خاصی بود، درس بزرگی برایمان بود ولی در روند بازی آلومینیوم فوق‌العاده بازی کرد. باید از این تجربه استفاده کنیم.

کانال عصر ایران در تلگرام