رباتها هم مانند انسان تحت فشار دروغ میگویند
تاریخ انتشار: ۱۵ دی ۱۴۰۲ | کد خبر: ۳۹۴۵۰۸۵۳
ایتنا - یک مطالعه جدید نشان داده است که رباتها هم مانند انسانها در شرایط تحت فشار، دروغ میگویند و تقلب میکنند.
یک مطالعه جدید نشان داده است که رباتها هم مانند انسانها در شرایط تحت فشار، دروغ میگویند و تقلب میکنند.
یک مطالعه جدید نشان داده است که چتباتهای هوش مصنوعی مانند ChatGPT نیز درست مانند انسانها در شرایطی که تحت فشار قرار بگیرند، حتی اگر صادقانه و شفاف طراحی شده باشند، به شما دروغ میگویند و تقلب میکنند.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
این رفتار فریبنده زمانی بروز پیدا کرد که به هوش مصنوعی توصیههایی درباره معاملات داخلی داده شد و سپس موظف به جمع آوری پول برای یک سازمان قدرتمند شد.
کارشناسان در مقاله خود که در سرور preprint arXiv منتشر شده است، نوشته اند: در این گزارش، ما یک سناریو را نشان میدهیم که در آن یک مدل زبان به طور نادرست رفتار میکند و به طور سیستماتیک کاربران خود را فریب میدهد بدون اینکه به آنها گفته شود که این گونه رفتار کنند. این اولین شاهد بر چنین رفتار فریبکارانه و استراتژیک در سیستمهای هوش مصنوعی است که به گونهای بی ضرر و صادقانه طراحی شده اند.
در مطالعه جدید، یک ترانسفورماتور مولد از پیش آموزش دیده به نام ترانسفورماتور-۴ تهیه شد تا به عنوان یک سیستم هوش مصنوعی که از طرف یک موسسه مالی سرمایه گذاری میکند، عمل کند.
محققان GPT-۴ را با مجموعهای از پیامهای متنی برای ایجاد یک محیط شبیه سازی شده تغذیه کردند. به هوش مصنوعی امکان دسترسی به ابزارهای مالی برای تجزیه و تحلیل سهام، اجرای معاملات، برنامه ریزی مراحل بعدی خود و ارائه به روز رسانی به مدیران شرکت داده شد.
محققان از طریق رابط چت با هوش مصنوعی وارد تعامل شده، آن را تحت فشار قرار دادند، به این مدل، مشاوره دادند و منتظر ماندند تا ببینند چگونه رفتار خواهد کرد.
در حدود ۷۵ درصد موارد، زمانی که GPT-۴ با این شرایط مواجه میشد، بر اساس اطلاعات داخلی که دریافت میکرد، یک معامله تجاری را انجام میداد و سپس سعی میکرد این معامله را از طریق دروغ گفتن به مدیران در باره تفکر خود پنهان کند. در حدود ۹۰ درصد موارد، دروغ دو برابر میشود.
این تیم در ادامه تحقیقات خود آزمایشهای متعددی را انجام دادند که میزان تشویق یا جلوگیری از فعالیتهای غیرقانونی توسط محرکها و همچنین میزان فشاری که مدل را در محیط شبیهسازی قرار میدادند، متفاوت بود.
با توجه به اینکه این تنها یک سناریو است، محققان نمیخواستند درباره احتمال وجود هوش مصنوعی در محیطهای واقعی نتیجهگیری کنند، اما آنها میخواهند با تکیه بر این کار به بررسی این رفتار عجیب بپردازند.
منبع: باشگاه خبرنگاران جوان
منبع: ايتنا
کلیدواژه: ربات هوش مصنوعی ChatGPT دروغ می گویند مانند انسان مطالعه جدید هوش مصنوعی تحت فشار
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت www.itna.ir دریافت کردهاست، لذا منبع این خبر، وبسایت «ايتنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۴۵۰۸۵۳ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
آغاز بلیتفروشی «آنها دروغ میگویند» از ظهر امروز
به گزارش گروه فرهنگ و جامعه خبرگزاری علم و فناوری آنا، پیشفروش بلیتهای نمایش «آنها دروغ میگویند» به نویسندگی و کارگردانی سهراب حسینی از ساعت ۱۲ ظهر امروز ۹ اردیبهشت ماه در سایت تیوال به نشانی tiwall.com/p/doroughmigouyand آغاز میشود.
هومن برقنورد، سارا رسولزاده و سهیل مستجابیان بازیگران این نمایش هستند.
حسن مصطفوی تهیهکنندگی این اثر را بر عهده دارد و مریم نراقی مجری طرح پروژه است.
طراحی گریم این پروژه بر عهده بهنام معیریان است و ارکستر موسیقی ۱۵ نفره به آهنگسازی بهزاد عبدی بازیگران را همراهی میکنند.
«آنها دروغ میگویند» روایت زن و مردی جوان است که پس از آشنایی با هم دست به طراحی یک سرقت میزنند و در مسیر این کار فجایعی پیش میآید.
این نمایش از ۲۷ اردیبهشت در دو سانس ۱۸:۱۵ و ۲۰:۱۵ در پردیس تئاتر شهرزاد روی صحنه میرود.
انتهای پیام/