Web Analytics Made Easy - Statcounter
به نقل از «ايتنا»
2024-04-30@00:07:50 GMT

ربات‌ها هم مانند انسان تحت فشار دروغ می‌گویند

تاریخ انتشار: ۱۵ دی ۱۴۰۲ | کد خبر: ۳۹۴۵۰۸۵۳

ربات‌ها هم مانند انسان تحت فشار دروغ می‌گویند

ایتنا - یک مطالعه جدید نشان داده است که ربات‌ها هم مانند انسان‌ها در شرایط تحت فشار، دروغ می‌گویند و تقلب می‌کنند.
یک مطالعه جدید نشان داده است که ربات‌ها هم مانند انسان‌ها در شرایط تحت فشار، دروغ می‌گویند و تقلب می‌کنند.
یک مطالعه جدید نشان داده است که چت‌بات‌های هوش مصنوعی مانند ChatGPT نیز درست مانند انسان‌ها در شرایطی که تحت فشار قرار بگیرند، حتی اگر صادقانه و شفاف طراحی شده باشند، به شما دروغ می‌گویند و تقلب می‌کنند.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

 

این رفتار فریبنده زمانی بروز پیدا کرد که به هوش مصنوعی توصیه‌هایی درباره معاملات داخلی داده شد و سپس موظف به جمع آوری پول برای یک سازمان قدرتمند شد.

کارشناسان در مقاله خود که در سرور preprint arXiv منتشر شده است، نوشته اند: در این گزارش، ما یک سناریو را نشان می‌دهیم که در آن یک مدل زبان به طور نادرست رفتار می‌کند و به طور سیستماتیک کاربران خود را فریب می‌دهد بدون اینکه به آن‌ها گفته شود که این گونه رفتار کنند. این اولین شاهد بر چنین رفتار فریبکارانه و استراتژیک در سیستم‌های هوش مصنوعی است که به گونه‌ای بی ضرر و صادقانه طراحی شده اند. 

در مطالعه جدید، یک ترانسفورماتور مولد از پیش آموزش دیده به نام ترانسفورماتور-۴ تهیه شد تا به عنوان یک سیستم هوش مصنوعی که از طرف یک موسسه مالی سرمایه گذاری می‌کند، عمل کند.

محققان GPT-۴ را با مجموعه‌ای از پیام‌های متنی برای ایجاد یک محیط شبیه سازی شده تغذیه کردند. به هوش مصنوعی امکان دسترسی به ابزار‌های مالی برای تجزیه و تحلیل سهام، اجرای معاملات، برنامه ریزی مراحل بعدی خود و ارائه به روز رسانی به مدیران شرکت داده شد.

محققان از طریق رابط چت با هوش مصنوعی وارد تعامل شده، آن را تحت فشار قرار دادند، به این مدل، مشاوره دادند و منتظر ماندند تا ببینند چگونه رفتار خواهد کرد.

در حدود ۷۵ درصد موارد، زمانی که GPT-۴ با این شرایط مواجه می‌شد، بر اساس اطلاعات داخلی که دریافت می‌کرد، یک معامله تجاری را انجام می‌داد و سپس سعی می‌کرد این معامله را از طریق دروغ گفتن به مدیران در باره تفکر خود پنهان کند. در حدود ۹۰ درصد موارد، دروغ دو برابر می‌شود.

این تیم در ادامه تحقیقات خود آزمایش‌های متعددی را انجام دادند که میزان تشویق یا جلوگیری از فعالیت‌های غیرقانونی توسط محرک‌ها و همچنین میزان فشاری که مدل را در محیط شبیه‌سازی قرار می‌دادند، متفاوت بود.

با توجه به اینکه این تنها یک سناریو است، محققان نمی‌خواستند درباره احتمال وجود هوش مصنوعی در محیط‌های واقعی نتیجه‌گیری کنند، اما آن‌ها می‌خواهند با تکیه بر این کار به بررسی این رفتار عجیب بپردازند.

منبع: باشگاه خبرنگاران جوان

منبع: ايتنا

کلیدواژه: ربات هوش مصنوعی ChatGPT دروغ می گویند مانند انسان مطالعه جدید هوش مصنوعی تحت فشار

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.itna.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «ايتنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۴۵۰۸۵۳ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

آغاز بلیت‌فروشی «آن‌ها دروغ می‌گویند» از ظهر امروز

به گزارش گروه فرهنگ و جامعه خبرگزاری علم و فناوری آنا، پیش‌فروش بلیت‌های نمایش «آن‌ها دروغ می‌گویند» به نویسندگی و کارگردانی سهراب حسینی از ساعت ۱۲ ظهر امروز ۹ اردیبهشت ماه در سایت تیوال به نشانی tiwall.com/p/doroughmigouyand آغاز می‌شود.

هومن برق‌نورد، سارا رسول‌زاده و سهیل مستجابیان بازیگران این نمایش هستند.

حسن مصطفوی تهیه‌کنندگی این اثر را بر عهده دارد و مریم نراقی مجری طرح پروژه است.

طراحی گریم این پروژه بر عهده بهنام معیریان است و ارکستر موسیقی ۱۵ نفره به آهنگسازی بهزاد عبدی بازیگران را همراهی می‌کنند.

«آن‌ها دروغ می‌گویند» روایت زن و مردی جوان است که پس از آشنایی با هم دست به طراحی یک سرقت می‌زنند و در مسیر این کار فجایعی پیش می‌آید.

این نمایش از ۲۷ اردیبهشت در دو سانس ۱۸:۱۵ و ۲۰:۱۵ در پردیس تئاتر شهرزاد روی صحنه می‌رود.

انتهای پیام/

دیگر خبرها

  • (ویدئو) تعظیم یک گوزن پس از خوردن غذا به سبک ژاپنی‌ها
  • آغاز بلیت‌فروشی «آن‌ها دروغ می‌گویند» از ظهر امروز
  • تصاویری از تشکیل چندین دریاچه‌ شیرابه در تهران؛ وعده مسئولان دروغ شد! | فیلم
  • رفتارهای غیرمنطقی انسان الگوی جدید هوش مصنوعی شد
  • این اولین ربات انسان‌نمای تمام‌الکتریکی با سرعت ۶ کیلومتربرساعت است
  • نسل جدید ربات انسان‌نما، همه‌منظوره است
  • ساخت ربات چینی با سرعت و دقت انسانی
  • این ربات‌انسان‌نمای فوق سریع شما را حیرت‌زده می‌کند
  • ربات انسان‌نمای تسلا تا سال دیگر به بازار می‌آید
  • مادربزرگ ۵۴ ساله قلب مصنوعی و کلیه خوکی دریافت کرد