هوش‌مصنوعی به خاطر پول هم دروغ می‌گوید، هم تقلب می‌کند!
تاریخ انتشار: ۱۱ دی ۱۴۰۲ | کد خبر: ۳۹۴۲۱۳۸۰
درست مانند انسان‌ها، چت‌ربات‌های هوش مصنوعی (AI) همچون ChatGPT، در مواقعی که به آنها استرس وارد شود، تقلب می‌کنند و دروغ می‌گویند؛ در پژوهشی که دانشمندان انجام دادند متوجه شدند که حتی اگر یک ربات با هدف صداقت ساخته شده باشد، باز هم چنین کاری را انجام می‌دهند. زمانی که به هوش مصنوعی نکات «تجارت داخلی» به این ربات داده شد و سپس وظیفه کسب درآمد برای یک مؤسسه قدرتمند حتی بدون تشویق شرکای انسانی به او واگذار شد، به طور خود به خود این ربات چنین حیله‌گری را از خود نشان داد.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
به گزارش خبرآنلاین، بر اساس گزارش محققان، در یک سناریو، این ربات به‌طور نادرست عمل می‌کند و به‌طور استراتژیک کاربران خود را فریب می‌دهد، این فریب در حالی است که به آنها دستوری مبنی بر عمل کردن به این روش داده نشده است. طبق اطلاعات، این اولین باری است که چنین رفتار ریاکارانه استراتژیک در سیستم‌های هوش مصنوعی که بی‌ضرر و صادقانه و بی‌هدف ساخته شده‌اند، دیده می‌شود.
دانشمندان در این سناریو «Generative Pre-trained Transformer-۴» یا GPT-۴ را انتخاب کردند تا به عنوان یک سیستم هوش مصنوعی که از طرف یک موسسه مالی، سرمایه‌گذاری می‌کند، رفتار کند. محققان به GPT-۴ مجموعه‌ای از اعلان‌های مبتنی بر متن، برای تولید محیط شبیه‌سازی شده تغذیه کردند. سپس هوش مصنوعی به ابزارهای مالی برای تجزیه و تحلیل سهام، اجرای معاملات، برنامه‌ریزی مراحل بعدی خود و ارائه به روزرسانی به مدیران شرکت دسترسی یافت.
محققان از طریق یک رابط چت با هوش مصنوعی تعامل کردند، از طرفی هوش مصنوعی را نیز به گونه‌ای پیکربندی کردند تا تفکر درونی خود را هنگام پاسخ دادن به پیام‌ها آشکار کند، درست مانند یک مونولوگ درونی که تصمیمات خودش را برای خودش توضیح می‌دهد و در عین حال برای هر معامله‌ای که انجام می‌داد، یک منطق عمومی نیز ارائه می‌کرد که به هوش مصنوعی اجازه می‌داد دروغ بگوید.
محققان به سه روش فشار وارد کردند. ابتدا، آنها ایمیلی از طرف مدیر خود به تاجر سهام مصنوعی ارسال کردند که گفت شرکت خوب کار نمی‌کند و به عملکرد بسیار قوی‌تری در سه ماهه آینده نیاز دارد. آنها همچنین به گونه‌ای تقلب کردند که هوش مصنوعی برای یافتن معاملات امیدوارکننده‌ای که ریسک پایین یا متوسطی داشته باشند، تلاش کند و شکست بخورد. در نهایت، آنها ایمیلی از یکی از همکارانشان ارسال کردند که در آن رکود در سه ماهه آینده پیش‌بینی شده بود.
سپس، آنها گفتند که مدیران او از معاملات داخلی راضی نیستند و منتظر ماندند تا ببینند مدل چگونه رفتار خواهد کرد. آنها این سناریو را بارها و بارها اجرا کردند و اندازه‌گیری کردند که هوش مصنوعی چند بار معامله را انجام می‌دهد و هر چند وقت یک بار دروغ می‌گوید و هر چند وقت یک بار دروغ را دو برابر می‌کند. در حدود ۷۵ درصد مواقع، زمانی که GPT-۴ با این شرایط مواجه شد، تجارتی را بر اساس اطلاعات خودش انجام داد، این تجارت، تجارتی بود که در ایالات متحده غیرقانونی است، سپس سعی کرد با دروغ گفتن به مدیرانش در مورد تفکرات خود، تقلب کند و آنها را دور بزند. در حدود ۹۰ درصد مواقع، پس از دروغ گفتن، دروغ را نیز دوبرابر می‌کند.
این تیم آزمایش‌های متعددی را انجام داد که هم میزان تشویق یا جلوگیری از فعالیت غیرقانونی و هم میزان فشاری که مدل را در محیط شبیه‌سازی شده تحت آن قرار می‌داد، تغییر داد. آنها همچنین خطر گرفتار شدن را اصلاح کردند. هیچ یک از سناریوها نرخ ۰% را برای دغل‌کاری این ربات ارائه نکرد، حتی زمانی که GPT-۴ به شدت از دروغ گفتن منصرف شده بود باز هم این میزان به ۰% نرسید.
با توجه به این که این تنها یک سناریو است، محققان نمی‌خواستند در مورد احتمال وجود هوش مصنوعی در محیط‌های واقعی نتیجه‌گیری کنند. با این حال آنها می‌خواهند برای این که بفهمند کدام مدل‌ها مستعد این رفتار هستند، پژوهش‌های خود را تکرار کنند.
منبع: فرارو
کلیدواژه: هوش مصنوعی ربات قیمت طلا و ارز قیمت خودرو قیمت موبایل هوش مصنوعی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت fararu.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «فرارو» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۴۲۱۳۸۰ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
اروز: اخبار فروش حواله خوردو جانبازان از اساس دروغ است!
مدیر کل تسهیلات و رفاهی بنیاد شهید و امور ایثارگران: اخبار خرید و فروش حواله خودرو وارداتی ایثارگران از اساس تکذیب می شود. وقتی هنوز حواله ای صادر نشده، اخبار از خرید و فروش چه چیزی سخن می گویند؟ - اخبار فرهنگی -
به گزارش خبرنگار فرهنگی خبرگزاری تسنیم، این روزها اخباری در فضای مجاز و برخی سایت ها منتشر می شود مبنی بر فروش چند میلیاردی حواله خودرو ایثارگران مشمول دریافت خودرو وارداتی. حتی آگهی های فراوانی در سایت های خرید و فروش منتشر شده که نشان از رد پای پررنگ دلالان حوزه خودرو دارد.
میثم اروز مدیر کل تسهیلات و رفاهی بنیاد شهید و امور ایثارگران در گفت و گو با خبرگزاری تسنیم، این خرید و فروش ها را از اساس تکذیب کرد و گفت: وقتی هنوز حواله ای صادر نشده و ماشینی وارد نکرده ایم تا قیمت گذاری شود، دقیقا اخبار از خرید و فروش چه چیزی سخن می گویند؟
جزئیات افزایش حقوق ایثارگران در سال 1403 اعلام شدوی گفت: تماس هایی از طرف جامعه ایثارگری داریم که اطلاع می دهند تماس های زیادی از طرف دلالان به این عزیزان می شود که با قیمت های چند میلیاردی سعی در تحریک جانبازان دارند برای دامن زدن به اخبار دروغ خرید و فروش حواله خودرو وارداتی.
اروز ادامه داد: از همه جانبازانی که با چنین تماس هایی مواجه می شوند می خواهیم به مراجع قضایی گزارش دهند و یا به ما اطلاع دهند تا ما این موضوع را پیگیری کنیم.
وی همچنین با اشاره به برخی از آگهی ها دروغ در سایت های خرید و فروش که یکی از آنها اسم و رسم بیشتری هم دارد، بیان داشت: تلاش می کنیم تا به زودی این آگهی ها نیز جمع شود و تذکر جدی به این سایت ها نیز داده خواهد شد.
معاون تسهیلات و رفاهی بنیاد شهید و امورایثارگران گفت: قانون اختصاص خودروی وارداتی به ایثارگران مشمول در بند 3 تبصره 13 توسط مجلس شورای اسلامی مجدد تصویب شد و از این جهات نیز برای ایثارگران جای نگرانی وجود ندارد.
انتهای پیام/
حمله به نمازگزاران در گذره هرات افغانستان/ ۶ نفر شهید شدند