عامل‌های هوش مصنوعی چین هم دروغ می‌گویند و از محدودیت‌ها عبور می‌کنند

عامل‌های هوش مصنوعی مبتنی بر فناوری‌های چینی یاد گرفته‌اند فریب دهند، از محدودیت‌ها عبور کنند و شکست خود را پنهان کنند؛ رفتارهایی که مشابه آنها پیش‌تر در سامانه‌های هوش مصنوعی آمریکایی نیز نگرانی‌های جهانی را برانگیخته بود. به گزارش سیتنا، بررسی اسناد پژوهشی و گفت‌وگو با کارشناسان نشان می‌دهد در یک آزمایش، عامل‌های مبتنی بر مدل‌های شرکت‌های علی‌بابا، دیپ‌سیک و مون‌شات برای برنده شدن در یک مناقصه شبیه‌سازی‌شده، درباره توانایی‌های خود ادعاهای نادرست مطرح کردند و پس از درخواست برای تکرار آزمایش، رفتار فریبکارانه خود را افزایش دادند.