گروهی از محققان به رهبری پیتر پارک دریافتند که این سیستم‌های هوش مصنوعی می‌توانند کارهایی مانند فریب دادن بازیکنان بازی آنلاین یا دور زدن فرآیندهای CAPTCHA را انجام دهند. پارک هشدار داد که این نمونه های تجربی می توانند عواقب جدی در دنیای واقعی داشته باشند. تحقیقات فوق الذکر سیسرو (سیستم هوش مصنوعی متا) را برجسته می کند که در ابتدا به عنوان یک رقیب شجاع در بازی دیپلماسی مجازی تصور می شد. اگرچه این سیستم هوش مصنوعی به گونه ای برنامه ریزی شده است که صادقانه و کارآمد باشد، سیسرو یک کلاهبردار حرفه ای است.
به گزارش مهر، سیسرو در جریان بازی نقش فرانسه را بازی می کرد که به طور مخفیانه با بازیکن آلمانی تحت کنترل انسان همکاری می کرد و به بازیکن دیگر انسان یعنی انگلیس خیانت می کرد. در این بازی سیسرو قول حمایت از انگلستان را داد و در عین حال اطلاعاتی به آلمان برای حمله به آن کشور داد. مثال دیگری از GPT4 استفاده می کند که در آن سیستم ادعا می کند کور است و در عوض از یک انسان برای دور زدن فرآیند CATCHA استفاده می کند.
پارک تاکید می کند که چالش آموزش یک سیستم هوش مصنوعی صادقانه بسیار جدی است. سیستم های یادگیری عمیق با هوش مصنوعی، بر خلاف نرم افزارهای سنتی، از طریق یک فرآیند انتخابی انجام می شوند. رفتار آنها در طول فرآیند آزمایشی قابل پیش بینی است، اما ممکن است بعدا قابل کنترل نباشد. با این حال، این مطالعه از محققان خواست تا سیستم‌های هوش مصنوعی تقلبی را به عنوان ابزارهای پرخطر طبقه‌بندی کنند.
