گروهی از کارمندان فعلی و سابق شرکت‌های پیشرو هوش مصنوعی مانند OpenAI، Google DeepMind و Anthropic نامهای سرگشاده امضا کرده‌اند که خواستار شفافیت بیشتر و محافظت در برابر تلافی برای کسانی هستند که نگرانی‌های احتمالی را مطرح می‌کنند.
به گزارش سرگرمی روز، در این نامه که به تازگی منتشر شده، آمده است: در حالی که نظارت موثر دولت بر این شرکت ها وجود ندارد، کارکنان فعلی و سابق از معدود افرادی هستند که می توانند آنها را در برابر مردم پاسخگو باشند. با این حال، توافق نامه های محرمانه گسترده ما را از ابراز نگرانی های خود باز می دارد.
این نامه تنها چند هفته پس از تحقیقات Vox منتشر می شود که نشان می دهد OpenAI تلاش می کند کارمندانی را که اخیراً شرکت را ترک کرده اند مجبور کند بین امضای یک قرارداد سوء استفاده یا خطر از دست دادن سهام خود در شرکت یکی را انتخاب کنند.
پس از این گزارش، سام آلتمن، مدیر عامل OpenAI گفت که “واقعا خجالت زده” است و مدعی شد که این توافق از اسنادی که قرار بود هنگام ترک شرکت امضا کند حذف شده است. اگرچه مشخص نیست که آیا هنوز برای برخی از کارمندان قابل اجرا است یا خیر.
13 امضاکننده این نامه سرگشاده شامل کارمندان سابق OpenAI به نامهای جاکوب هینتون، ویلیام ساندرز و دانیل کوکوتایلو هستند.
کوکوتایلو می گوید که پس از از دست دادن اعتماد به نفس در توسعه مسئولانه هوش مصنوعی از شرکت استعفا داد. هوش عمومی مصنوعی اصطلاحی است که برای توصیف سیستم‌های هوش مصنوعی به کار می‌رود که به اندازه انسان هوشمند یا باهوش‌تر هستند.
این نامه که توسط کارشناسان برجسته هوش مصنوعی جفری هینتون، جاشوا بنجیو و استوارت راسل امضا شده است، نگرانی های جدی در مورد عدم نظارت موثر دولت بر هوش مصنوعی و مشوق های مالی که غول های فناوری را به سرمایه گذاری در این فناوری سوق می دهد، ابراز می کند.
نویسندگان نامه هشدار می دهند که توسعه کنترل نشده سیستم های هوش مصنوعی قدرتمند می تواند منجر به انتشار اطلاعات نادرست، تشدید نابرابری و حتی به از دست دادن کنترل انسان بر سیستم های خودمختار و حتی به طور بالقوه به انقراض انسان ها شود.
کوکوتایلو در شبکه اجتماعی X نوشت: هنوز چیزهای زیادی در مورد نحوه عملکرد این سیستم ها و اینکه آیا با هوشمندتر شدن و در نهایت پیشی گرفتن از هوش انسانی در همه زمینه ها مطابق با منافع انسانی باقی می مانند یا خیر، باقی مانده است. هیچ نظارتی بر این فناوری وجود ندارد. در عوض، ما به شرکت هایی که آنها را برای خودمختاری می سازند تکیه می کنیم. در زمانی که انگیزه سود و هیجان این فناوری آنها را به حرکت سریع و شکستن مرزها سوق می دهد، ما تنها افرادی هستیم که می توانیم به مردم هشدار دهیم.
شرکت‌های OpenAI، Google DeepMind و Anthropic هنوز به درخواست خبرنگاران و رسانه‌ها برای اظهارنظر درباره این نامه پاسخ نداده‌اند. تنها سخنگوی OpenAI در بیانیه‌ای به بلومبرگ گفت که این شرکت به سابقه خود در ارائه قوی‌ترین و ایمن‌ترین سیستم‌های هوش مصنوعی افتخار می‌کند و به رویکرد علمی خود برای مقابله با ریسک اعتقاد دارد. وی افزود: ما موافقیم که بحث های مفصل با توجه به اهمیت این فناوری بسیار مهم است و ما به تعامل با دولت ها، جامعه مدنی و سایر جوامع در سراسر جهان ادامه خواهیم داد.
امضا کنندگان این نامه از شرکت های هوش مصنوعی خواسته اند که چهار اصل اصلی زیر را رعایت کنند:
از انتقام گرفتن از کارکنانی که نگرانی های ایمنی را مطرح می کنند خودداری کنید.
حفظ یک سیستم افشاگر ناشناس برای هشدار به مردم و نهادهای نظارتی در مورد خطرات هوش مصنوعی
ایجاد فرهنگ انتقاد باز
از قراردادهای الزام آور یا غیر افشایی که مانع از صحبت کارمندان در مورد این مسائل می شود، خودداری کنید.
این نامه در بحبوحه بررسی های فزاینده بر روی شیوه های OpenAI، از جمله انحلال تیم امنیتی آن و خروج چهره های کلیدی مانند یکی از بنیانگذاران آن، Ilya Sutskever و Jan Leyke منتشر شده است که معرفی محصولات چشم نواز و پر زرق و برق را در اولویت قرار داده اند و در مورد ایمنی مورد انتقاد قرار گرفته اند. منتشر شده.
