آنگونه که خبرگزاری ایسنا گزارش کرده است، یک پژوهشگر حوزه انسانشناسی که پیش از این در شرکت «اوپنایآی»(OpenAI) فعالیت داشته، به تازگی از شرکت «آنتروپیک»(Anthropic) استعفا داده است. به گزارش ایسنا، این فرد به عنوان جدیدترین عضو داخلی این شرکت، نسبت به رقابت در زمینه هوش مصنوعی هشدار داده و آن را به طرز خطرناکی بیپروا توصیف کرده است.
به نقل از بیزینس اینسایدر، «جیکوب کاکسون»(Jacob Coxon) روز سهشنبه استعفای خود را از آنتروپیک اعلام کرد و گفت که سه سال گذشته را به تحقیقات پیش از آموزش در این دو شرکت بزرگ هوش مصنوعی اختصاص داده است.
کاکسون در حساب کاربری خود در ایکس نوشت: هیچیک از این شرکتها به طور مسئولانه عمل نمیکنند. آنها به سمت توسعه هوش مصنوعی خودبهبوددهنده در حال حرکت هستند و بر روی زندگی ما قمار میکنند.
کاکسون از سال ۲۰۲۳ تا ژوئیه ۲۰۲۶ در کادر فنی اوپنایآی فعالیت کرده و سپس به عنوان پژوهشگر به آنتروپیک منتقل شد. تحقیقات او در اوپنایآی شامل کار بر روی «GPT-4o» بود.
او در پست روز سهشنبه خود اشاره کرد که این دو شرکت در مورد نگرانیهای خود درباره هوش مصنوعی شفاف نبودهاند. کاکسون افزود: افرادی که هوش مصنوعی را توسعه میدهند، به طور صادقانه معتقدند که این فناوری میتواند تا پایان دهه همه ما را به خطر بیندازد. این یک ترفند بازاریابی نیست. اگر بخواهیم صادق باشیم، باید بگوییم که بسیاری از مدیران و پژوهشگران ارشد، عبارات خود را در رسانهها به گونهای بیان میکنند که منطقی به نظر برسد، اما من میشنوم که همین افراد در خفا ابراز نگرانی میکنند.
به گفته کاکسون، تفاوتی بین این دو شرکت وجود دارد. او نوشت: در اوپنایآی، بسیاری از افراد هنوز به طور عمیق مخاطرات تمدنی را درک نکردهاند. در آنتروپیک، این مخاطرات به خوبی درک شدهاند، اما آنها در رقابتی برای رسیدن به هدف خود گرفتار شدهاند و معتقدند که هیچکس دیگری به طور مسئولانه عمل نخواهد کرد. بنابراین، بهرغم وجود خطر، باید خودشان این کار را انجام دهند.
«ایوان هوبینگر»(Evan Hubinger)، یکی از کارمندان کنونی آنتروپیک، در پاسخ به پست کاکسون با او همنظر بود و نوشت: جیکوب در اینجا درست میگوید. ما واقعاً به طور صادقانه معتقدیم که هوش مصنوعی میتواند همه انسانها را به خطر بیندازد. من شخصاً فکر میکنم این احتمال در دهه آینده به بیش از ۱۰ درصد خواهد رسید. من معتقدم که آنتروپیک تمام تلاش خود را میکند، اما هنوز برنامهای برای حل مسئله همترازی هوش مصنوعی برتر نداریم و به وضوح در مسیر آن نیستیم.
شرکتهای اوپنایآی و آنتروپیک به درخواستهای بیزینس اینسایدر برای اظهار نظر پاسخی ندادهاند.