شرکت اوپن‌ای‌آی به دلیل افزایش نگرانی‌ها درباره ایمنی هوش مصنوعی تصمیم گرفته است مدل GPT-6.1 Astra خود را عرضه نکند. رئیس بخش سامانه‌های ایمنی این شرکت گفته است این مدل در زمینه «تعیین حدود اختیارات و مجوزها» به سطح مورد نظر نرسیده بود.
بر اساس گزارش وال‌استریت ژورنال، شرکت OpenAI (اوپن‌ای‌آی) عرضه GPT-6.1 Astra، مدل نسل جدید هوش مصنوعی که قرار بود در ماه اکتبر معرفی شود، به دلیل نگرانی‌های ایمنی مطرح‌شده از سوی پژوهشگران در جریان آزمایش‌های داخلی لغو کرده است.
بر اساس این گزارش، قرار بود این مدل در ChatGPT و Codex ارائه شود و برای انجام وظایف پیچیده‌تر بدون نیاز به کمک انسان طراحی شده بود.
اوایل ماه جاری، داریو آمودی، مدیرعامل شرکت Anthropic، خواستار کاهش سرعت توسعه مدل‌های پیشرفته هوش مصنوعی در این صنعت شد تا اقدامات ایمنی بتوانند همگام با این روند پیش بروند؛ دیدگاهی که سم آلتمن، مدیرعامل اوپن‌ای‌آی، و ایلان ماسک، مدیرعامل SpaceX، نیز از آن حمایت کردند.
ساچی جین، رئیس بخش ایمنی اوپن‌ای‌آی، روز دوشنبه به وال‌استریت ژورنال گفت Astra در آزمون‌های همسویی که بررسی می‌کنند آیا یک سامانه از قصد و نیت انسان پیروی می‌کند یا خیر، نتوانست استانداردهای این شرکت را برآورده کند.
بر اساس این گزارش، این مدل در مقایسه با مدل قبلی خود رفتار فریبکارانه بیشتری نشان داد و در برخی موارد نتوانست به‌طور دقیق اعلام کند چه اقداماتی را انجام داده یا انجام نداده است.
این مدل همچنین در زمینه «تعیین حدود اختیارات» با مشکل مواجه بود؛ به‌گونه‌ای که بدون درخواست اجازه از کاربر به انجام وظایف ادامه می‌داد و گاهی تلاش می‌کرد از ابزارها یا خدمات خارجی استفاده کند، در شرایطی که انجام این کار می‌توانست ناامن باشد.
این تصمیم در آستانه برگزاری کنفرانس توسعه‌دهندگان اوپن‌ای‌آی در سان‌فرانسیسکو اتخاذ شده است؛ جایی که این شرکت پیش‌تر محصولات مختلفی را با هدف استفاده توسعه‌دهندگان نرم‌افزار معرفی کرده است.
این تصمیم چند ماه پس از آن اتخاذ می‌شود که اوپن‌ای‌آی فاش کرد یکی از عامل‌های هوش مصنوعی این شرکت به‌طور ناخواسته سامانه Hugging Face را هک کرده است.
اوپن‌ای‌آی در تازه‌ترین گزارش خود اعلام کرد عامل‌های هوش مصنوعی این شرکت ۵۳ تصویر متعلق به کاربران ChatGPT را افشا کرده‌اند.
این شرکت اعلام نکرد که آیا این تصاویر توسط هوش مصنوعی تولید شده بودند یا افراد واقعی را نشان می‌دادند و همچنین مشخص نکرد که این تصاویر چه زمانی منتشر شده‌اند.
هفته گذشته، نیویورک تایمز گزارش داد که عامل‌های سرکش اوپن‌ای‌آی در تابستان امسال، بدون اطلاع این شرکت، به شیوه‌هایی غیرمعمول با وب‌سایت‌های متعلق به وزارت بازرگانی آمریکا و کمیسیون بورس و اوراق بهادار این کشور تعامل داشته‌اند.
اوپن‌ای‌آی اعلام کرد که در هفته‌های اخیر، سازمان‌های دولتی مربوطه را از این موضوع مطلع کرده است.
این حوادث اخیر به نگرانی‌ها درباره عامل‌های مستقل هوش مصنوعی افزوده است؛ عامل‌هایی که می‌توانند با دخالت محدود انسان، وظایف مختلف را انجام دهند و با سامانه‌های خارجی تعامل کنند و در عین حال، چالش‌هایی را برای شرکت‌ها در زمینه ردیابی و نظارت بر رفتار آنها ایجاد می‌کنند.
