شرکت اوپنایآی (OpenAI)، توسعهدهنده چتجیپیتی (ChatGPT)، اعلام کرد که یک ابزار خودکار با قابلیت اجرای متوالی دستورات بدون نیاز به دخالت انسان، توانسته است با نفوذ به اطلاعات ورود کاربران، از آنها سوءاستفاده کند.
به گفته مقامات این شرکت، این عامل خودمختار پس از هک کردن استارتاپ آمریکایی «هاگینگ فیس» (Hugging Face) - پلتفرمی محبوب در میان برنامهنویسان - به چهار سرویس عمومی ناشناس دیگر نیز نفوذ کرده است.
اوپنایآی اواخر روز سهشنبه در بهروزرسانی یک پست وبلاگی درباره تحقیقات این حادثه، تأیید کرد که عامل هوش مصنوعی مذکور این چهار سرویس عمومی را تحتتأثیر قرار داده است، اما نامی از شرکتهای هدف نبرد.
افشای این جزئیات، ابعاد تازهای به این حادثه سایبری میبخشد که کارشناسان اوپنایآی آن را بیسابقه توصیف کردهاند. این رویداد زمانی آغاز شد که دو مدل هوش مصنوعی این شرکت، سایت هاگینگ فیس را که بستر ذخیره و اشتراکگذاری کدها و مدلهای هوش مصنوعی است، هک کردند.
مدیران اوپنایآی هفته گذشته تأیید کردند که در مرحله آزمایش، مدلهای پشتیبان این عامل هوش مصنوعی توانستهاند از محیط ایزوله خود خارج شوند و برای یافتن راههای نفوذ به هاگینگ فیس، مستقیماً به اینترنت متصل گردند.
عوامل خودمختار هوش مصنوعی، سیستمهایی هستند که برخلاف چتباتهای معمولی - که صرفاً به دستورات مرحلهبهمرحله پاسخ میدهند - وظایف را به صورت خودکار اجرا میکنند. اگرچه صنعت فناوری از این سیستمها به عنوان مرحله بعدی تکامل هوش مصنوعی یاد میکند، اما توسعه آنها نگرانیهای عمومی را درباره عملکرد خودمختار و خارج از کنترل ماشینها برانگیخته است.
تیم تحقیقاتی اوپنایآی در گزارش تکمیلی خود اعلام کرد به موارد معدودی برخورده است که در آنها، مدلهای هوش مصنوعی توانستهاند اطلاعات ورودِ محافظتنشده کاربران در سایر شرکتها را به صورت آنلاین پیدا کرده و از آنها برای ورود به سرویسهای خارجی استفاده کنند.
به گفته نمایندگان این شرکت، در جریان هک هاگینگ فیس، این مدلها به چهار حساب کاربری در چهار سرویس مختلف نفوذ کردند. از این میان، یک حساب به عنوان «مسیر استقرار» (ایستگاهی واسط برای هدایت فعالیت هوش مصنوعی و پاک کردن ردپای آن) و حساب دیگر برای ذخیره دادهها استفاده شده است.
گزارشها حاکی از آن است که دسترسی به دو حساب دیگر صرفاً از نوع «فقط خواندنی» بوده است. مدیران اوپنایآی تأکید کردهاند که این میزان دسترسی، کمکی به پیشبرد روند نفوذ به هاگینگ فیس نکرده است.
سخنگوی این شرکت با بیان اینکه اوپنایآی در حال تماس با صاحبان حسابهای آسیبدیده است، افزود تاکنون هیچ شواهدی مبنی بر تأثیرات مخرب گستردهتر بر این ارائهدهندگان خدمات یا سایر کاربران آنها مشاهده نشده است.
بهبود محیطهای ایزوله آزمایشی
سم آلتمن، مدیرعامل اوپنایآی، در مصاحبهای که روز سهشنبه منتشر شد، اعلام کرد این شرکت پس از وقوع حادثه اخیر، آزمایشهای خود را موقتاً متوقف کرده است. این اقدام با هدف ارتقای امنیت فرآیند «سندباکسینگ» (Sandboxing) یا ایزوله کردن آزمایشهای ایمنی در یک محیط کنترلشده صورت گرفت.
همزمان، این حادثه به شکلگیری طوماری با امضای بیش از ۱۲۰۰ نفر از کارکنان شرکتهای پیشرو در حوزه هوش مصنوعی، از جمله داریو آمودی، مدیرعامل شرکت آنتروپیک (Anthropic)، منجر شد. امضاکنندگان این طومار از دولت ایالات متحده خواستهاند تا روند عرضه عمومی پیشرفتهترین مدلهای هوش مصنوعی را کندتر کند.
از سوی دیگر، این اقدام با واکنش و اتهامزنی برخی فعالان سیلیکونولیِ نزدیک به کاخ سفید روبهرو شده است. آنها مدعیاند که این شرکتها صرفاً برای محافظت از مدلهای تجاری خود و مسدود کردن مسیر ظهور رقبای جدید، خواستار اعمال مقررات سختگیرانهتر دولتی شدهاند.
دونالد ترامپ، رئیسجمهوری ایالات متحده، روز چهارشنبه با اشاره به این موضوع تأکید کرد که واشنگتن باید میان ضرورت اعمال کنترلهای نظارتی و اطمینان از عقب نماندن از سایر کشورها در توسعه هوش مصنوعی، تعادل ایجاد کند.
او در دفتر بیضیشکل کاخ سفید به خبرنگاران گفت: «ما باید در هر دو زمینه محتاط باشیم. نمیخواهیم چنان محدودیتهایی ایجاد کنیم که ناگهان در این رقابت، پس از چین در جایگاه دوم قرار بگیریم.»
این حادثه سایبری همچنین گمانهزنیهایی را در میان برخی ناظران برانگیخته است مبنی بر اینکه مدیران اوپنایآی از این حمله سایبری به عنوان ترفندی تبلیغاتی برای بازاریابی قدرت مدلهای پیشرفته خود بهره میبرند.
پیش از این نیز اتهام مشابهی به شرکت آنتروپیک وارد شده بود؛ بهویژه زمانی که این شرکت عرضه عمومی مدل قدرتمند «میتوس» (Mythos) خود را به دلیل نگرانیهای مرتبط با امنیت سایبری متوقف کرد.
اگرچه آنتروپیک در نهایت نسخه محدودتری از میتوس را تحت عنوان «فیبل ۵» (Fable 5) منتشر کرد، اما مقامات دولت ایالات متحده با استناد به خطرات امنیت ملی، به سرعت این شرکت را وادار به حذف آن کردند.
در نهایت، نهادهای دولتی اواخر ماه ژوئن و پس از اعمال برخی اصلاحات امنیتی، چراغ سبز خود را برای انتشار مجدد این مدل نشان دادند.
