قانون‌گذاران آمریکایی درباره حادثه خروج عامل‌های شرکت «اوپن‌ای‌آی» از یک محیط ایزوله آزمایشی و حمله آن‌ها به مخزن کدنویسی «هاگینگ فیس» تحقیق می‌کنند.
کارشناسان فناوری و امنیت در یکی از نشست‌های مهم استماع مجلس سنای آمریکا هشدار دادند که عامل‌های خودمختار هوش مصنوعی در حال حاضر تهدیدی جدی برای زیرساخت‌های حیاتی محسوب می‌شوند. این کارشناسان از قانون‌گذاران خواستند تا نظارت‌های قانونی را تشدید کرده و توسعه‌دهندگان را از نظر حقوقی پاسخگو کنند.
زیرکمیته مدیریت بحران، وابسته به کمیته امنیت داخلی و امور دولتی سنای آمریکا، این نشست را با عنوان «هوش مصنوعی سرکش: ایمن‌سازی کشور در برابر حملات عامل‌های هوش مصنوعی» برگزار کرد. این جلسه بر حادثه اخیر متمرکز بود؛ رویدادی که در آن گروهی متشکل از حدود هزار عامل «اوپن‌ای‌آی» از یک محیط ایزوله آزمایشی خارج شدند، یک شبکه ارتباطی غیرمجاز ایجاد کردند و به زیرساخت پلتفرم کدنویسی «هاگینگ فیس» نفوذ کردند.
سناتور جاش هاولی در آغاز این جلسه استدلال کرد که آزمایشگاه‌های هوش مصنوعی باید مشمول مسئولیت مطلق تولیدکننده شوند.
هاولی گفت: «هر شرکتی در این کشور که محصولی تولید می‌کند، پایبند به این اصل است. اگر محصولی معیوب بسازید که به مردم آسیب برساند، سازندگان آن موظف به پرداخت غرامت هستند.»
وی افزود: «فکر می‌کنم زمان آن فرا رسیده است که در قبال هوش مصنوعی نیز به همین رویه بازگردیم.»
در همین حال، ماریوس هوبان، مدیرعامل شرکت «آپولو ریسرچ»، در این نشست گواهی داد که مدل‌های پیشرفته هوش مصنوعی در حال استدلال درونی و توسعه زبانی غیرانسانی هستند.
هنگامی که از او پرسیده شد هوش مصنوعی چه زمانی قادر به ابداع زبانی خواهد بود که انسان‌ها نتوانند آن را به‌روشنی درک کنند، پاسخ داد: «منفی ۱۲ ماه. سال گذشته، ما با همکاری اوپن‌ای‌آی زنجیره افکار یکی از مدل‌های این شرکت را بررسی کردیم و دریافتیم که این مدل از همان زمان در حال استفاده از زبانی بود که نه انگلیسی محسوب می‌شد و نه برای انسان‌ها کاملاً قابل درک بود.»
بی‌اعتمادی عمومی
از سوی دیگر، دانیل کوکوتایلو، مدیر اجرایی پروژه آینده هوش مصنوعی (AI Futures Project) و کارمند پیشین «اوپن‌ای‌آی»، هشدار داد: «اکنون تقریباً تمام کدها را هوش مصنوعی می‌نویسد و مهندسان انسانی بیشتر شبیه مدیرانی برای عامل‌های هوش مصنوعی خود عمل می‌کنند.»
همچنین، کرت گادت، از مدیران شرکت «دراگوس»، هشدار داد که در حال حاضر تمام خدمات ضروری و حیاتی، اهدافی برای حملات سایبری خودکار به شمار می‌روند.
برگزاری این جلسه استماع با انتشار نتایج یک نظرسنجی سراسری از سوی دانشگاه «کویینی‌پیاک» هم‌زمان شد. این نظرسنجی نشان می‌دهد که ۷۳ درصد از بزرگسالان آمریکایی نگران تهدید بقای انسان توسط سیستم‌های آینده هوش مصنوعی هستند. افزون بر این، ۸۶ درصد از شهروندان از الزام استانداردهای ایمنی مستقل حمایت می‌کنند و ۷۴ درصد نیز به رهبران صنعت فناوری بی‌اعتمادند.
در پی تشدید نگرانی‌های ایمنی، گوگل روز چهارشنبه اعلام کرد که عرضه قدرتمندترین مدل خود یعنی «جمینای ۴ آرگون» (Gemini 4 Argon) را متوقف کرده و دسترسی به آن را تنها به متخصصان تاییدصلاحیت‌شده در حوزه امنیت سایبری محدود می‌کند.
این تصمیم، مشابه اقدام شرکت «آنتروپیک» برای عرضه محدود «کلود میتوس پریویو» (Claude Mythos Preview) پس از تعلیق‌های موقت فدرال در ماه ژوئن است.
این اقدامات پس از برگزاری نشست سران در کاخ سفید صورت می‌گیرد؛ نشستی که در آن مدیران ارشد فناوری توافق‌نامه‌هایی داوطلبانه را امضا کردند و متعهد شدند تا بر خطرات مدل‌های پیشرفته هوش مصنوعی نظارت درون‌سازمانی داشته باشند.
